草庐IT

distributed-filesystem

全部标签

java - 未由 S3FileSystem FileSystem 实现 Hadoop Jar 实现

我已经在我的mavenpom中添加了这些构建配置,因为我希望将ApacheSolr依赖项与Jar捆绑在一起。否则我得到了SolarServerException:ClassNotFound,现在我没有得到那个异常,而是下面显示的一个新异常(在Pom片段之后)maven-assembly-pluginjar-with-dependenciesmake-assemblypackagesingle这会创建两个Jar文件,一个带有依赖项,一个简单的jar。JarwithDeps,抛出这个错误,Exceptioninthread"main"java.lang.UnsupportedOperati

Java 异常 : No FileSystem for scheme

下面的代码将数据从我的本地机器复制到hdfsConfigurationconf=newConfiguration();conf.addResource(newPath("/etc/hadoop/conf/core-site.xml"));conf.addResource(newPath("/etc/hadoop/conf/hdfs-site.xml"));FileSystemfs=FileSystem.get(conf);fs.moveFromLocalFile(newPath("/path/to/file"),newPath("/path/to/hdfs/"));当我在eclipse

hadoop - "Hadoop distribution"是什么意思

我是hadoop的新手。我最近阅读了有关ApacheHadoop、Pig、Hive、HBase的基础知识。然后我遇到了术语“Hadoop分布”,例子有Cloudera、MAPR、HortonWorks。那么ApacheHadoop(及其回声系统)与“HadoopDistribution”的关系是什么它像Java虚拟机规范(文档)和OracleJVM、IBMJVM(文档的工作实现)吗?但是我们从Apache获得zip,这实际上是逻辑实现。所以我有点困惑。 最佳答案 SinceHadoopisanopensourceproject,an

hadoop - Pig、Oozie 和 HBase - java.io.IOException : No FileSystem for scheme: hbase

我的Pig脚本本身运行良好,直到我将它放入Oozie工作流中时,我收到以下错误:ERROR2043:Unexpectederrorduringexecution.org.apache.pig.backend.executionengine.ExecException:ERROR2043:Unexpectederrorduringexecution....Causedby:java.io.IOException:NoFileSystemforscheme:hbase我成功注册了HBase和Zookeeperjar,但收到了同样的错误。我还尝试通过在Pig脚本中添加这些行的变体来设置Zoo

hadoop - HDFS:FileSystem.exists(path) 在现有资源上返回 false?

我在本地运行的HadoopHDFS(我的工作站是名称/数据节点)中遇到文件访问困难。在我的HDFS中,我有一个位于文件夹"/huser/data.txt"中的文件我可以用hdfsdfs-ls/huser确认该文件存在。我通过调用FileSystem.get(uri,config)创建文件系统,uri是hdfs://localhost:9000如果我调用org.apache.hadoop.fs.FileSystem的exist方法,我总是得到一个false作为返回值。我尝试了各种参数组合,但我想知道我做错了什么:fs.exists(newPath("hdfs:/huser/data.tx

hadoop - "Child Error"in Executing stream Job on multi node Hadoop cluster (cloudera distribution CDH3u0 Hadoop 0.20.2)

我在8节点Hadoop集群上工作,我正在尝试使用指定的配置执行一个简单的流作业。hadoopjar/usr/lib/hadoop-0.20/contrib/streaming/hadoop-streaming-0.20.2-cdh3u0.jar\-Dmapred.map.max.tacker.failures=10\-Dmared.map.max.attempts=8\-Dmapred.skip.attempts.to.start.skipping=8\-Dmapred.skip.map.max.skip.records=8\-Dmapred.skip.mode.enabled=tru

java - Hadoop/Eclipse - 线程 "main"java.lang.NoClassDefFoundError : org/apache/hadoop/fs/FileSystem 中的异常

我正在尝试运行来自ManningPublishing的ChuckLam的HadoopinAction中的PutMerge程序。它应该很简单,但我在尝试运行它时遇到了很多问题,而且我遇到了这个我无法弄清楚的错误。同时,我正在运行一个基本的wordcount程序,没有任何问题。我现在已经花了大约3天时间。我已经对此进行了所有可能的研究,但我迷路了。你有什么想法吗?程序:importjava.io.IOException;importorg.apache.hadoop.conf.Configuration;importorg.apache.hadoop.fs.FSDataInputStrea

azure - Spark 壳错误 : No FileSystem for scheme: wasb

我们在Azure中运行HDInsight集群,但它不允许在创建集群时启动边缘/网关节点。所以我通过安装创建了这个边缘/网关节点echo'debhttp://private-repo-1.hortonworks.com/HDP/ubuntu14/2.x/updates/2.4.2.0HDPmain'>>/etc/apt/sources.list.d/HDP.listecho'debhttp://private-repo-1.hortonworks.com/HDP-UTILS-1.1.0.20/repos/ubuntu14HDP-UTILSmain'>>/etc/apt/sources.l

java - 为什么 Hadoop FileSystem.get 方法需要知道完整的 URI 而不仅仅是方案

是否可以使用从任何有效的hdfsurl创建的Hadoop文件系统实例再次用于读取和写入不同的hdfsurl。我尝试了以下Stringurl1="hdfs://localhost:54310/file1.txt";Stringurl2="hdfs://localhost:54310/file2.txt";Stringurl3="hdfs://localhost:54310/file3.txt";//Creatingfilesystemusingurl1FileSystemfileSystem=FileSystem.get(URI.create(url1),conf);//Usingsam

hadoop - CDH(Cloudera Distribution for hadoop) 是开源的吗?

CDH(ClouderaDistributionforhadoop)是开源的还是商业的?非常感谢对此的任何意见。 最佳答案 "AllsoftwaredevelopedbyClouderaforCDHisreleasedwithanApache2.0license".换句话说,它是开源的。 关于hadoop-CDH(ClouderaDistributionforhadoop)是开源的吗?,我们在StackOverflow上找到一个类似的问题: https://s