草庐IT

local-class

全部标签

Hadoop/YARN 作业失败 - "exited with exitCode: -1000 due to: Could not find any valid local directory for nmPrivate..."

我正在尝试使用Hadoop、YARN和Accumulo运行MapReduce作业。我收到以下输出,但我无法找到问题所在。看起来是YARN问题,但我不确定它在寻找什么。我在$HADOOP_PREFIX/grid/hadoop/hdfs/yarn/logs位置有一个nmPrivate文件夹。这是它说找不到的文件夹吗?14/03/3108:48:46INFOmapreduce.Job:Jobjob_1395942264921_0023failedwithstateFAILEDdueto:Applicationapplication_1395942264921_0023failed2times

class - 为什么我们需要在Hadoop程序中显式设置输出键/值类?

在《Hadoop:TheDefinitiveGuide》一书中,有一个示例程序,代码如下。JobConfconf=newJobConf(MaxTemperature.class);conf.setJobName("Maxtemperature");FileInputFormat.addInputPath(conf,newPath(args[0]));FileOutputFormat.setOutputPath(conf,newPath(args[1]));conf.setMapperClass(MaxTemperatureMapper.class);conf.setReducerCla

java - 错误值类 : class org. apache.hadoop.io.Text 不是类 org.apache.hadoop.io.IntWritable

我使用了一个映射器、一个缩减器和一个组合器类,但出现如下错误:java.io.IOException:wrongvalueclass:classorg.apache.hadoop.io.Textisnotclassorg.apache.hadoop.io.IntWritableatorg.apache.hadoop.mapred.IFile$Writer.append(IFile.java:199)atorg.apache.hadoop.mapred.Task$CombineOutputCollector.collect(Task.java:1307)atorg.apache.hado

hadoop - 错误 : Could not find or load main class org. apache.hadoop.util.VersionInfo

您好,我刚刚开始学习Hadoop。我正在关注“Hadoop权威指南”一书。按照本书的“附录A”在Window7中设置Hadoop时,出现错误“错误:无法找到或加载主类org.apache.hadoop.util.VersionInfo”当我运行命令时hadoop版本任何人都可以知道如何更正此问题或告诉我我缺少什么吗?我正在使用Cygwin64。 最佳答案 如果您在hadoop-config.sh的末尾添加以下行(在HADOOP_INSTALL\libexec中可用),它应该可以工作。CLASSPATH='cygpath-wp"$CL

9. 成功解决:Driver class ‘org.gjt.mm.mysql.Driver‘ could not be found

❤️个人主页:水滴技术🌸订阅专栏:成功解决BUG合集🚀支持水滴:点赞👍+收藏⭐+留言💬问题描述在使用Kettle(Spoon)工具创建MySQL数据库连接时,提示:Driverclass'org.gjt.mm.mysql.Driver'couldnotbefound,makesurethe'MySQL'driver(jarfile)isinstalled.org.gjt.mm.mysql.Driver该提示的意思是缺少MySQL相关的JDBC驱动。原因分析Kettle并工具并没有为所有的数据库提供JDBC驱动,需要自行下载,然后放到lib目录中。解决方案从MySQL官网下载驱动包,步骤如下:第

hadoop - Spark : saveAsTextFile() only creating SUCCESS file and no part file when writing to local filesystem

我正在使用以下命令将RDD写入文件:rdd.coalesce(1).saveAsTextFile(FilePath)当FilePath是HDFS路径(hdfs://node:9000/folder/)时一切正常。当FilePath是本地路径(file:///home/user/folder/)时,一切似乎都正常。输出文件夹已创建,SUCCESS文件也已存在。但是我没有看到任何包含输出的part-00000文件。没有其他文件。spark控制台输出也没有错误。我还尝试在调用saveAsTextFile()之前调用RDD上的collect,为输出文件夹提供777权限,但没有任何效果。请帮忙。

hadoop - Rack-local map任务和Data-local map任务有什么区别?

当我运行“hadoopjob-statusxxx”时,输出以下一些列表。Rack-localmaptasks=124Data-localmaptasks=6Rack-localmaptasks和Data-localmaptasks有什么区别? 最佳答案 在本地数据任务中,不需要复制任何内容。那是因为该block与计算物理上位于同一台服务器上。下一层是机架本地任务,这里必须复制数据,因为没有可用的所需block的本地副本。请注意,本地机架仅在网络的本地机架交换中复制。还有最坏的情况,数据在本地不可用,也不在同一机架上。所以这必须通过两

Hadoop MapReduce : Possible to define two mappers and reducers in one hadoop job class?

我有两个单独的java类来执行两个不同的mapreduce作业。我可以独立运行它们。对于这两个作业,它们所操作的输入文件是相同的。所以我的问题是是否可以在一个java类中定义两个映射器和两个缩减器,例如mapper1.classmapper2.classreducer1.classreducer2.class然后点赞job.setMapperClass(mapper1.class);job.setmapperClass(mapper2.class);job.setCombinerClass(reducer1);job.setCombinerClass(reducer2);job.set

hadoop - 为什么 Hadoop 报告 "Unhealthy Node local-dirs and log-dirs are bad"?

我正在尝试在我的PC上设置单节点Hadoop2.6.0集群。访问时http://localhost:8088/cluster,我发现我的节点被列为“不健康节点”。在健康报告中,它提供了错误:1/1local-dirsarebad:/tmp/hadoop-hduser/nm-local-dir;1/1log-dirsarebad:/usr/local/hadoop/logs/userlogs怎么了? 最佳答案 local-dirs坏的最常见原因是节点上的可用磁盘空间超过了yarn的max-disk-utilization-per-di

php - 向 Auth Class Laravel 添加自定义函数(扩展 Guard 类)

我修改了放置在的Laravel供应商文件/vendor/laravel/framework/src/Illuminate/Auth/Guard.php但它会在更新Laravel时被覆盖。我正在寻找一种方法将代码放在我的/app中的某处以防止覆盖。修改的函数为publicfunctionUpdateSession(){$this->session->set('type',$type);//==>SetClientType}文件上还有一个新函数:publicfunctiontype(){return$this->session->get('type');//==>GetClientType