草庐IT

MY_CLASS

全部标签

java - pig 服务器 log4j :ERROR Could not instantiate class [org. apache.hadoop.log.metrics.EventCounter]

我使用嵌入在Java中的Pig。我想实例化PigServer来执行一个Pig语句。我的第一句话是:PigServerpigServer=newPigSever("local")当我执行这段代码时,出现了以下错误:log4j:ERRORCouldnotinstantiateclass[org.apache.hadoop.log.metrics.EventCounter].java.lang.ClassNotFoundException:org.apache.hadoop.log.metrics.EventCounteratjava.net.URLClassLoader$1.run(URL

java - 在运行一个简单的 MapReduce 程序时获取 java.lang.ClassCastException : class java. lang.String

我正在尝试执行一个简单的MapReduce程序,其中Map接受输入,将其分成两部分(key=>String和value=>Integer)reducer汇总相应键的值我每次都收到ClassCastException。我无法理解,代码中的什么导致了这个错误我的代码:importjava.io.IOException;importjava.util.Iterator;importorg.apache.hadoop.fs.Path;importorg.apache.hadoop.io.LongWritable;importorg.apache.hadoop.io.Text;importorg

hadoop - Couchbase/hadoop 连接器 : sqoop job FAILED "Found interface org.apache.hadoop.mapreduce.TaskAttemptContext, but class was expected"

我的配置:CouchBase服务器2.0Sqoop1.4.2(为hadoop版本2.0.0编译)栈HadoopCDH4.1.2我想使用CouchBase/Hadoop连接器(http://www.couchbase.com/develop/connectors/hadoop),但是当我启动导入时出现以下错误:sqoop-import--connecthttp://localhost:8091/pools--tableDUMP13/01/0711:00:34INFOtool.CodeGenTool:Beginningcodegeneration13/01/0711:00:34INFOor

hadoop - HbaseTestingUtility : could not start my mini-cluster

我正在尝试使用HbaseTestingUtility测试我的Hbase代码。每次我使用下面的代码片段启动我的迷你集群时,我都会遇到异常。publicvoidstartCluster(){FileworkingDirectory=newFile("./");Configurationconf=newConfiguration();System.setProperty("test.build.data",workingDirectory.getAbsolutePath());conf.set("test.build.data",newFile(workingDirectory,"zooke

hadoop - Sqoop 导入问题 - java.lang.IncompatibleClassChangeError : Found class org. apache.hadoop.mapreduce.JobContext,但接口(interface)是预期的

我正在使用Sqoop1.4.3与hadoop1.2.4和hive0.11.0当我尝试执行sqoop导入时:它抛出了IncompatibleClassChangeError。任何解决这个问题的建议..使用的Sqoop命令:sqoopimport--connectjdbc:mysql://localhost:3306/employees\--usernametest--passwordtest跟踪:Exceptioninthread"main"java.lang.IncompatibleClassChangeError:Foundclassorg.apache.hadoop.mapredu

python - pickle .PicklingError : args[0] from __newobj__ args has the wrong class with hadoop python

我正在尝试通过spark删除停用词,代码如下fromnltk.corpusimportstopwordsfrompyspark.contextimportSparkContextfrompyspark.sql.sessionimportSparkSessionsc=SparkContext('local')spark=SparkSession(sc)word_list=["ourselves","out","over","own","same","shan't","she","she'd","what","the","fuck","is","this","world","too","w

hadoop - 如何使用 oozie.launcher.action.main.class 将参数传递给 Oozie 操作?

Oozie有一个名为oozie.launcher.action.main.class的配置属性,您可以在其中为map-reduce操作(或shell操作)传入“主类”的名称,如下所示:oozie.launcher.action.main.classcom.company.MyCascadingClass但是我需要将参数传递给我的主类,但找不到实现它的方法。有什么想法吗?我问这个问题是因为我正尝试从Oozie中启动一个级联类/流,但到目前为止我尝试过的所有选项都失败了。如果有人从Oozie获得了Cascading功能,请告诉我,我会发布另一个问题来特别询问这个问题。

class - 为什么我们需要在Hadoop程序中显式设置输出键/值类?

在《Hadoop:TheDefinitiveGuide》一书中,有一个示例程序,代码如下。JobConfconf=newJobConf(MaxTemperature.class);conf.setJobName("Maxtemperature");FileInputFormat.addInputPath(conf,newPath(args[0]));FileOutputFormat.setOutputPath(conf,newPath(args[1]));conf.setMapperClass(MaxTemperatureMapper.class);conf.setReducerCla

java - 错误值类 : class org. apache.hadoop.io.Text 不是类 org.apache.hadoop.io.IntWritable

我使用了一个映射器、一个缩减器和一个组合器类,但出现如下错误:java.io.IOException:wrongvalueclass:classorg.apache.hadoop.io.Textisnotclassorg.apache.hadoop.io.IntWritableatorg.apache.hadoop.mapred.IFile$Writer.append(IFile.java:199)atorg.apache.hadoop.mapred.Task$CombineOutputCollector.collect(Task.java:1307)atorg.apache.hado

hadoop - 错误 : Could not find or load main class org. apache.hadoop.util.VersionInfo

您好,我刚刚开始学习Hadoop。我正在关注“Hadoop权威指南”一书。按照本书的“附录A”在Window7中设置Hadoop时,出现错误“错误:无法找到或加载主类org.apache.hadoop.util.VersionInfo”当我运行命令时hadoop版本任何人都可以知道如何更正此问题或告诉我我缺少什么吗?我正在使用Cygwin64。 最佳答案 如果您在hadoop-config.sh的末尾添加以下行(在HADOOP_INSTALL\libexec中可用),它应该可以工作。CLASSPATH='cygpath-wp"$CL