草庐IT

java.lang.ClassNotFoundException : org. openx.data.jsonserde.JsonSerDe 错误

我正在尝试使用iPython从Hive查询表。下面是我的代码的样子。sqlc=HiveContext(sc)sqlc.sql("ADDJARs3://x/y/z/jsonserde.jar")我首先创建一个新的配置单元上下文,然后尝试添加上面的jar。以下是我收到的错误消息。Py4JJavaError:Anerroroccurredwhilecallingo63.sql:java.lang.ClassNotFoundException:org.openx.data.jsonserde.JsonSerDe我还可以如何将此jar添加到Spark类路径? 最佳答案

mongodb - Spark with Mongo DB : java. lang.IncompatibleClassChangeError:实现类

我正在尝试使用Scala将示例MongoDB集合加载到Spark,然后将RDD保存到文本文件。以下是我的代码:valsc=newSparkContext(conf)valmongoConfig=newConfiguration()mongoConfig.set("mongo.input.uri","mongodb://localhost:27017/myDB.myCollectionData")valsparkConf=newSparkConf()valdocuments=sc.newAPIHadoopRDD(mongoConfig,//ConfigurationclassOf[Mon

eclipse - 在项目中包含 Hadoop 类的正确方法是什么

我正在尝试导入一个Hadoop类以在我的项目中使用。importorg.apache.hadoop.fs.*;我通常希望走出去,尝试找到要包含的HadoopJAR文件,将其放在eclipse中的libs文件夹中,然后使用这些类。完成后并没有找到我期望的结果,我问:将Hadoop类包含在我自己的Java类中以便我可以在eclipse中使用它们的正确方法是什么?我发现Hadoop文档令人沮丧,因为它的保质期极短。六个月前的建议显然毫无值(value)。 最佳答案 使用maven和m2e插件,一个hadoop项目非常简单:4.0.0csw

hadoop - 使用 cygwin 在 Windows 中安装 pig

我在windowsxp中使用cygwin安装pig-0.11.1。我提取了我的pig_home文件夹并将其放置在cygwin的用户目录中。当我尝试在提示符下命令./pighelp时,它显示以下错误。其中:(/usr/local/bin:/usr/bin:/cygdrive/c/ProgramFiles/Java/jdk1.6.0_31/bin:/home/sunil/pig-0.11.1/bin中没有hadoop)cygpath:无法创建C:\cygwin\home\sunil\pig-0.11.1\logs的短名称找不到pig.jar。做'antjar',然后再试一次我能得到一些关于

java - 如何用多个外部jar编译一个java源文件?

我有一个hadoop应用程序。我写了一个java程序,它需要org.json.jar包和hadoop-core.jar。我使用以下linux命令编译此源文件。mkdirq3_classesjavac-classpath${HADOOP_HOME}/hadoop-core.jar:${HADOOP_HOME}/org.json-20120521.jar-dq3_classesETLQ3.javajar-cvfq3.jar-Cq3_classes/.编译成功。但是当我用下面的命令运行这个程序时。(相同的命令成功应用于WordCount示例。)hadoopjarq3.jarMainClass

java - 在 hadoop 的提示符下创建和运行可运行的 jar

我想尝试一下Hadoop包中提供的示例WordCount程序。因此,我在eclipse中创建了一个自定义项目,并将整个wordcount代码复制到我的自定义类中。我还在项目的构建路径中包含了所有外部Hadoopjar。最后,尝试创建一个可运行的JAR:文件->导出->Java选项卡->可运行的JAR。但是,我在创建jar时遇到错误:Exportedwithcompilewarnings:custom_project/src/custom_package/CustomWordCount.java尽管代码没有错误,但jar的创建给我带来了问题。如何解决这个问题?

spring - -D 参数在 hadoop jar 命令中无法识别(使用 spring)

下面是我正在运行的命令hadoopjar/-Dext.properties.dir=pathofpropertiesfile>我的spring配置有以下条目...context:property-placeholderlocation="classpath:main/resources/properties/app.properties,file:${ext.properties.dir}/app-qa.properties"但是当我运行它时,我看到下面的错误Couldnotloadproperties;nestedexceptionisjava.io.FileNotFoundExce

hadoop - 在 Map reduce 中每次修改代码都需要创建一个 jar 文件

我正在Hadoop单节点集群中运行一个程序(MapReduce)。经常对MapReduce逻辑进行一些修改。我正在使用EclipseIDE。每次修改逻辑后,我都会创建一个jar文件来检查Hadoop中的Mapreduce作业。每次修改MapReduce逻辑后都创建一个jar文件有点繁琐。有没有更简单的方法来在每次进行更改时创建jar文件?请指教。 最佳答案 不清楚是您必须制作jar文件这一事实还是制作jar的过程似乎太困难的问题。首先,您必须制作一个jar文件才能将作业提交到Hadoop。没有办法解决这个问题。其次,为了简化创建ja

hadoop - -Dpig.additional.jars 包含 HDFS 和本地文件系统上的文件

如何将jar从我的本地文件系统和Hadoop分布式文件系统(HDFS)传递到-Dpig.additional.jars?假设我有两个jar:/home/local/myjar1.jarhdfs:///user/notlocal/myjar2.jar第一个jar在我的本地目录中。第二个jar在HDFS中。我想在Hadoop集群上运行test_script.pig1并将以上两个jar包含在-Dpig.additional.jars中。pig-xmapreduce-ftest_script.pig1-Dpig.additional.jars=/home/local/myjar1.jar:hd

hadoop - 添加 phoenix-4.3.0-server.jar 后 region server 在 cloudera 中失败

我在cloudera的/opt/cloudera/parcels/CDH/lib/hbase/lib中添加了phoenix-4.3.0-server.jar。当我尝试启动服务器(区域和主服务器)时,只有主服务器启动。区域服务器有时会暂时启动并立即关闭。这适用于以前版本的phoenix(4.0.0-incubating)。请帮我解决这个问题。 最佳答案 从4.0.0升级到4.3.0失败的原因是兼容性。由于某种原因,4.3.0不兼容从旧版本的phoenix升级。因此,从4.0.0升级到4.1.0,重新启动HBase服务器,然后通过重新启