草庐IT

lib-projects

全部标签

jar - 如何在我的 map/reduce 作业中使用更新版本的 hadoop/lib jar?

Hadoop目前在其lib文件夹中附带commons-httpclient-3.0.1.jar。如果我有一个需要commons-httpclient-3.1.jar的map/reduce任务,将这个jar捆绑到我的hadoopjar的lib文件夹中似乎是不够的(就像对任何普通的外部jar所做的那样)依赖项),因为hadoop似乎正在从其lib文件夹中加载以前的jar,而不是使用我提供的那个。不可能使用hadoop也使用的不同版本的jar? 最佳答案 如果一切都失败了,使用maven-shade-plugin重命名commons-ht

hadoop - Nutch : org. apache.hadoop.mapreduce.lib.input.InvalidInputException: 输入路径不存在

当我执行nutch命令创建crawdb文件夹和内容时:soporte@CNEOSYLAP/usr/local/apache-nutch-2.2.1/runtime/local$bin/nutchcrawlurls-dircrawl-depth3-topN5我收到这个错误:InjectorJob:Usingclassorg.apache.gora.hbase.store.HBaseStoreastheGorastorageclass.Exceptioninthread"main"org.apache.hadoop.mapreduce.lib.input.InvalidInputExcep

shell - Hbase shell 警告 : hadoop. native.lib 已弃用。相反,使用 io.native.lib.available

您好,我一直在配置与Hadopp2.2兼容的Hbase0.96。以前我有版本hbase-0.94.11和hadoop-1.2.1。我按照文档和我以前的经验做了。现在,在0.96中登录到hbaseshell时,我收到以下警告:hadoop.native.lib已弃用。相反,使用io.native.lib.available我试图用http://balanceandbreath.blogspot.com/2013/01/utilnativecodeloader-unable-to-load.html解决这个问题我正在尝试通过http://hadoop.apache.org/docs/cur

hadoop - Apache-PIG 脚本 : ERROR Invalid field projection on joined variable

我创建的Pig脚本有效,除非我尝试在我加入的字段上使用GENERATE。cc_data=LOAD'default.complaint1'USINGorg.apache.hive.hcatalog.pig.HCatLoader();cc2_data=LOAD'default.complaint2'USINGorg.apache.hive.hcatalog.pig.HCatLoader();combined=joincc_databycomplaintid,cc2_databycomplaintid;如果我对我的组合执行DESCRIBE,它会显示如下:合并:{cc_data::datere

java - 添加 hapi 3rd-party lib (jars) 到 map-reduce

我正在尝试将hapijar添加到map-reduce任务中。我在/home/training/lib下有所有需要的jar我制作了包含我需要并运行的所有hapijar的fatjarhadoopjarmp.jarstubs.MsgParserinfileoutfile-libjars/home/training/lib我懂了Usage:MsgParser[genericoptions]在我的驱动程序中,我实现了ToolRunner更多信息:我在CloudEra发行版上运行。我只需要映射器中的jarmp.jar是从Eclipse导出的jar我的hadoopjar命令是否需要修改或是否有任何其

mysql - 配置单元 : why is metastore_db created in my project folder?

我把hive-site.xml在我的spark/confdir并将其配置为连接到thrift://:9083而且我没有使用derby我有mysql-connector-jar在hive/lib文件夹中,每次我创建hive表和存储数据时,所有数据都存储在metastore_db中在我的项目目录中,而不是在我的hdfs://:9000/user/hive/warehouse中,所以如果我删除metastore_db数据就会丢失。conf/hive-site.xmljavax.jdo.option.ConnectionURLjdbc:mysql://saurab:3306/metastore

ubuntu - 安装hadoop时如何修复 "Error: Could not find or load main class ” -Djava.library.path=.usr.local.hadoop.lib”

我正在尝试在Ubuntu上安装Hadoop2.9.2。我在~/.bashrc和env.sh文件中设置了相同的JAVA_HOME路径。在hadoop_store下使用正确的路径为数据节点和名称节点创建了两个单独的目录。Java版本是“java-11-openjdk-amd64”。在hadoop文件系统中格式化namenode时,我仍然面临错误。请帮助我解决它。指向我一直遵循其说明的页面的链接。https://www.digitalvidya.com/blog/install-hadoop-on-ubuntu-and-run-your-first-mapreduce-program/这是错

java - 让 Ant 把依赖的 jar 放在 ./lib

我是否让antjar任务将依赖的jar放在目录./lib中?目前,ant将它们放在./.原因是带有MapR的AmazonHadoopEMR似乎需要这个。 最佳答案 您可以使用嵌套的zipfileset有一个前缀来做到这一点。 关于java-让Ant把依赖的jar放在./lib,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/12330851/

maven - 奥齐 : Could not resolve dependencies for project org. Apache .奥齐 :oozie-sharelib-oozie:jar:4. 0.1

我在尝试构建oozie时遇到错误。Hadoop版本:Hadoop2.4.0JDK:1.8我使用这个命令来运行oozie:./mkdistro.sh-DskipTests运行上面的代码会出现以下错误:我不确定发生了什么问题。[INFO]ReactorSummary:[INFO][INFO]ApacheOozieMain.................................SUCCESS[3.519s][INFO]ApacheOozieClient...............................SUCCESS[1:27.702s][INFO]ApacheOozie

hadoop - 为什么我需要在 hdfs 中保留 hbase/lib 文件夹?

我有一个主集群,它在Hbase中有一些数据,我想复制它。我已经创建了一个备份集群并创建了我要复制的表的快照。我正在尝试将快照从源集群导出到目标,但出现了一些错误。我在执行./hbaseorg.apache.hadoop.hbase.snapshot.ExportSnapshot-snapshotmySnap-copy-tohdfs://198.58.88.11:9000/hbase作为执行的结果,我得到了SLF4J:ClasspathcontainsmultipleSLF4Jbindings.SLF4J:Foundbindingin[jar:file:/home/vagrant/hba