草庐IT

maven-source-plugin

全部标签

java - Hadoop maven 依赖错误 - 找不到 hadoop 类

尽管我将以下依赖项导入到我的pom中,但相关的Hadoop类(org.apache.hadoop.*)未导入。1.0.4org.apache.hadoophadoop-client${hadoop.version}org.apache.hadoophadoop-core${hadoop.version}org.apache.hadoophadoop-examples${hadoop.version}org.apache.hadoophadoop-tools${hadoop.version} 最佳答案 您可以使用下面的pom为项目解决

java - 使用 Maven 构建 Hadoop 时出错

我正在使用Maven构建Hadoop项目。我面临以下错误[ERROR]Failedtoexecutegoalonprojecthadoop-minikdc:Couldnotresolvedependenciesforprojectorg.apache.hadoop:hadoop-minikdc:jar:3.0.0-SNAPSHOT:Failuretofindorg.apache.directory.jdbm:apacheds-jdbm1:bundle:2.0.0-M2inhttps://repo.maven.apache.org/maven2wascachedinthelocalrep

hadoop - eclipse plugin for hadoop 2.4.1 版本

我已经安装了正在运行的hadoop2.4.1,我正在尝试为hadoop配置eclipse。我没有看到hadoop2.4.1版本的eclipse插件。有谁知道在哪里可以选择该插件并在eclipse中使用它。我知道大多数hadoop发行版都会有eclipse插件,但不幸的是,据我所知,2.4.1没有。我们从哪里可以获得eclipse插件以及它的eclipse-plugin版本是什么关于此的另一个问题,我在hadoop/lib文件夹中看到一些.a文件。这些是什么以及如何打开它们,因为我怀疑它可能有库jar文件。 最佳答案 hadoop项目

maven - 使用 Local Runner 在独立模式下运行 Hadoop 2.4.0 作业的单元测试

在使用以前版本的Hadoop时,我通常会为整个作业(映射器和缩减器)构建junit测试,并通过调用maven或直接从IDE本身运行测试。系统上的任何地方都没有安装hadoop。我使用以下属性来确保使用本地进程内运行器:config.set("mapred.job.tracker","local");config.set("fs.default.name","file:///test-fs");这些测试运行成功。我升级到较新版本的Hadoop(2.4.0)以利用新的API。我希望能够像以前一样用我的单元做同样的事情。我现在使用的属性是:config.set("fs.default.nam

maven - 无法使用 spark-1.6.1-bin-hadoop1 运行 spark-terasort

我正在尝试运行spark-terasort使用spark-1.6.1-bin-hadoop1(hadoop1.X的预构建包)。当我尝试运行spark时:./bin/spark-submit--classcom.github.ehiggs.spark.terasort.TeraGen~/spark-terasort/target/spark-terasort-1.0-jar-with-dependencies.jar100Ghdfs:///input_terasort我得到错误:Exceptioninthread"main"java.lang.IncompatibleClassChang

maven - 错误:无法找到或加载主类org.apache.mahout.driver.MahoutDriver

我试图运行以下语句:代码:/usr/local/lib/mahout/bin$mahoutseqwiki-i/user/wiki/enwiki-articles.xml-o/user/wiki/kmeansseqfiles错误:MAHOUT_LOCALisset,sowedon'taddHADOOP_CONF_DIRtoclasspath.MAHOUT_LOCALisset,runninglocallyError:Couldnotfindorloadmainclassorg.apache.mahout.driver.MahoutDriver我遵循了这个stackoverflowpage

在maven中构建成功后的java.lang.NoClassDefFoundError

应用程序构建成功但出现以下错误:Exceptioninthread"Thread-29"java.lang.NoClassDefFoundError:org/apache/hadoop/util/ShutdownHookManager$2atorg.apache.hadoop.util.ShutdownHookManager.getShutdownHooksInOrder(ShutdownHookManager.java:124)atorg.apache.hadoop.util.ShutdownHookManager$1.run(ShutdownHookManager.java:52)

windows - 无法在项目 hadoop-hdfs :1. 上执行目标 maven maven-antrun-plugin : An Ant BuildException around Ant part hadoop-hdfsproject hadoop-hdfs:? 7

我正在尝试在装有Windows10家庭版的开发计算机上构建以下hadoop版本hadoop-2.7.3-src以下是我本地开发环境的详细信息:-Windows10家庭版-英特尔酷睿i5-6200UCPU@2.30GHz-RAM16GB-64位操作系统,基于x64的处理器-MicrosoftVisualStudioCommunity2015版本14.0.25431.01更新3-.NETFramework4.6.01586-cmake版本3.7.2-CYGWIN_NT-10.0LTPBCV82DUG2.7.0(0.306/5/3)2017-02-1213:18x86_64Cygwin-ja

hadoop - 错误配置单元(使用 Derby): Source tables cannot be empty

我刚开始使用Hive,遇到一个错误需要您的帮助。在等待一段时间后,当我尝试创建一个新数据库时,它发生了:hive>CREATEDATABASETest;(编辑:我对“SHOWTABLES”有同样的看法)我明白了:Exceptioninthread"main"java.lang.AssertionError:Sourcetablescannotbeemptyatorg.apache.hadoop.hive.ql.hooks.EnforceReadOnlyTables.(EnforceReadOnlyTables.java:46)atjava.lang.Class.forName0(Nat

maven - 客户端 yarn 作业的 Scala 错误

我知道对此有一些疑问,但没有足够的信息来解决我的问题。我尝试在我的Eclipse项目中以yarn-client模式运行作业。我有一个包含2个节点的hadoop集群(其中一个节点当前已关闭)。我尝试在集群模式下运行它(使用spark-submit)并且它工作正常。我尝试通过以下方式从eclipse项目在本地运行它:我正在尝试制作这样的Spark上下文:SparkConfconf=newSparkConf().setAppName("AnomalyDetection-BuildModel").setMaster("local[*]");这是有效的。但是当我尝试使用“yarn-client”