草庐IT

eclipse-metadata

全部标签

hadoop - eclipse wordcount 程序中找不到类异常

我正在从eclipse运行一个字数统计程序,它说找不到类。我导出了与jar文件相同的程序并从命令行执行,它工作正常。错误堆栈跟踪14/02/1423:46:16WARNmapred.JobClient:UseGenericOptionsParserforparsingthearguments.ApplicationsshouldimplementToolforthesame.14/02/1423:46:16WARNmapred.JobClient:Nojobjarfileset.Userclassesmaynotbefound.SeeJobConf(Class)orJobConf#se

eclipse - hadoop 将输出写入 hdfs 文件

我已经编写了我的第一个mapreduce程序,当我在eclipse中运行它时,它会写入输出文件并按预期工作。但是,当我使用hadoopjarmyjar.jar从命令行运行它时,结果没有写入输出文件。正在创建输出文件(_SUCCESS和part-r-0000),但它们是空的。有任何持久性问题吗?减少输入记录=12但减少输出记录=0。但是如果我在eclipse中这样做,那么它就不为零。在Eclipse中,减少输出记录不是0。任何帮助表示赞赏。谢谢[cloudera@quickstartDesktop]$sudohadoopjarcheckjar.jarhdfs://quickstart.c

maven - 由 : java. lang.ClassNotFoundException : org. apache.hadoop.fs.CanSetDropBehind issue in eclipse 引起

我有以下spark字数统计程序:packagecom.sample.spark;importjava.util.Arrays;importjava.util.List;importjava.util.Map;importorg.apache.spark.SparkConf;importorg.apache.spark.api.java.*;importorg.apache.spark.api.java.function.FlatMapFunction;importorg.apache.spark.api.java.function.Function;importorg.apache.s

eclipse 中的 java.lang.ClassNotFoundException : org. apache.hadoop.hive.jdbc.HiveDriver

我还添加了usr/local/share/hadoop/mapreduce/*jars、usr/local/hadoop/common、hive-exec-xxx.jar、hive-metastore-xxx.jar和hive-的所有jars文件jdbc-xxx.jar.Hive终端运行良好。我的代码是:privatestaticStringdriverName="org.apache.hadoop.hive.jdbc.HiveDriver";try{Class.forName(driverName);Connectioncon;con=DriverManager.getConnect

java - 包括核心和数学文件夹的 Mahout 数学库类 - Eclipse - Hadoop

我的问题与此类似:HowdoIbuild/runthissimpleMahoutprogramwithoutgettingexceptions?,但有点复杂。我正在编写Hadoop代码,并且想使用Mahout数学库(例如SparseRowMatrix和VectorWritable类)。问题是前一个示例类位于Mahout最新SNAPSHOT的math文件夹中,而后者位于core文件夹下,并且两者共享与根文件夹(org.apache.mahout.math).问题是我没有找到让Hadoopjar文件正确导入与数学相关的类的方法,而是位于Mahout项目的Core文件夹下。我正在使用Ecli

eclipse - 在 Eclipse 中运行 Map Reduce 程序

我有一个Map/Reduce程序,它加载一个文件并将其读入hbase。如何通过Eclipse执行我的程序?我用谷歌搜索并找到了两种方法:1)UsingEclipseHadoopplugin2)CreateajarfileandexecuteitinHadoopserver但是,我可以通过提供连接详细信息并在eclipse中运行来执行我的Map/Reduce程序吗?任何人都可以告诉我运行HbaseMap/Reduce程序的确切过程吗? 最佳答案 我做了以下事情:在我的机器上安装并配置了hadoop(和hdfs)使用我的hadoop作业

eclipse - 如何在windows的eclipse中配置map reduce插件(Hadoop安装在Linux服务器上)

我正在尝试从Windows连接到hadoop集群不属于hadoop集群的机器..基本上我们在linux服务器机器上安装了hadoop..所以没有GUI可用的。因此,出于这个原因,我们要做的是运行eclipse在Windows机器上使用hadoopeclipse插件..并尝试从Windows机器。我不知道如何运行mapreduce从这台windows机器到hadoop主节点的程序.. 最佳答案 您可以通过安装Cygwin在windows中拥有Map-Reduce的开发环境您将需要:Cygwin配置ssh守护进程启动SSH守护进程设置授

eclipse - 在项目中包含 Hadoop 类的正确方法是什么

我正在尝试导入一个Hadoop类以在我的项目中使用。importorg.apache.hadoop.fs.*;我通常希望走出去,尝试找到要包含的HadoopJAR文件,将其放在eclipse中的libs文件夹中,然后使用这些类。完成后并没有找到我期望的结果,我问:将Hadoop类包含在我自己的Java类中以便我可以在eclipse中使用它们的正确方法是什么?我发现Hadoop文档令人沮丧,因为它的保质期极短。六个月前的建议显然毫无值(value)。 最佳答案 使用maven和m2e插件,一个hadoop项目非常简单:4.0.0csw

hadoop - 从 Eclipse 发出在 Hadoop 上执行 MR 程序的问题

我在从windows上的eclipe到hadoopPseudocluster上执行mapreduce程序时遇到问题UbuntuVM在同一台机器上运行。我正在运行hadoop1.0.3。我尝试使用eclipseJuno以及使用eclipseplugin1.0.3的Ganymede,但没有成功。每当我将LinuxVM添加为mapreduce位置时,我都会收到连接错误。我也试过像下面这样直接通过配置设置属性,但没有成功。我将其作为java应用程序运行。Configurationconf=newConfiguration();conf.set("fs.default.name","hdfs:/

hadoop - 如何设置首选项以在 Eclipse 中运行 PIG 脚本?

我在我的eclipse中下载并安装了pigpen插件,我按照thislink中的步骤操作)但是当我设置Pig的ConfigurationPath时有点困惑。谁能告诉我如何设置首选项以在eclipse中运行pig脚本。我很累,但没有正常工作。 最佳答案 您是否使用UnixBox来运行Eclipse?如果答案是肯定的,那么你可以让它工作。如果你在Windows上工作并使用SSH客户端连接到Unix框,恐怕它不会工作(至少按照你帖子中提到的链接) 关于hadoop-如何设置首选项以在Eclip