草庐IT

ARR与JAR

全部标签

hadoop - vertica jar

我正在尝试将数据从Vertica传输到Hive。根据手册,应将以下设置为输入格式:-inputformatcom.vertica.hadoop.deprecated.VerticaStreamingInput但是hadoop-verticajar有org.apache.hadoop.vertica.VerticaStreamingInput类而不是上面的类。所以它抛出以下异常:Exceptioninthread"main"java.lang.RuntimeException:classorg.apache.hadoop.vertica.VerticaStreamingInputnoto

hadoop - 使用 Yarn 客户端在 Google Cloud 上的 Hadoop 中运行 JAR

我想使用Yarn客户端在GoogleCloud上的Hadoop中运行一个JAR。我在hadoop的master节点使用这个命令spark-submit--classfind--masteryarn-clientfind.jar但它返回这个错误15/06/1710:11:06INFOclient.RMProxy:ConnectingtoResourceManagerathadoop-m-on8g/10.240.180.15:803215/06/1710:11:07INFOipc.Client:Retryingconnecttoserver:hadoop-m-on8g/10.240.180

java - Hadoop项目启动时需要的JAR有哪些?

这一定看起来像是一个愚蠢的问题,但我是Hadoop的新手并且正在尝试运行一个简单的示例。但是,我一直遇到JAR文件的问题并且似乎没有正确的导入。我正在使用clouderaCDH4,它有很多JAR文件可供选择,每个文件都有多个版本。因为我刚刚开始,所以无法区分。目前我得到这个异常(exception):Exceptioninthread"main"java.lang.NoClassDefFoundError:org/apache/commons/configuration/Configurationatorg.apache.hadoop.metrics2.lib.DefaultMetri

java - 使用hadoop jar时如何增加堆大小?

我正在使用hadoopjar命令运行一个程序。但是,为了使该程序运行得更快,我需要增加Hadoop的堆大小。我尝试了以下方法,但它没有任何效果(我有hadoop版本2.5),即使在同一个终端上也是如此。exportHADOOP_HEAPSIZE=16384exportHADOOP_OPTS="-Xmx16g"我认为的另一种方法是将以下内容添加到mapred-site.xml文件中,但不幸的是我不是管理员,所以不能这样做。mapred.child.java.opts-Xmx16384m还有其他方法吗? 最佳答案 我通过修改HADOOP

Java编译不产生.jar

我已经创建了简单的“WordCount.java”文件来实现一个简单的hadoop程序,并且在编译时,它不会创建一个.jar文件。在WordCount.class、WordCount$Map.class和WordCount$Reduce.class中创建的文件。我查看了WordCount.java文件,它确实包含一个publicstaticvoidmain(String[]args)例程,所以它应该创建一个.jar文件,对吧?这是我很长一段时间以来第一次接触Java,因此很容易在Java的编译方式上出错,但是给定以下代码,它不应该在正确编译后给我一个.jar文件吗?packageorg

java - 如何用多个外部jar编译一个java源文件?

我有一个hadoop应用程序。我写了一个java程序,它需要org.json.jar包和hadoop-core.jar。我使用以下linux命令编译此源文件。mkdirq3_classesjavac-classpath${HADOOP_HOME}/hadoop-core.jar:${HADOOP_HOME}/org.json-20120521.jar-dq3_classesETLQ3.javajar-cvfq3.jar-Cq3_classes/.编译成功。但是当我用下面的命令运行这个程序时。(相同的命令成功应用于WordCount示例。)hadoopjarq3.jarMainClass

java - 在 hadoop 的提示符下创建和运行可运行的 jar

我想尝试一下Hadoop包中提供的示例WordCount程序。因此,我在eclipse中创建了一个自定义项目,并将整个wordcount代码复制到我的自定义类中。我还在项目的构建路径中包含了所有外部Hadoopjar。最后,尝试创建一个可运行的JAR:文件->导出->Java选项卡->可运行的JAR。但是,我在创建jar时遇到错误:Exportedwithcompilewarnings:custom_project/src/custom_package/CustomWordCount.java尽管代码没有错误,但jar的创建给我带来了问题。如何解决这个问题?

spring - -D 参数在 hadoop jar 命令中无法识别(使用 spring)

下面是我正在运行的命令hadoopjar/-Dext.properties.dir=pathofpropertiesfile>我的spring配置有以下条目...context:property-placeholderlocation="classpath:main/resources/properties/app.properties,file:${ext.properties.dir}/app-qa.properties"但是当我运行它时,我看到下面的错误Couldnotloadproperties;nestedexceptionisjava.io.FileNotFoundExce

hadoop - 在 Map reduce 中每次修改代码都需要创建一个 jar 文件

我正在Hadoop单节点集群中运行一个程序(MapReduce)。经常对MapReduce逻辑进行一些修改。我正在使用EclipseIDE。每次修改逻辑后,我都会创建一个jar文件来检查Hadoop中的Mapreduce作业。每次修改MapReduce逻辑后都创建一个jar文件有点繁琐。有没有更简单的方法来在每次进行更改时创建jar文件?请指教。 最佳答案 不清楚是您必须制作jar文件这一事实还是制作jar的过程似乎太困难的问题。首先,您必须制作一个jar文件才能将作业提交到Hadoop。没有办法解决这个问题。其次,为了简化创建ja

hadoop - 添加 phoenix-4.3.0-server.jar 后 region server 在 cloudera 中失败

我在cloudera的/opt/cloudera/parcels/CDH/lib/hbase/lib中添加了phoenix-4.3.0-server.jar。当我尝试启动服务器(区域和主服务器)时,只有主服务器启动。区域服务器有时会暂时启动并立即关闭。这适用于以前版本的phoenix(4.0.0-incubating)。请帮我解决这个问题。 最佳答案 从4.0.0升级到4.3.0失败的原因是兼容性。由于某种原因,4.3.0不兼容从旧版本的phoenix升级。因此,从4.0.0升级到4.1.0,重新启动HBase服务器,然后通过重新启