草庐IT

uber-jar

全部标签

java - 运行maven jar文件时出错

我从eclipse创建了mavenjar文件。运行jar时出现以下错误。错误:AJNIerrorhasoccurred,pleasecheckyourinstallationandtryagainExceptioninthread"main"java.lang.NoClassDefFoundError:org/apache/hadoop/fs/FSDataOutputStreamatjava.lang.Class.getDeclaredMethods0(NativeMethod)atjava.lang.Class.privateGetDeclaredMethods(UnknownSou

hadoop - 由于 hbase 客户端 jar 中的硬编码 managed=true,无法连接到 Bigtable 以扫描 HTable 数据

我正在开发一个自定义加载函数,以便在Dataproc上使用Pig从Bigtable加载数据。我使用从Dataproc获取的以下jar文件列表编译我的java代码。当我运行以下Pig脚本时,它在尝试与Bigtable建立连接时失败。错误信息是:Bigtabledoesnotsupportmanagedconnections.问题:是否有解决此问题的方法?这是一个已知问题吗?是否有解决或调整的计划?是否有不同的方法将多重扫描作为Pig的加载函数来实现并与Bigtable一起工作?详细信息:Jar文件:hadoop-common-2.7.3.jarhbase-client-1.2.2.jar

eclipse - 如何从 Hadoop 上的 java jar 文件运行一个类?

我有一个从Eclipse导出的jar文件(可运行的JAR>>将所需的库复制到子文件夹中)。在java中,如果您在manifest.xml中设置主类,您可以运行:java-jarMyTest.jararguments如果你想在jar文件中运行另一个主类,或者如果你没有在manifest.xml中设置主类,你可以运行:java-cpMyTest.jarMyOtherMainClassarguments在Hadoop中,如果在manifest.xml中设置了主类,您可以运行:hadoopjarMyTest.jararguments如果你输入:hadoopjarMyTest.jarMyOthe

maven - Cloudera VM 上的 Apache Giraph - org.apache.hadoop 的 POM :hadoop-core:jar:2. 6.0 缺失,无依赖信息

我是Hadoop/Giraph和Java的新手。作为任务的一部分,我在其上下载了ClouderaQuickstartVM和Giraph。我正在使用这本书,名为“使用ApacheGiraph进行实用图形分析;作者:Shaposhnik、Roman、Martella、Claudio、Logothetis、Dionysios”,我尝试从中运行第111页上的第一个示例(TwitterFollowershipGraph)。尝试在集群2.6.0-mr1-cdh5.12.0上使用hadoop版本运行更改后的pom.xml文件时,请发现以下错误`[cloudera@quickstartfirst]$m

eclipse - sc.TextFile ("") 在 Eclipse 中工作但不在 JAR 中

我正在编写将在hadoop集群中的代码,但首先,我使用本地文件在本地对其进行测试。该代码在Eclipse中运行良好,但是当我使用SBT(使用sparklib等)制作一个巨大的JAR时,该程序一直运行到textFile(path)我的代码是:importorg.apache.spark.{SparkConf,SparkContext}importorg.apache.log4j.{Level,Logger}importorg.joda.time.format.DateTimeFormatimportorg.apache.spark.rdd.RDDimportscala.collectio

java - 在 EMR 上提交 JAR 时出现 ClassNotFoundException

我正在使用eclipse/Maven创建一个JAR并在EMR上运行它这是我的pom.xml文件4.0.0com.sudarshanSparkApplicationSQLjarSparkApplicationhttp://maven.apache.orgUTF-8clouderahttps://repository.cloudera.com/artifactory/cloudera-repos/junitjunit3.8.1testorg.scala-langscala-library2.11.1org.apache.sparkspark-core_2.112.2.0org.apache

hadoop - 在 Spring 云数据中运行 MapReduce Jar

我需要在springclouddataflow中运行一个mapreducespringboot应用程序。通常在scdf中注册的应用程序是使用“java-jarjar-name”命令执行的。但我的程序是一个mapreduce,它必须使用“hadoopjarjar-name”来执行。我如何实现这一目标?在scdf中运行mapreduce应用程序的更好方法是什么?是否可以直接注册mapreduce应用程序?我正在使用本地数据流服务器来注册应用程序。 最佳答案 在SCDF中,运行JAR文件的命令格式由部署者管理。比如有localdeploy

java - 在没有 jar 的情况下从 java 代码调用 hadoop 作业

我使用这段代码来运行字数统计hadoop作业。当我使用hadoopeclipse插件从eclipse内部运行它时,WordCountDriver运行。当我将mapper和reducer类打包为jar并将其放入类路径中时,WordCountDriver也会从命令行运行。但是,如果我尝试从命令行运行它而不将mapper和reducer类作为jar添加到类路径,尽管我将这两个类都添加到了类路径,但它会失败。我想知道hadoop是否有一些限制接受映射器和缩减器类作为普通类文件。创建一个jar总是强制性的吗?publicclassWordCountDriverextendsConfiguredi

maven - 如何在 Maven 中引用 hadoop v2.3.0 jar?

我只是想在我的Maven项目中引用hadoopmapreducejar。我看到这样做的方法发布在http://mvnrepository.com/artifact/org.apache.hadoop/hadoop-mapreduce/2.3.0.我的pom具有以下依赖性。org.apache.hadoophadoop-mapreduce2.3.0但是,在eclipse中,我看到以下错误。容器“MavenDependencies”引用了不存在的库C:\Users\root\.m2\repository\org\apache\hadoop\hadoop-mapreduce\2.3.0\ha

IDEA+Maven打JAR包的两种方法

一、使用IDEA自带打包插件(支持单个类也支持Maven类型Project)1.说明最终输出:输出目录在out目录下2.主要步骤(1)依次选择file->projecctstructure->artifacts->点击+(选择jar)->选择frommodulewithdependencies或者在我们的idea工程界面,点击右上角的projectstructure(2)弹出窗口中指定MainClass(3)点击Build–>BuildArtifacts–>选择bulid详细步骤请参考博文《IDEA用自带工具打jar包方法》二、使用IDEA的Maven工具(创建Project需是Maven类型