草庐IT

executable-jar

全部标签

java - Hive 添加文件/jar 说不存在

所以我想尝试使用HiveMAP和REDUCE自定义mapperreducer查询。我已经编写自定义映射器和缩减器并将其导出到jar文件,并尝试从HiveCLI添加它。无论我在哪里复制jar,我都会收到“不存在”错误。我尝试了以下方法。我将文件复制到/usr/local/hive/lib/、/usr/local/hive/conf/和/tmp/然后在hdfs中我也将它复制到/、/user/hive/和/user/hive/仓库/我尝试提供完整路径然后我得到URL语法异常hive>addjar'hdfs://srimanthpc:9000/SpaceTravel.jar';Illegalc

IDEA发布maven项目同时打包成jar包(包括依赖)

写在前面:        个人的开发能力和开发水平都比较普通,最近突然心血来潮,想了解一下,中间件是怎么样的,为什么应用可以单独部署运行,目前开发的代码,怎么形成一个独立的小框架或者小应用,jar包,或者应用程序exe是怎么开发的。大概几年前了解过maven的创建,于是本次就直接从这个入手,maven的项目是怎么一步步发布成独立的jar包的。本内容非常基础,因为我也是零基础,只是记录一下本次的过程。 下面我们正式开始:一、新建maven项目打开idea,选择新建项目(我没有重新安装maven,一切都是使用默认的配置,jdk版本使用的是1.8)。:点击项目之后,弹出以下界面,然后选择maven,

java - 使用 java 使用语句类的单个 execute() 方法执行多个配置单元查询

我正在使用JavaAPI访问HiveServer2,我需要在单次调用语句类的execute()方法时执行多个配置单元查询。是否可以在对execute()方法的一次调用中提交多个配置单元查询。我有配置单元属性设置为:SEThive.exec.max.created.files=200000;SEThive.exec.compress.output=true;SETmapred.output.compression.codec=org.apache.hadoop.io.compress.SnappyCodec;SEThive.exec.dynamic.partition=true;SETh

java - 为什么很多项目只提供源码不提供jar包下载?

我见过很多项目,甚至来自像ElephantBird(Twitter)这样的大公司。和Akela(Mozilla)提供源代码并要求您自己编译它而不是提供jars。在您自己的环境中编译而不是仅仅下载别人编译的jar有什么好处吗? 最佳答案 依赖项不在同一位置,甚至在每台机器上的版本都相同。在编译时检测它们的位置更简单。如果项目中有任何native代码(有时只是为了优化),则可能需要在编译时设置依赖于平台的标志。 关于java-为什么很多项目只提供源码不提供jar包下载?,我们在StackOv

java - hadoop jar 忽略指定的主类

很难说出这里要问什么。这个问题模棱两可、含糊不清、不完整、过于宽泛或夸夸其谈,无法以目前的形式得到合理的回答。如需帮助澄清此问题以便重新打开,visitthehelpcenter.关闭10年前。我的hadoop版本是0.20.2。虽然我打字hadoopjarJarWithSeveralMainClasses.jarNonDefaultMainClassargs...它尝试执行MainClassSpecifiedInJarManifest的main方法。为什么?

Maven仅在使用资源插件时仅在JAR中编译或包含scala .class文件

我有一个Scala应用程序,我正在尝试使用Maven包装为.jar文件。有一个application.conf文件,我试图将其包装到JAR中作为资源。但是,当我使用资源插件(通过将资源放入src/main/资源中,或通过将其添加到其他一些文件夹中的pom.xml中,可以自动使用资源插件,然后将其添加到pom.xml中,然后maven停止编译和包装JAL中的.CLASS文件。只要我不使用资源插件,一切都可以正常工作。Maven运行Scala编译器,将.class文件放入JAR中,并通过7ZIP手动添加我的资源后,程序可以很好地执行。一些其他细节:我正在使用ArtimaSuperSafe编译器插件

hadoop - 配置单元 : How to execute a query from a file and dump the output in hdfs

我可以从sql文件执行查询并将输出存储在本地文件中使用hive-f/home/Prashasti/test.sql>/home/Prashasti/output.csv此外,我可以使用以下方法将配置单元查询的输出存储在hdfs中:insertoverwritedirectory'user/output'select*fromfolders;有什么方法可以从sql文件运行查询并将输出也存储在hdfs中吗? 最佳答案 只需要修改sql文件,将insertoverwritedirectory'user/output'添加到查询的前面。

hadoop - 获取 emr-ddb-hadoop.jar 以连接 DynamoDB 和 EMR Spark

我有一个DynamoDB表,我需要连接到EMRSparkSQL以在该表上运行查询。我得到了带有发布标签emr-4.6.0和Spark1.6.1的EMRSparkCluster。我指的是文档:AnalyseDynamoDBDatawithSpark连接到主节点后,我运行命令:spark-shell--jars/usr/share/aws/emr/ddb/lib/emr-ddb-hadoop.jar它给出警告:Warning:Localjar/usr/share/aws/emr/ddb/lib/emr-ddb-hadoop.jardoesnotexist,skipping.稍后,当我使用导

eclipse - 导出 jar 文件后 Hadoop 抛出 java.lang.VerifyError

我正在更改hadoop映射-reduce作业,该作业当前可以编译并在没有我的更改的情况下运行良好。作为工作的一部分,我现在将连接到S3以传送文件。我开发了一个(非常简单的)s3Connector类,在eclipse中测试并运行了它,然后去把它Hook到我的减少工作中。为了在hadoop中运行作业,我必须将项目导出为jar文件,然后从hadoop中调用它。jar文件似乎可以毫无问题地从eclipse编译和导出,但是当我在hadoop中运行它时,我得到一个java.lang.VerifyError异常。java.lang.VerifyError:(class:com/extrabux/se

java - Apache Pig : unable to run my own pig. jar 和 pig-withouthadoop.jar

我有一个运行Hadoop0.20.2和Pig0.10的集群。我有兴趣向Pig的源代码添加一些日志,并在集群上运行我自己的Pig版本。我做了什么:使用'ant'命令构建项目得到了pig.jar和pig-withouthadoop.jar将jar复制到集群名称节点上的Pig主目录运行作业然后我得到以下标准输出:2013-03-2506:35:05,226[main]WARNorg.apache.pig.backend.hadoop20.PigJobControl-fallingbacktodefaultJobControl(notusinghadoop0.20?)java.lang.NoS