草庐IT

apache-karaf

全部标签

rest - 来自 org.apache.hadoop.hbase.client.HConnectionManager.createConnection 的 InvocationTargetException 异常

由于上述错误,我基于tomcat的RESTAPI应用程序无法处理请求。到目前为止,我已经尝试过以下事情:检查所有的jar文件是否可用检查tomcat/webapp/目录中所有文件的权限防火墙规则Hbase是否可用但随后也出现以下异常。我正在使用包含HBase0.98.6的CDH5.3.1。有谁知道如何解决这个问题?2015-03-0305:09:02privateLog[ERROR]java.lang.reflect.InvocationTargetExceptionorg.apache.hadoop.hbase.client.HConnectionManager.createConn

hadoop - Apache hive : LOAD DATA vs INSERT OVERWRITE OUTPUT FILE SIZE

我正在使用ApacheHive,我不明白为什么如果我使用INSERTOVERWRITE与LOAD加载数据,表的大小会加倍。问题说明如下:我创建了一个表项从item.dat加载数据(大约28MB)在Azure中发生的是文件item.dat将被移动到hive/warehouse并且当然大小保持不变现在,如果我创建另一个与item相同的表item2,然后使用以下命令将数据从item加载到item2:INSERTOVERWRITETABLEitem2SELECT*FROMitem表item2的大小是item的两倍(大约55MB)为什么会这样?有什么办法可以避免吗?附言。这只是为了说明问题。在实

hadoop - 安装apache Ranger时无法通过使用浏览器访问服务器的外部URL进行验证

我正在按照他们的说明在centos中安装ApacheRanger:https://cwiki.apache.org/confluence/display/RANGER/Ranger+Installation+Guide.但是在安装并运行命令:serviceranger-adminstart后,Ranger启动了但我无法通过使用浏览器访问服务器的外部URL来验证,例如:http://:6080/。我按照他们说的一步一步地按照每条指示去做。 最佳答案 这是因为spring版本。只需在pom.xml中写入更新版本的spring并重建Apa

Apache Kylin - 立方体构建第一步的错误输出

我正在尝试使用ApacheKylin构建我的第一个多维数据集,一切正常,直到我遇到错误的最后一步:java.lang.IllegalStateException:Can'tgetcubesourcerecordcount.atcom.google.common.base.Preconditions.checkState(Preconditions.java:149)atorg.apache.kylin.job.cube.UpdateCubeInfoAfterBuildStep.doWork(UpdateCubeInfoAfterBuildStep.java:104)atorg.apac

scala - 我如何更改 Apache Spark 上的数据位置

我在Spark中遇到数据局部性问题。我想知道我是否有可能告诉Spark应该如何在节点上对数据进行分区。比如我在HDFS上有一个文件,我想获取一个RDD。我想根据此数据的特定属性(例如,根据此数据最后一列的值)对该数据进行分区。提前致谢 最佳答案 这种行为由您正在创建的RDD子类控制,在您的示例中是Haddoop或NewHadoopRDD,具体取决于您使用的是哪种HadoopAPI。在每个RDD子类中,您可以覆盖getPreferedLocations方法,该方法说明每个分区的计算位置。正如@user52045所说,您可以实现自定义分

hadoop - 使用 Apache Spark 在 HDFS 中存储多个文件

我正在做一个涉及使用HDFS进行存储和使用ApacheSpark进行计算的项目。我在HDFS中有一个目录,其中有几个相同深度的文本文件。我想使用Spark处理所有这些文件,并将它们相应的结果存储回HDFS,每个输入文件有1个输出文件。例如-假设我有一个目录,其中包含1000个相同深度的文本文件。我正在使用通配符读取所有这些文件sc.wholeTextFiles(hdfs://localhost:9000/home/akshat/files/*.txt)然后我使用Spark处理它们并获得相应的RDD并使用保存它result.saveAsTextFile("hdfs://localhost

linux - 异常(exception)如下。 org.apache.flume.FlumeException : Unable to load source type in flume twitter analysis 异常

我正在尝试使用Flume和Hive进行Twitter分析。为了从twitter获取推文,我在flume.conf文件中设置了所有必需的参数(consumerKey、consumerSecret、accessToken和accessTokenSecret)。TwitterAgent.sources=TwitterTwitterAgent.channels=MemChannelTwitterAgent.sinks=HDFSTwitterAgent.sources.Twitter.type=com.cloudera.flume.source.TwitterSourceTwitterAgent

hadoop - Apache Hadoop 的分析在 IBM Bluemix 中不可见,为什么?

我正在尝试运行HadoopIbmBiginsights,但ibmbluemix不显示。详细信息:我已经注册(免费试用)并登录到ibmbluemix,但不幸的是,在服务类别中,Hadoop分析没有出现在大数据session中。请在此处找到预览。我正在关注thislink练习。 最佳答案 您使用的是英国地区吗?IBMAnalyticsforHadoop服务目前仅在美国南部地区可用。您可以在页面右上角将区域更改为美国南部。 关于hadoop-ApacheHadoop的分析在IBMBluemix

python - Apache Spark 将哪些数据传送到执行节点

我使用ApacheSpark来查找以太网通信中的模式/攻击。我担心Spark发送到YARN/Hadoop执行节点的数据量。我在我的map函数中使用了Scapy(见下面的代码)。如果它没有安装在执行节点上,Spark会把整个模块发送给它们吗?或者在这种情况下任务不会被执行?还是以失败告终?有什么办法可以控制这种行为吗?如果我的map函数访问任何全局对象会发生什么?元素是否运送给worker?或者有某种错误/意外行为?这是一个示例代码:#!/usr/bin/pythonfrompysparkimportSparkContext,SparkConfdefExtractIP(rawEther)

hadoop - 使用 oozie 调用 pig - org.apache.pig.Main 退出代码 [2]

我正在尝试在Oozie中调用Pig操作,并且我正在处理以下内容-Ooziev3.3.2Pigv0.12.1-maprHadoopv1.0.3maprM5我现在可以使用Oozie调用java操作。但是,当我尝试调用Pig操作时,它失败了,但并没有透露太多-[Map/Reducefailed,errormessage[${wf:errorMessage(wf:lastErrorNode())}]],afterresolve[Map/Reducefailed,errormessage[Mainclass[org.apache.oozie.action.hadoop.PigMain],exit