草庐IT

hadoop - 在 Hive 中找不到 java.lang.ClassNotFoundException : Class org. apache.hadoop.hive.contrib.serde2.MultiDelimitSerDe

我正在尝试在配置单元中处理多字符分隔符。我已经成功创建了一个相同的表createexternaltableshowtmp3(doc_nameSTRING,doc_contentSTRING)rowformatSERDE'org.apache.hadoop.hive.serde2.MultiDelimitSerDe'WITHSERDEPROPERTIES('field.delim'='#a#')location'/unmesha/OUT';然后我需要发出如下查询。INSERTOVERWRITEDIRECTORY'/unmesha/OUT_tmpShowData'SELECT*showtm

java - Hive UDF 在 select 中抛出 Class Not Found 异常

我坚持使用UDFjar。我需要在我的UDF中解析简单的UserAgent。我找到了一个流行的UserAgent解析器http://www.bitwalker.eu/software/user-agent-utils我将其包含在我的项目中。在项目中我使用maven。我添加了所有依赖项,实现了所有内容并进行了测试。它在我的本地机器上运行良好。接下来我在Maven中进行全新安装以构建jar。这个jar我通过添加jar{MyJarName}在Hive中使用,然后创建一个函数:创建临时函数{functionName}作为{pathToUDFClass}并得到这样的异常。Causedby:java

java.lang.NoClassDefFoundError : Could not initialize class org. apache.hadoop.hbase.shaded.protobuf.ProtobufUtil$ClassLoaderHolder 错误

我尝试根据theofficialdocumentation安装和运行OpenTSDB我使用sudo./build/tsdbtsd--port=4242--config=/path/to/opentsdb/src/opentsdb.conf--staticroot=build/staticroot--cachedir="$tsdtmp"启动OpenTSDB一切似乎都运行良好,但是当我尝试使用./tsdbmkmetricmysql.bytes_receivedmysql.bytes_sent创建指标时,出现如下所示的错误。任何想法出了什么问题,我该如何解决?如果需要任何其他信息,请告诉我。

scala - 异常线程 "main"scala.MatchError :Map() (of class org. apache.spark.sql.catalyst.util.CaseInsensitiveMap)

我正在尝试将数据从Excel工作表加载到Hive表。它在下面抛出错误.Map(treatemptyvaluesasnulls->true,location->"input",useheader->true,inferschema->true,addcolorcolumns->false,sheetname->"INPUT")(ofclassorg.apache.spark.sql.catalyst.util.CaseInsensitiveMap)使用的代码:valdf=spark.read.format("com.crealytics.spark.excel").option("loc

java - Hadoop 错误 : Could not find or load main class class path TestJava

我是Hadoop的新手,正在阅读Hadoop:权威指南这本书。我在我的mac上安装了Hadoop,它似乎运行良好。我已经在HDFS(/user/nick)中设置了一个基本的文件系统。但是我无法按照第3章(第56页)中的要求使用“hadoop”命令来执行类文件。它似乎不是文件,因为“hadoop”命令甚至不会打开java命令可以正常工作的简单文件。这是我的终端对于简单文件的样子:Unix~/Desktop$javaTestJava你好测试世界Unix~/Desktop$hadoopTestJava错误:无法找到或加载主类TestJava我尝试过的所有其他hadoop命令都可以正常工作(h

java - Spark 异常 : local class incompatible

我正在尝试将spark作业从客户端提交到cloudera集群。在集群中,我们使用的是CDH-5.3.2,它的spark版本是1.2.0,hadoop版本是2.5.0。因此,为了测试我们的集群,我们提交了从spark网站获取的wordcount示例。我们可以成功提交我们用java编写的spark作业。但是,我们无法将结果写入hdfs上的文件。我们收到以下错误,20/06/2509:38:16INFODAGScheduler:Job0failed:saveAsTextFileatSimpleWordCount.java:36,took5.450531sExceptioninthread"m

java - IntWritable.class如何提供一个IntWritable类的对象

publicstaticWritableComparatorget(Classc)WritableComparator中的get方法接受一个类类型的对象作为参数RawComparatorcomparator=WritableComparator.get(IntWritable.class);那么IntWritable.class是如何提供一个IntWritable类的对象呢? 最佳答案 根据您的问题,我推测您正在寻找一个您不可见的对象。在此示例中,您正在寻找一个IntWritable对象,但您没有在程序中的任何地方找到NEW关键字。

hadoop - 错误 : Could not find or load main class org. apache.flume.node.Application - 在 hadoop 版本 1.2.1 上安装 flume

我搭建了一个hadoop集群,其中一个是master-slave节点,另一个是slave。现在,我想建立一个水槽来获取主机上集群的所有日志。但是,当我尝试从tarball安装flume时,我总是得到:错误:无法找到或加载主类org.apache.flume.node.Application所以,请帮我找到答案,或者在我的集群上安装水槽的最佳方法。非常感谢! 最佳答案 主要是因为FLUME_HOME..试试这个命令$unsetFLUME_HOME 关于hadoop-错误:Couldnotf

java - "Error: Could not find or load main class"启动Hadoop时

我正在尝试在我的Windows7机器上运行Hadoop(2.2.0)(是的,我知道在Linux上运行它会更好,但目前不是一个选项)。我按照http://ebiquity.umbc.edu/Tutorials/Hadoop/14%20-%20start%20up%20the%20cluster.html上发布的说明进行操作和http://blog.sqltrainer.com/2012/01/installing-and-configuring-apache.html在我尝试启动Hadoop之前,一切都很顺利。我尝试运行的每个操作都以:Error:Couldnotfindorloadma

java - 错误 : "java.io.IOException: Type mismatch in key from map" on my MapReduce class (using Hadoop 2. 2.0)

我正在尝试通过Hadoop在本地主机上执行MapReduce程序。我写了一个程序来计算文本文件中的单词。源代码非常简单:importjava.io.IOException;importjava.util.ArrayList;importjava.util.List;importorg.apache.hadoop.conf.Configuration;importorg.apache.hadoop.fs.Path;importorg.apache.hadoop.io.IntWritable;importorg.apache.hadoop.io.LongWritable;importorg