草庐IT

donation_orgs

全部标签

hadoop - 在 Hive 中找不到 java.lang.ClassNotFoundException : Class org. apache.hadoop.hive.contrib.serde2.MultiDelimitSerDe

我正在尝试在配置单元中处理多字符分隔符。我已经成功创建了一个相同的表createexternaltableshowtmp3(doc_nameSTRING,doc_contentSTRING)rowformatSERDE'org.apache.hadoop.hive.serde2.MultiDelimitSerDe'WITHSERDEPROPERTIES('field.delim'='#a#')location'/unmesha/OUT';然后我需要发出如下查询。INSERTOVERWRITEDIRECTORY'/unmesha/OUT_tmpShowData'SELECT*showtm

json - java.lang.ClassCastException : org. apache.hadoop.hive.ql.io.orc.OrcStruct 无法转换为 org.apache.hadoop.io.Text。 json serde 错误

我不熟悉在配置单元上处理json数据。我正在开发一个获取json数据并将其存储到配置单元表中的spark应用程序。我有一个这样的json:展开后是这样的:我能够将json读入数据帧并将其保存在HDFS上的某个位置。但是让Hive能够读取数据是困难的部分。例如,在我在线搜索之后,我尝试这样做:对所有json字段使用STRUCT,然后使用column.element访问元素。例如:web_app_security将是表内的列(STRUCT类型)的名称以及其中的其他json,如config_web_cms_authentication、web_threat_intel_alert_exter

hadoop - java.lang.NoSuchMethodError : org. apache.hadoop.fs.FsServerDefaults.<init>(JIISIZJLorg/apache/hadoop/util/DataChecksum$Type;)V

当我运行oozie示例时,在我的HADOOP2.6.5HA和oozie(使用oozie-4.1.0-cdh5.12.1)中。[oozie@mastershell]$catjob.propertiesnameNode=hdfs://cluster1:8020jobTracker=master:8032queueName=defaultexamplesRoot=examplesoozie.wf.application.path=${nameNode}/user/oozie/${examplesRoot}/apps/shell[hadoop@mastersbin]$[hadoop@maste

hadoop - Hive 存档分区(动态)失败 : Execution Error, 从 org.apache.hadoop.hive.ql.exec.DDLTask 返回代码 1

我正在尝试从我的表中归档一些旧数据。使用ALTERTABLETABLE_NAMEARCHIVEPARTITION(part_col)查询。Hadoopversion-2.7.3Hiveversion-1.2.1表结构如下,hive>descclicks_fact;OKtimetimestampuser_idvarchar(32)advertiser_idintbuy_idintad_idintcreative_idintcreative_versionsmallintcreative_sizevarchar(10)site_idintpage_idintkeywordvarchar(4

java - 为什么 org.apache.hadoop.io.Writable 不能转换为 org.apache.hadoop.io.IntWritable?

我的mapreduce应用程序如下所示。我想对字符串中的3个值求和publicclassStockCount{publicstaticclassMapperClassextendsMapper{publicvoidmap(Objectkey,Textvalue,Contextcontext)throwsIOException,InterruptedException{Stringline[]=value.toString().split(",");//mgrno,rdate,cusip,shares,sole,shared,no//[0],[1],[2],[3],[4],[5],[6]

java - ClassNotFoundException : org. apache.pdfbox.pdmodel.PDDocument

我在编译过程中遇到以下错误。我正在使用EclipseIDE并在Ubuntu上工作。我在构建路径中添加了以下jar文件1)pdfbox1.8.13及其所有依赖项2)Commons-logging-1.2。请告诉我为什么类在jar文件中时会出现错误?Error:java.lang.ClassNotFoundException:org.apache.pdfbox.pdmodel.PDDocumentatjava.net.URLClassLoader$1.run(URLClassLoader.java:359)atjava.net.URLClassLoader$1.run(URLClassLo

java.lang.NoClassDefFoundError : Could not initialize class org. apache.hadoop.hbase.shaded.protobuf.ProtobufUtil$ClassLoaderHolder 错误

我尝试根据theofficialdocumentation安装和运行OpenTSDB我使用sudo./build/tsdbtsd--port=4242--config=/path/to/opentsdb/src/opentsdb.conf--staticroot=build/staticroot--cachedir="$tsdtmp"启动OpenTSDB一切似乎都运行良好,但是当我尝试使用./tsdbmkmetricmysql.bytes_receivedmysql.bytes_sent创建指标时,出现如下所示的错误。任何想法出了什么问题,我该如何解决?如果需要任何其他信息,请告诉我。

apache-spark - 使用 Spark/Scala 读取序列文件时,无法序列化结果 : org. apache.hadoop.io.IntWritable

从逻辑上读取带有Int和String的序列文件,然后如果我这样做:valsequence_data=sc.sequenceFile("/seq_01/seq-directory/*",classOf[IntWritable],classOf[Text]).map{case(x,y)=>(x.toString(),y.toString().split("/")(0),y.toString().split("/")(1))}.collect这没问题,因为IntWritable已转换为String。如果我这样做:valsequence_data=sc.sequenceFile("/seq_0

hadoop - org.apache.kylin.job.exception.ExecuteException : java. lang.NoClassDefFoundError: org/apache/hadoop/hive/serde2/typeinfo/TypeInfo 问题

我在https://issues.apache.org/jira/browse/KYLIN-2511上发现了类似的错误环境:hadoop-2.7.1hbase-1.3.2apache-hive-2.1.1-binapache-kylin-1.6.0-hbase1.x-bin我已经尝试将所有的hive库复制到kylin,但是又出现了另一个错误。org.apache.hadoop.mapred.YarnChild:Errorrunningchild:java.lang.NoClassDefFoundError:org/apache/hadoop/hive/serde2/typeinfo/T

scala - 异常线程 "main"scala.MatchError :Map() (of class org. apache.spark.sql.catalyst.util.CaseInsensitiveMap)

我正在尝试将数据从Excel工作表加载到Hive表。它在下面抛出错误.Map(treatemptyvaluesasnulls->true,location->"input",useheader->true,inferschema->true,addcolorcolumns->false,sheetname->"INPUT")(ofclassorg.apache.spark.sql.catalyst.util.CaseInsensitiveMap)使用的代码:valdf=spark.read.format("com.crealytics.spark.excel").option("loc