草庐IT

local-class

全部标签

Hadoop Map Reduce 作业 : Class org. 找不到 apache.hive.hcatalog.mapreduce.HCatInputFormat

我正在使用kylin.它是一个数据仓库工具,它使用hadoop、hive和hbase。它附带示例数据,以便我们可以测试系统。我正在构建这个样本。这是一个多步骤过程,其中许多步骤都是map-reduce作业。第二步是ExtractFactTableDistinctColumns,这是一个MR作业。如果没有在hadoop日志中写入任何内容,这项工作就会失败。深入挖掘后,我在logs/userlogs/application_1450941430146_0002/container_1450941430146_0002_01_000004/syslog中发现了一个异常2015-12-2407

Hadoop 2.7.2 - 错误 : Could not find or load main class org. apache.hadoop.hdfs.server.namenode.NameNode

我是新手,我正在尝试找到解决这个问题的方法。为了在Ubuntu15.10上设置Hadoop2.7.2http://idroot.net/tutorials/how-to-install-apache-hadoop-on-ubuntu-14-04/当我启动“hdfsnamenode格式”时,我继续收到此错误错误:无法找到或加载主类org.apache.hadoop.hdfs.server.namenode.NameNode这是bashrc内容exportJAVA_HOME=/usr/lib/jvm/java-8-oracleexportHADOOP_INSTALL=/usr/local/

java - 为什么这个使用 Combiner 类的 Hadoop 示例不能正常工作? (不要执行Combiner提供的 "local reduction")

我是Hadoop的新手,我正在做一些实验,尝试使用Combiner类在映射器的同一节点上本地执行reduce操作。我正在使用Hadoop1.2.1。所以我有这3个类:WordCountWithCombiner.java://LearningMapReducebyNiteshJainimportorg.apache.hadoop.fs.Path;importorg.apache.hadoop.io.IntWritable;importorg.apache.hadoop.io.Text;importorg.apache.hadoop.mapreduce.Job;importorg.apac

hadoop - Flume 与 SLF4J : Class path contains multiple SLF4J bindings 冲突 hadoop

每次启动Flume时,我都会在Flume、Hive和Hadoop之间收到此消息。避免这种情况的最佳方法是什么?我正在考虑从flumelib目录中删除一个jar,但不确定这是否会影响其他(hive、hadoop)。Info:Sourcingenvironmentconfigurationscript/usr/local/flume/conf/flume-env.shInfo:IncludingHadooplibrariesfoundvia(/usr/local/hadoop/bin/hadoop)forHDFSaccess+exec/usr/java/jdk1.7.0_79/bin/ja

java - Hadoop编译错误: Could not find or load main class com. sun.tools.javac.Main

我正在尝试使用HadoopMapReduce编译简单的WordCount.java程序,使用以下命令:hadoopcom.sun.tools.javac.MainWordCount.java但我不断收到消息:Error:Couldnotfindorloadmainclasscom.sun.tools.javac.Main我的导出如下:exportJAVA_HOME=/Library/Java/JavaVirtualMachine/jdk1.8.0_101.jdk/Contents/HomeexportHADOOP_HOME=/usr/local/Cellar/hadoop/2.7.1e

hadoop - 在 Hive 中找不到 java.lang.ClassNotFoundException : Class org. apache.hadoop.hive.contrib.serde2.MultiDelimitSerDe

我正在尝试在配置单元中处理多字符分隔符。我已经成功创建了一个相同的表createexternaltableshowtmp3(doc_nameSTRING,doc_contentSTRING)rowformatSERDE'org.apache.hadoop.hive.serde2.MultiDelimitSerDe'WITHSERDEPROPERTIES('field.delim'='#a#')location'/unmesha/OUT';然后我需要发出如下查询。INSERTOVERWRITEDIRECTORY'/unmesha/OUT_tmpShowData'SELECT*showtm

hadoop - Ended Job = job_local644049657_0014 with errors Error during job, 获取调试信息

如何找到日志文件请指导我已经检查了资源管理器的url。但是我没有找到任何日志文件这是完整的错误QueryID=hadoop_20170325120040_d54d136a-1904-4af9-8f8d-4167343db072Totaljobs=1LaunchingJob1outof1Numberofreducetasksissetto0sincethere'snoreduceoperatorJobrunningin-process(localHadoop)2017-03-2512:00:42,954Stage-0map=0%,reduce=0%EndedJob=job_local64

java - Hive UDF 在 select 中抛出 Class Not Found 异常

我坚持使用UDFjar。我需要在我的UDF中解析简单的UserAgent。我找到了一个流行的UserAgent解析器http://www.bitwalker.eu/software/user-agent-utils我将其包含在我的项目中。在项目中我使用maven。我添加了所有依赖项,实现了所有内容并进行了测试。它在我的本地机器上运行良好。接下来我在Maven中进行全新安装以构建jar。这个jar我通过添加jar{MyJarName}在Hive中使用,然后创建一个函数:创建临时函数{functionName}作为{pathToUDFClass}并得到这样的异常。Causedby:java

java.lang.NoClassDefFoundError : Could not initialize class org. apache.hadoop.hbase.shaded.protobuf.ProtobufUtil$ClassLoaderHolder 错误

我尝试根据theofficialdocumentation安装和运行OpenTSDB我使用sudo./build/tsdbtsd--port=4242--config=/path/to/opentsdb/src/opentsdb.conf--staticroot=build/staticroot--cachedir="$tsdtmp"启动OpenTSDB一切似乎都运行良好,但是当我尝试使用./tsdbmkmetricmysql.bytes_receivedmysql.bytes_sent创建指标时,出现如下所示的错误。任何想法出了什么问题,我该如何解决?如果需要任何其他信息,请告诉我。

hadoop - 目录文件未使用命令“hadoop fs -put <my local path> <hdfs path> 复制到 HDFS

我正在通过给出以下命令将本地系统中的pig处理文件复制到HDFS路径(链接到HIVE表),但它没有复制。第一步:数据在我的本地路径[root@quickstartplantoutput]#lltotal4-rw-r--r--1rootroot1469Dec302:37part-m-00000-rw-r--r--1rootroot0Dec302:37_SUCCESS[root@quickstartplantoutput]#pwd/home/cloudera/Desktop/dealer/plantoutputStep2:应用命令后是这样的[root@quickstartplantoutp