草庐IT

hadoop - 运行时异常 : Error in configuring object with null pointer exception while running my UDAF?

我一直在尝试编写一个UDAF来计算加权平均值。我用类似于现有UDAF的方式编写它来计算平均值,但它似乎只适用于我的本地机器。我不确定出了什么问题....有人遇到过类似的问题吗以下是生成的错误:java.lang.RuntimeException:Errorinconfiguringobjectatorg.apache.hadoop.util.ReflectionUtils.setJobConf(ReflectionUtils.java:93)atorg.apache.hadoop.util.ReflectionUtils.setConf(ReflectionUtils.java:64)

hadoop - 得到错误的 FS : file while running hive query

在hive上运行一个简单的选择查询时我遇到了这个奇怪的错误java.lang.IllegalArgumentException:WrongFS:file://usr/lib/hive/lib/CustomUDFint.jar,expected:file:///atorg.apache.hadoop.fs.FileSystem.checkPath(FileSystem.java:410)atorg.apache.hadoop.fs.RawLocalFileSystem.pathToFile(RawLocalFileSystem.java:56)atorg.apache.hadoop.fs

hadoop - Hbase 错误 java.lang.RuntimeException : Unable to run quorum server

我无法启动Hbase,每当我启动时,我只会在jps中获得Hmaster和Hregionserver。Hquorompeer不断丢失。我检查了日志,但出现以下错误:java.lang.RuntimeException:Unabletorunquorumserveratorg.apache.zookeeper.server.quorum.QuorumPeer.loadDataBase(QuorumPeer.java:454)atorg.apache.zookeeper.server.quorum.QuorumPeer.start(QuorumPeer.java:409)atorg.apac

[报错]记录IDEA远程开发报错:java: Cannot run program.....

报错内容IDEA在进行远程开发的时候报错,内容如下:java:Cannotrunprogram"/usr/lib/jvm/java-1.8.0-openjdk-amd64/bin/java"(indirectory"/home/jim/.cache/JetBrains/RemoteDev-IU/_home_jim_DevCodes_Github_zfile/compile-server"):error=0,Failedtoexecspawnhelper:pid:3049929,exitvalue:1表现如下:解决办法在IDEA设置Build,Execution,Deployment--Comp

python - Hadoop 流 : PYTHONPATH not working when mapper runs

我在其中设置了PYTHONPATH,它也能正常工作,除非我运行map-reduce作业它没有说追溯(最近的调用最后):文件“/work/app/hadoop/tmp/mapred/local/taskTracker/hduser/jobcache/job_201203091218_0006/attempt_201203091218_0006_m_000020_0/work/./mapper.py”,第57行,在从src.utilities导入实用程序导入错误:没有名为src.utilities的模块java.lang.RuntimeException:PipeMapRed.waitOu

hadoop - Oozie 和 Hadoop 2,作业卡在 "RUNNING"

我有一个带有java操作节点的工作流作业。使用Hadoop2.1.0.2.0.4.0-38和Oozie3.3.2.2.0.4.0运行当我提交作业时,我在Hadoop资源管理器屏幕中看到2行。1.原职称2.使用Oozie作业名称。Ooziejobname的任务卡在“RUNNING”状态原名称的任务处于“已接受”状态。我在日志中看到的是:>>>InvokingMainclassnow>>>HeartbeatHeartbeatHeartbeatHeartbeat...谢谢 最佳答案 似乎可以并行运行的maptasks的数量是有限的。将以下

Verilog HDL警告 Warning (13024): Output pins are stuck at VCC or GND

这个警告代表某个输出变量的值恒为1或0。问题:编译后ERR和RxdEnd的值恒为0。分析:找到ERR和RxdEnd的位置(43-50行),程序完全没进入43到50行的if语句,导致程序没有对上述两个变量的值进行任何操作。原因:第二行rnd_cnt变量没有指定位宽,默认位宽是1,所以程序处理时rnd_cnt最大为2,没有办法加到43行的5,所以程序卡在43行之前没法前进处理ERR和RxdEnd,导致了错误出现。解决:指定位宽,将第二行改成reg[7:0]rnd_cnt;问题解决。总结:用于计数的变量要指定位宽以下为错误代码reg[7:0]RxdBuf;regrnd_cnt;reg[8:0]Lrc

hadoop - pig : Container is running beyond physical memory limits in cdh 5 using oozie

我正在尝试运行一个简单的pig脚本,该脚本在gruntshell中运行f9但不使用oozie,出现如下错误:容器[pid=2617,containerID=container_1438923434512_12103_01_000002]正在超出物理内存限制运行。当前使用情况:已使用1.0GB的1GB物理内存;使用了2.9GB的2.1GB虚拟内存。杀死容器。container_1438923434512_12103_01_000002..的进程树转储..实际上我正在通过oozie调用一个shell脚本,实习生调用pig脚本并得到这样的错误。我怎样才能让它在oozie中可用

Hadoop : ClassNotFound Error at MapReduce

只是在提出问题之前说明我的设置,HadoopVersion:1.0.3默认的WordCount示例运行良好。但是当我根据这个页面http://hadoop.apache.org/common/docs/r0.20.2/mapred_tutorial.html创建一个新的WordCount程序时我按照教程中给出的类似方式对其进行了编译和jar压缩。但是当我运行它时使用:/usr/local/hadoop$bin/hadoopjarwordcount.jarorg.myorg.WordCount../Space/input/../Space/output我得到以下错误,java.lang.

hadoop - 自动化 H2O 流量 : run flow from CLI

我成为h2o用户已经一年半多了,但我的工作仅限于Rapi;h2oflow对我来说比较新。如果它对您来说也是新的,它基本上是0xdata的iPython版本,但是iPython让您可以将笔记本导出到脚本。我在流程中找不到类似的选项...我正要将模型(内置流程)转移到生产中,我想知道如何使其自动化。使用Rapi,在构建并保存模型后,我可以轻松地将其加载到R中,只需运行nohupRscript&即可对新数据进行预测。来自CLI,但我不确定如何使用Flow做类似的事情,特别是因为它在Hadoop上运行。就目前而言,每次运行都分为三部分,流程在中间创建了一个相对笨拙的过程:预处理数据,将其移动到