草庐IT

perl-packager

全部标签

hadoop - 运行 Hadoop 示例时出现错误 : package org. apache.hadoop.conf 不存在

我已经使用exportCLASSPATH=${CLASSPATH}:/~Downloads/hadoop-1.0.4/*.jar将hadoopjars添加到类路径中,但我仍然我收到找不到包的错误。我正在使用Java1.7.0_17。有人知道如何正确设置hadoopjar的类路径吗? 最佳答案 您要将它们设置到的不是CLASSPATH,而是HADOOP_CLASSPATH。我喜欢使用以下命令添加当前目录和lib目录中的所有jar依赖项:exportHADOOP_CLASSPATH=$HADOOP_CLASSPATH:`echo*.ja

perl - 如何基于ssdeep进行聚类?

您好,我正在尝试从基于ssdeep的文件中查找组。我已经生成了ssdeep文件并将其保存在csv文件中。我在perl脚本中解析文件如下:foreach(@all_lines){chomp;my$line=$_;my@split_array=split(/,/,$line);my$md5=$split_array[1];my$ssdeep=$split_array[4];my$blk_size=(split(/:/,$ssdeep))[0];if($blk_sizene""){my$cluster_id=check_In_Cluster($ssdeep);printWFp"$cluste

perl - 使用Hadoop的有效方法来消隐在列中出现少于X次的值

更新以提示更改总键描述我需要在匿名环境中从文件的列中删除所有值,这些值出现的次数少于指定的次数。将指定多个列,这些列要求值在该列中出现超过X次,并且空白相对于一列。这意味着如果X=4并且值123在第1列中出现3次,在第4列中出现4次,则所有3次出现都必须在第1列中为空白,但在第4列中是允许的。我使用了过去半年来一直稳定的HadoopStreaming和Perl的2遍方法解决了这个问题。问题是提供了一个新文件,尽管我的过程可以处理它,但在我们的862容器(54节点)hadoop集群上处理大约需要5天。我将解释我的解决方案/方法,并要求进行适合该问题并允许优化运行时间的任何优化或替代方法。

perl - Oozie 日志上的模式匹配

使用的Oozie命令ooziejobs-ooziehttp://localhost:11000/oozie-localtime|grep"2013-05-08">Input.txtOozie日志(Input.txt)61-oozieDProSUCCEEDEDchroniclesusers2013-05-0804:472013-05-0804:5361-oozieDPRUNNINGchroniclesusers2013-05-0804:4761-oozieDProcessSuspendedchroniclesusers2013-05-0804:422013-05-0804:4861-oo

hadoop - 如何从 PIG.. 调用 perl 脚本?

任何人都知道如何从pig脚本调用perl脚本..我也想知道如何从perl调用pig..请帮我解决这个问题。谢谢,兰吉斯 最佳答案 第一个问题:“从pig调用perl脚本”最接近的结果是Pig'sstreamingcapability.文档中的示例:A=LOAD'data';B=STREAMATHROUGH'stream.pl-n5';您必须确保您的perl脚本通过标准输入接收数据并通过标准输出输出数据。这是Pig通过您正在进行的调用流式传输数据的方式。我不确定脚本应该输入和输出的数据格式是什么(您可能需要尝试一个示例)。第二个问题:

hadoop - 在一个简单的 Hbase 示例中获取 "package org.apache.hadoop.conf does not exist"

我收到以下错误TestHBase.java:6:error:packageorg.apache.hadoop.confdoesnotexist在ubuntu12.04中尝试以下操作时:hduser@ubuntu:~$javac-classpathhbase-0.94.8.jar:hadoop-core-1.1.2.jarTestHBase.java我试过以下方法:将hadoop-core-1.1.2.jar重命名为hbase自带的hadoop-core-1.0.4.jar后复制到hbase/lib中复制hadoop/lib/commons-*.jar库到hbase/libhduser@

perl - 在组合器中使用管道的 Hadoop 流作业

我正在尝试像这样运行一个Hadoop流作业:yarnjar/usr/lib/hadoop-mapreduce/hadoop-streaming-2.2.0.*.jar\-filescount.pl\-input"/my_events/*.bz2"\-outputcount-events\-mapper"cut-f2,4|grepfoo|cut-f1"\-combiner"perlcount.pl-s|perlcount.pl"\-reducer"perlcount.pl"count.pl脚本是一个简单的脚本,它只对键进行计数,像这样(简化)循环输入:while(){chomp;my($

ubuntu - 在 ubuntu 12.04 上安装 mahout - E : Unable to locate package mahout

如何在ubuntu12.04上安装mahout?sudoapt-getinstallmahoutReadingpackagelists...DoneBuildingdependencytreeReadingstateinformation...DoneE:Unabletolocatepackagemahouthttps://ccp.cloudera.com/display/CDHDOC/Mahout+InstallationToinstallMahoutonanUbuntuorotherDebiansystem:$sudoapt-getinstallmahout

php - 如何从 Perl 调用 PHP 脚本?

如何从Perl脚本调用PHP脚本并将其输出作为变量? 最佳答案 使用backtickoperator:my$phpOutput=`/usr/bin/php-cliyour-script.php`;请注意,您可能需要编辑路径以指向您的php可执行文件。如果您想将输出作为流,您还可以使用管道(Perl打开:openPHPOUT,"/usr/bin/php-cliyour-script.php|";while(){#dosomethingwiththecurrentline$_}参见perldoc-fopen.

PHP ↔ Perl 接口(interface)或绑定(bind)

您推荐哪种PHP↔Perl接口(interface)或绑定(bind)?我需要能够从PHP脚本运行位于Perl文件中的Perl函数并获取返回值。我已经找到了PECL"perl"package但我不确定自从上次Subversion事件是大约12个月前以来它有多可靠。我还找到了Perl模块PHP::Interpreter根据将近3年的教程,这应该是双向的,IntegratingPHPandPerl.如果您能推荐(或不推荐)这两个选项中的任何一个,或者如果您有一个我还没有见过的更好的选项,我将不胜感激。 最佳答案 从来没有用过这些,但它们