草庐IT

out_param

全部标签

java - 如何让 system.out.println() 在 hadoop 中工作

我正在尝试在hadoop中进行调试。我想使用System.out.println()将一些变量打印到终端,但没有任何内容输出到终端。我检查了下的作业历史记录/日志http://serverurl:19888/jobhistory/app但那里仍然只有INFO,没有println()。此外,我修改了log4j.properties,改了hadoop.root.logger=INFO,console到hadoop.root.logger=ALL,console但还是不行。有人有什么想法吗?非常感谢。 最佳答案 为什么不定义一个记录器并通

java - 运行 mapreduce 程序时出现 "Java Heap space Out Of Memory Error"

我在运行mapreduce程序时遇到内存不足错误。如果我将260个文件保存在一个文件夹中并作为mapreduce程序的输入,它会显示Java堆空间内存不足错误。如果我只提供100文件作为mapreduce的输入,它运行良好。那么我如何限制mapreduce程序一次只处理100个文件(~50MB)。任何人都可以就这个问题提出建议......Nooffiles:318,Noofblocks:1(blocksize:128MB),Hadoop运行在32位系统上MyStackTrace:==============15/05/0511:52:47INFOinput.FileInputForma

hadoop - --options-file 与 --connection-param-file 有何不同

Sqoop文档将--options-file的示例显示为:##OptionsfileforSqoopimport##Specifiesthetoolbeinginvokedimport#Connectparameterandvalue--connectjdbc:mysql://localhost/db#Usernameparameterandvalue--usernamefoo##Remainingoptionsshouldbespecifiedinthecommandline.#按照上面的说法,如果它只是连接信息,并且按照注释,所有剩余的选项都应该在命令行中指定,为什么它在--opt

hadoop - 收到警告 ipc.Client : interrupted waiting to send params to server when copying files to HDFS

我写了一个perl脚本,其中调用了copyFromLocal来上传文件。当它运行时,WARNipc.Client:interruptedwaitingtosendparamstoserver发生。我检查了刚刚上传的HDFS上的所有文件。看来都复制成功了。谁知道那个警告是什么意思?完整的警告信息12/10/2311:41:07WARNipc.Client:interruptedwaitingtosendparamstoserverjava.lang.InterruptedExceptionatjava.util.concurrent.locks.AbstractQueuedSynchro

java - 为什么java action System.out 在Oozie 中执行时消失了?

我正在使用oozie环境。成功完成作业后,我无法在oozie日志中找到System.out.println输出。我用谷歌搜索了好几个小时,然后找到了this但没有结果。从oozieweb控制台我得到了作业ID“0000011-180801114827014-oozie-oozi-W”,然后我尝试使用以下命令获取有关该作业的更多信息:ooziejob-ooziehttp://localhost:11000/oozie/-info0000011-180801114827014-oozie-oozi-W然后我从JobCompleted"16546"操作中获取externalId,我认为作业I

hadoop - pig : filtering out empty string

我正在尝试从我的数据中过滤掉NULL和空字符串data_filtered=FILTERraw_data byCOLUMN_NAMEisnotnullandCOLUMN_NAME!='';当我运行它时,出现以下错误:ERRORorg.apache.pig.tools.grunt.Grunt-ERROR1200:Unexpectedcharacter' '如何解决此错误并过滤掉NULLS和空白字符串? 最佳答案 可以使用TRIM函数过滤空格data_filtered=FILTERraw_databy(COLUMN_NAMEisnotnu

hadoop - pig : Pulling individual fields out after a GROUP

在PigLatin中,我想从要选择的记录中提取其他字段,因为有聚合,例如MAX。我无法解释这个问题,所以这里有一个例子。假设我想获取家中最年长者的姓名:关系A是四列,(name,address,zipcode,age)B=GROUPABY(address,zipcode);#groupbytheaddress#generatetheaddress,theperson'sage,buthowdoIgrabthatperson'sname?C=FOREACHBGENERATEFLATTEN(group),MAX(age),???Name???;如何生成年龄为MAX的人的姓名?

hadoop - hadoop mapreduce 框架将我的 System.out.print() 语句发送到哪里? (标准输出)

我想调试一个mapreduce脚本,并试图在我的程序中放置一些打印语句,但没有遇到太多麻烦。但我似乎无法在任何日志中找到它们。 最佳答案 实际上stdout只显示non-mapreduce类的System.out.println()。可以在日志中看到map和reduce阶段的System.out.println()。访问日志的简单方法是http://localhost:50030/jobtracker.jsp->点击已完成的作业->点击map或缩减任务->点击任务编号->任务日志->stdout日志。希望对你有帮助

PHP PDO 无法获取 OUT 参数值

我刚开始将PHPPDO与MySQL存储过程一起使用,我对如何从过程调用中获取OUT参数有疑问。我查看了许多类似的stackoverflow主题,但不幸的是我找不到解决问题的方法:|详情如下:该过程有1个输入参数和2个强制输出参数,并在其中返回结果状态。我是这样调用它的:$input=5;$mydb=newPDO("mysql:host=localhost;dbname=mydb","user","pass");$proc=$mydb->prepare("CALLproc_name($input,@o_code,@o_message)");$proc->execute();该过程在@o_

php - joomla 1.7 访问 :protected menu params

我想在joomla1.7中访问菜单的menu_image参数NormallyIjustuse:$currentMenuItem=JSite::getMenu()->getActive();它给了我如下所示的所有参数,但是params对象中的数据已被:protected所以我无法访问$currentMenuItem->params->data:protected->menu_image因为我不能在对象中使用:。有人知道怎么做吗?[params]=>JRegistryObject([data:protected]=>stdClassObject([show_title]=>[link_ti