草庐IT

REPORT_LENGTH

全部标签

windows - start-all.cmd 在 Windows 中给出错误 "til.SysInfoWindows: Expected split length of sysInfo to be 11. Got 7"

我在没有cygwin的情况下在Windows中完成了hadoop2.8.1设置。我已按照http://toodey.com/2015/08/10/hadoop-installation-on-windows-without-cygwin-in-10-mints中提到的所有步骤进行操作.但是当我通过start-all.cmd启动hadoop时,我在yarnnodemanagercmd中收到这个错误11:21警告util.SysInfoWindows:sysInfo的预期拆分长度为11。得到712年17月11日20:11:24警告util.SysInfoWindows:sysInfo的预期

hadoop - Datanode 已启动但未显示在 dfsadmin -report 中

我正在尝试将Hadoop3.1.0安装到两个虚拟机中:第一台机器包含一个名称节点和一个数据节点,第二台机器包含一个数据节点。我关注了这篇文章InstallHadoop3.0.0multi-nodeclusteronUbuntu.在我执行start-dfs.sh和start-yarn.sh命令之前,一切都很顺利。当我在Name节点上运行Jps命令时,它显示以下结果:16488NameNode16622DataNode17215NodeManager17087ResourceManager17530Jps16829SecondaryNameNode当我在数据节点上运行它时,它显示:2306

hadoop - java.io.IOException : Cannot obtain block length for LocatedBlock 异常

我正在使用HDP2.1。对于集群。我遇到了以下异常,因此MapReduce作业失败了。实际上,我们经常使用来自Flume的数据创建表,这是ver。1.4.我检查了mapper试图读取的数据文件,但我找不到任何内容。2014-11-2800:08:28,696WARN[main]org.apache.hadoop.metrics2.impl.MetricsConfig:Cannotlocateconfiguration:triedhadoop-metrics2-maptask.properties,hadoop-metrics2.properties2014-11-2800:08:28,

hadoop - HDFS 容量 : how to read "dfsadmin report"

我正在使用Hadoop2.6.0。当我运行“hdfsdfsadmin-report”时,我得到了这样的东西(简化):ConfiguredCapacity:3TBPresentCapacity:400GBDFSRemaining:300GBDFSUsed:100GB我想知道“配置容量”是什么,“当前容量”是什么。看起来“PresentCapacity”是有效的。我怎样才能增加这个? 最佳答案 配置容量是用于数据目录的磁盘/卷的总可用容量。例如:我在/Hadoop/sdb1、/Hadoop/sdc1、/Hadoop/sdd1上安装了三个

hadoop - HDFS 占用空间 : "hdfs dfs -du/" vs "hdfs dfsadmin -report"

哪种工具最适合测量HDFS空间消耗?当我总结“hdfsdfs-du/”的输出时,与“hdfsdfsadmin-report”(“DFSUsed”行)相比,我总是消耗更少的空间。是否有du没有考虑的数据? 最佳答案 Hadoop文件系统通过将数据副本放置到多个节点来提供重新标记存储。副本数是复制因子,通常大于一。命令hdfsdfs-du/显示空间在没有复制的情况下消耗了您的数据。命令hdfsdfsadmin-report(使用DFS行)显示实际磁盘使用情况,同时考虑了数据复制。所以当从dfs-ud命令获取数字时,它应该大几倍。

java - Hadoop 作业 : Task fail to report status for 601 seconds

在伪节点上运行hadoop作业时,任务失败并被杀死。错误:任务尝试_未能报告状态601秒但相同的程序正在通过Eclipse运行(本地作业)。任务:大约有25K个关键字,输出将是所有可能的组合(一次两个),即大约25K*25K个整体可能是什么问题? 最佳答案 由于某种原因,任务在您的伪节点上执行时没有进行。您可以增加mapred-site.xml中的设置“mapred.task.timeout”。mapred-default.xml中相同的默认值为:mapred.task.timeout600000Thenumberofmillise

java - 由于 Task attempt failed to report status 600 秒,reduce 失败。杀戮!解决方案?

作业的reduce阶段失败并显示:失败的Reduce任务超出了允许的限制。每个任务失败的原因是:任务attempt_201301251556_1637_r_000005_0未能报告状态达600秒。杀!问题详情:Map阶段接收格式为:time,rid,data的每条记录。数据的格式为:数据元素及其计数。例如:a,1b,4c,7对应一条记录的数据。映射器为每个数据元素输出每条记录的数据。例如:key:(time,a,),val:(rid,data)键:(时间,b,),val:(删除,数据)key:(time,c,),val:(rid,data)每一个reduce从所有的记录中接收同一个ke

PHP curl : Manually setting the content-length header

假设我使用PHPCURL上传文件:$postData=array();$postData['file_name']="test.txt";$postData['submit']="UPLOAD";$ch=curl_init();curl_setopt($ch,CURLOPT_URL,$url);curl_setopt($ch,CURLOPT_RETURNTRANSFER,1);curl_setopt($ch,CURLOPT_POST,1);curl_setopt($ch,CURLOPT_POSTFIELDS,$postData);现在假设我必须手动设置内容长度header。$heade

PHP Curl 请求返回 HTTP 错误 411 : The request must be chunked or have a content length

我正在尝试用PHP发送以下CURL请求。但它返回:“HTTP错误411。请求必须分块或具有内容长度。”包含CURL请求的PHP脚本:输出:LengthRequiredHTTPError411.Therequestmustbechunkedorhaveacontentlength.由于我是PHPCurl的新手,所以我无法找出问题所在。如果有人可以通过示例简要指导我解决方案,我将非常感谢他。谢谢! 最佳答案 由于您的数据似乎是作为URL参数发送的,请尝试添加零内容长度header,如下所示:curl_setopt($ch,CURLOPT

php - 通过 PHP 挂起生成 Crystal Report

我正在尝试使用PHP脚本生成Crystal报告。该脚本似乎在ReadRecords()之后挂起;日志文件中不会生成错误消息。我做错了什么吗?$my_report="C:\\inetpub\\wwwroot\\mamobile\\reports\\invoice.rpt";$my_pdf="C:\\inetpub\\wwwroot\\mamobile\\reports\\test.pdf";$ObjectFactory=newCOM("CrystalReports115.ObjectFactory.1");$crapp=$ObjectFactory->CreateObject("Crys