草庐IT

buffer_memory

全部标签

Hadoop:为什么我在 Namenode Information Web 中收到 "Max Non Heap Memory is -1 B."消息?这是什么意思?

我有一个使用VirtualBox制作的Hadoop2.6.5集群(一个主节点用作名称节点和数据节点,两个从节点)(easch节点安装了Xubuntu16.04)。先验,安装是正确的,因为我运行了一个wordcount示例并且没问题。在master:50070(我看到名称节点信息的地方),我得到这个:"MaxNonHeapMemoryis-1B."你知道这是什么意思吗?我找不到答案,我想检查一下,因为在运行wordcount之后我尝试运行我自己的程序但它没有成功,尽管它在我的Hadoop单节点安装中运行正常。我希望清楚,如果您需要更多信息,请告诉我。谢谢! 最

hadoop - 当 mapred.job.shuffle.input.buffer.percent=0.70 时,pig join 在 reducer 中出现 OutOfMemoryError

我们正在一个小表和一个大倾斜表之间进行简单的pig连接。由于另一个错误(pigskewedjoinwithabigtablecauses"Splitmetadatasizeexceeded10000000"),我们无法使用"usingskewed":(如果我们使用默认的mapred.job.shuffle.input.buffer.percent=0.70我们的一些reducer在shuffle阶段会失败:org.apache.hadoop.mapred.Task:attempt_201305151351_21567_r_000236_0:Mapoutputcopyfailure:ja

memory - 如何更改 EMR hadoop 流作业中的内存

我正在尝试克服EMR上的hadoop流作业中的以下错误。Container[pid=30356,containerID=container_1391517294402_0148_01_000021]isrunningbeyondphysicalmemorylimits我尝试搜索答案,但我找到的那个没有用。我的工作启动如下所示。hadoopjar../.versions/2.2.0/share/hadoop/tools/lib/hadoop-streaming-2.2.0.jar\-inputdeterminations/part-00000\-outputdeterminations/

hadoop - Protocol Buffer 错误 : Hbase createTable & put in java code(protobuf-LiteralByteString)

我正在使用kafka、sparkstream和hbase开发java应用程序。通过mavencleaninstall编译代码后,当我运行我的应用程序时遇到以下错误:hadoop版本:2.7.3HBase版本:hbase-0.98.24-hadoop2星火:2.1.0虽然我已经检查并应用了该站点中以前的答案,但我仍然遇到了问题。谢谢...`Exceptioninthread"main"org.apache.hadoop.hbase.DoNotRetryIOException:java.lang.NoClassDefFoundError:com/google/protobuf/Litera

memory-management - HBase MemStore 和垃圾收集

我是HBase的新手,但我已经设置好HBase和Hadoop并了解一些相关知识。当我研究HBaseMemStore时,我对MemStore的全部了解是“MemStore是HBase放置必须写入或读取的数据的内存位置”。所以,这就是为什么我们想在何时何地阅读有关memstore的内容时,我们也会看到有关垃圾收集的讨论。现在我的问题是,memstore的唯一目的是在内存中保存可读和可写的数据吗?我们可以调整该内存的大小以获得hbase的快速回复吗?垃圾收集配置(收集器配置)会影响内存库吗?我认为应该是的。:) 最佳答案 关于HbaseM

Android工作室getSlotFromBufferLocked : unknown buffer error

我想做一个简单的登录和注册应用程序,这样用户就可以创建一个帐户。(姓名、用户名、密码)我使用WAMP和一个MYSQL数据库来存储帐户。当我在注册表中填写用户信息并单击注册时,我收到以下错误:09-1409:30:39.8642624-2638/com.example.appname.appnameE/Surface﹕getSlotFromBufferLocked:unknownbuffer:0xab7115e009-1409:30:48.6322624-2638/com.example.appname.appnameE/Surface﹕getSlotFromBufferLocked:u

Android工作室getSlotFromBufferLocked : unknown buffer error

我想做一个简单的登录和注册应用程序,这样用户就可以创建一个帐户。(姓名、用户名、密码)我使用WAMP和一个MYSQL数据库来存储帐户。当我在注册表中填写用户信息并单击注册时,我收到以下错误:09-1409:30:39.8642624-2638/com.example.appname.appnameE/Surface﹕getSlotFromBufferLocked:unknownbuffer:0xab7115e009-1409:30:48.6322624-2638/com.example.appname.appnameE/Surface﹕getSlotFromBufferLocked:u

apache - Apache Hadoop YARN 中的 'mapreduce.map.memory.mb' 和 'mapred.map.child.java.opts' 是什么关系?

我想知道mapreduce.map.memory.mb和mapred.map.child.java.opts参数之间的关系。mapreduce.map.memory.mb>mapred.map.child.java.opts? 最佳答案 ma​​preduce.map.memory.mb是Hadoop允许分配给映射器的内存上限,以兆字节为单位。默认值为512。如果超过此限制,Hadoop将终止映射器并显示如下错误:Container[pid=container_1406552545451_0009_01_000002,contain

memory-management - memory_get_peak_usage 与实际 php 进程内存使用量的区别

为什么phpmemory_get_peak_usage的结果与在Linux中使用“top”或“ps”命令时显示为分配给进程的内存大小差异如此之大?我在php.ini中设置了2Mb的memory_limit我的单字符串php脚本echomemory_get_peak_usage(true);说它正在使用786432字节(768Kb)如果我尝试向系统询问当前的php进程echoshell_exec('ps-p'.getmypid().'-Fl');它给了我FSUIDPIDPPIDCPRINIADDRSZWCHANRSSPSRSTIMETTYTIMECMD5Swww-data14599145

PHP HTML 整洁 : size limit to buffer

我正在尝试使用作为PHP(http://www.php.net/manual/en/book.tidy.php)一部分的HTMLTidy实现来重新格式化大量HTML。我遇到了一个问题,其中Tidy截断了超过某个点(大约8K)的输出。当我创建一个大约10K长的字符串并将其交给tidy_repair_string时,如下所示:$output=tidy_repair_string($output,array('indent'=>true,//enforceindentation'hide-comments'=>true,//Removethecomments'wrap'=>100,//Bre