草庐IT

block_descriptor_tmp

全部标签

hadoop - 无法设置路径 :\tmp 的权限

Failedtosetpermissionsofpath:\tmp\hadoop-MayPayne\mapred\staging\MayPayne2016979439\.stagingto0700我在执行MapReduce作业时收到此错误,我使用的是hadoop1.0.4,然后我知道这是一个已知问题,我在1.2.0上尝试过此问题,但问题仍然存在。我能知道他们已经解决了这个问题的hadoop版本吗?先谢谢大家 最佳答案 我在Windows7上运行nutch-1.7时遇到了同样的异常。bin/nutchcrawlurls-dircraw

hadoop - hadoop hdfs中的/tmp目录是什么?

我有4个数据节点的集群,每个节点上的hdfs结构如下我面临磁盘空间问题,您可以看到来自hdfs的/tmp文件夹占用了更多空间(217GB)。所以我试图调查/tmp文件夹中的数据。我发现了以下临时文件。我访问了这些临时文件夹,每个文件夹都包含一些大小为10gb到20gb的部分文件。我想清除这个/tmp目录。谁能告诉我删除这些tmp文件夹或零件文件的后果。它会影响我的集群吗? 最佳答案 HDFS/tmp目录主要用作mapreduce操作时的临时存储。Mapreduce工件、中间数据等将保存在此目录下。当mapreduce作业执行完成时,

hadoop - Spark - java IOException :Failed to create local dir in/tmp/blockmgr*

我试图运行一个长时间运行的Spark作业。执行几个小时后,出现以下异常:Causedby:java.io.IOException:Failedtocreatelocaldirin/tmp/blockmgr-bb765fd4-361f-4ee4-a6ef-adc547d8d838/28试图通过检查来绕过它:/tmp目录中的权限问题。spark服务器未以root身份运行。但是/tmp目录应该对所有用户都是可写的。/tmp目录有足够的空间。 最佳答案 假设您正在使用多个节点,您需要检查参与spark操作的每个节点(master/drive

hadoop - Hadoop 中的拆分大小与 block 大小

Hadoop中分割大小和block大小之间的关系是什么?正如我在this中读到的那样,拆分大小必须是block大小的n倍(n是一个整数且n>0),这是正确的吗?splitsize和blocksize之间有什么必然的关系吗? 最佳答案 HDFS架构中有block的概念。HDFS使用的典型block大小为64MB。当我们将一个大文件放入HDFS时,它被分成64MB的block(基于block的默认配置),假设你有一个1GB的文件并且你想将该文件放入HDFS,那么将有1GB/64MB=16个拆分/block,这些block将分布在Data

hadoop - 为什么 HDFS 中的 block 这么大?

有人可以解释这个计算并给出清晰的解释吗?Aquickcalculationshowsthatiftheseektimeisaround10msandthetransferrateis100MB/s,tomaketheseektime1%ofthetransfertime,weneedtomaketheblocksizearound100MB.Thedefaultisactually64MB,althoughmanyHDFSinstallationsuse128MBblocks.Thisfigurewillcontinuetoberevisedupwardastransferspeeds

hadoop - 查看hadoop中文件的 block 数

在Hadoop文件系统中,如何查看一个文件被分成了多少block? 最佳答案 我们可以使用hadoop文件系统检查命令来了解特定文件的block。命令如下:hadoopfsck[path][options]查看特定文件的block:hadoopfsck/path/to/file-files-blocks 关于hadoop-查看hadoop中文件的block数,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.c

Hadoop 输入拆分大小与 block 大小

我正在阅读hadoop权威指南,其中清楚地解释了输入拆分。就像Inputsplitsdoesn’tcontainactualdata,ratherithasthestoragelocationstodataonHDFS和Usually,SizeofInputsplitissameasblocksize1)假设一个64MB的block在节点A上并在其他2个节点(B、C)之间复制,并且map-reduce程序的输入分割大小为64MB,这个分割会吗只有节点A的位置?或者它是否具有所有三个节点A、b、C的位置?2)由于数据对于所有三个节点都是本地的,因此框架如何决定(选择)一个maptask在

php - Magento:静态 block 和配置设置迁移

为了将所有更改迁移到所有环境,我使用了数据库升级脚本。我使用它们来创建不同的实例(客户、税务设置等),但通常用于迁移静态block和配置设置。迁移静态block:'Blocktitle','identifier'=>'block_identifier','content'=>'blockcontent','is_active'=>1,'stores'=>array(0=>Mage_Core_Model_App::ADMIN_STORE_ID),);$block->addData($data);$block->save();?>迁移设置:saveConfig('design/theme/

php - 将 Bing map 图 block 与 Leaflet 一起使用

我正在尝试将BingMapstiles集成到Leaflet中。我发现执行此操作的所有插件都没有帮助,因为它们没有关于它们的使用信息。我可以用PHP编写脚本以从Leaflet接收X、Y和Z坐标(只需将脚本设置为图block服务器URL),但我需要一种将它们转换为Quadkey的方法。任何一个的答案都是可以接受的。如果有帮助,我确实有BingmapAPIkey。 最佳答案 GitHub用户shramov的leaflet-plugins存储库(链接到Nicolas的回答中共享的thegist)包括一个使用Bingtile层的示例,并且据我

php - 在 PhpStorm 中扩展使用 block

如何默认展开PhpStorm2017.1类顶部的“useblock”以查看所有导入的命名空间?有什么设置吗? 最佳答案 您可以在codefolding区域进行这些设置。在这种情况下,这些是Imports,因此请在设置中将其选中。前往:设置>编辑器>常规>代码折叠见图片。 关于php-在PhpStorm中扩展使用block,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/440678