文章目录一、报错信息二、问题描述三、原因分析：四、解决方案：一、报错信息DEBUGorg.apache.zookeeper.ClientCnxnSocketNIO-Ignoringexceptionduringshutdowninputjava.net.SocketException:Socketisnotconnected atsun.nio.ch.Net.translateToSocketException(Net.java:123) atsun.nio.ch.Net.translateException(Net.java:157) atsun.nio.ch.Net.translateEx

我目前正在重建具有区域服务器和数据节点的服务器。当我关闭一个数据节点时，10分钟后，它所拥有的block将在其他数据节点之间重新复制，这是应该的。我们有10个数据节点，因此在重新复制block时我看到网络流量很大。但是，我发现每台服务器的流量大约只有500-600mbps(所有机器都有千兆位接口(interface))，所以它绝对不受网络限制。我试图弄清楚是什么限制了数据节点发送和接收block的速度。每个数据节点有六个7200rpmsata驱动器，在此期间IO使用率非常低，每个驱动器的峰值仅为20-30%。hdfs是否内置了限制block复制速度的限制？

我正在使用hadoop0.20.append和hbase0.90.0。我将少量数据上传到Hbase，然后出于评估目的杀死了HMaster和Namenode。在此之后，我向Hbase添加了更多数据，我可以在hbaseshell中看到它们。现在，当我启动Namenode时，我遇到了问题。日志显示名称节点处于安全模式，我无法添加或删除处于安全模式的内容。也是刚跑的时候./bin/hadoopfsck/我明白了，............Status:HEALTHYTotalsize:12034B(Totalopenfilessize:4762B)Totaldirs:22Totalfiles:1

只是想知道CamelotConnect是否能够支持Hadoop访问？ 最佳答案 可能是的，Camelot.NETConnector基本上是API的SQL解释器。不过目前还没有Hadoop支持。如果Hadoop的SQL是您的目标，那么有多种工具可用于此，或者您正在寻找用于SharePoint的单个SQLAPI，Hadoop和更多Camelot连接器技术将是一个不错的选择。如需更多信息，请联系bendsoft。 关于hadoop-CamelotADO.NETConnect是否支持Hadoop

下面是HadoopYarn中的观察结果:a)对于每个InputSplit或block，都会触发一个新的映射。b)集群的典型block大小为128MB。c)在大多数集群中，MapReduce.map.memory.mb将配置为大于1GB。事实上，Cloudera建议的block大小是128MB，而MapReduce.map.memory.mb是1GB当block大小只有128MB时，为什么我们需要分配1GB给映射内存(MapReduce.map.memory.mb)？理想情况下，最多128MB应该可以满足需要。为什么我们为map内存提供的block大小甚至超过block大小？

我正在使用HDP2.1。对于集群。我遇到了以下异常，因此MapReduce作业失败了。实际上，我们经常使用来自Flume的数据创建表，这是ver。1.4.我检查了mapper试图读取的数据文件，但我找不到任何内容。2014-11-2800:08:28,696WARN[main]org.apache.hadoop.metrics2.impl.MetricsConfig:Cannotlocateconfiguration:triedhadoop-metrics2-maptask.properties,hadoop-metrics2.properties2014-11-2800:08:28,

我对Hadoop中的block有一些疑问。我读到Hadoop使用HDFS，它会创建特定大小的block。第一个问题block是否物理存在于普通文件系统(如NTFS)的硬盘上，即我们可以看到托管文件系统(NTFS)上的block，还是只能使用hadoop命令才能看到？第二个问题hadoop是否在运行任务之前创建block，即只要有文件，block就从一开始就存在，或者hadoop仅在运行任务时创建block。第三个问题block是在拆分之前确定和创建的(即InputFormat类的getSplits方法)而不考虑拆分次数，还是在拆分之后根据拆分次数确定和创建block？第四个问题运行任务

此错误表明客户端无法连接到服务器脚本系统上的端口。既然能ping通服务器，应该不会吧。这可能是由多种原因引起的，例如到目的地的路由不正确。第二种可能性是您的客户端和服务器之间有防火墙，它可能在服务器上，也可能在客户端上。不应该有任何路由器或防火墙可能会停止通信，因为根据您的网络地址，服务器和客户端都应该在同一个局域网上。为什么ConnectionRefusedError:[Errno111]Connectionrefused在Python中发生当客户端由于无效的IP或端口而无法访问服务器，或者地址不唯一且已被另一台服务器使用时，会出现此错误。服务器未运行时也会出现连接拒绝错误，因此客户端无法访

我想修改HDFS的默认block放置策略以适合我的应用程序。例如，我有两个文件file1(128MB)和file2(128MB)。block大小为64MB，每个文件将被分成两个block。我想确保file1和file2的block1都放在同一个数据节点上。如果可能的话，我还想确保副本也放在同一组数据节点上。问题1。这可能吗？如果可以，需要修改源码中的哪些类？问题2。copyFromLocal等命令如何映射到hadoop源代码中的函数？ 最佳答案 block放置策略的默认行为可以通过扩展BlockPlacementPolicy来修改。

如果我们在sqoop中使用6个mapper从Oracle导入数据，那么sqoop和source之间会建立多少个connection。是单个连接还是每个映射器有6个连接。 最佳答案 根据sqoopdocs:Likewise,donotincreasethedegreeofparallismhigherthanthatwhichyourdatabasecanreasonablysupport.Connecting100concurrentclientstoyourdatabasemayincreasetheloadonthedataba