草庐IT

NameNode

全部标签

hadoop - NameNode 在启动 hadoop 后自行关闭

我在linux上安装了hadoop1.2.1单节点集群配置。它运行良好,jps命令显示了所有5个作业的信息工作追踪器名称节点任务追踪器次要节点jps数据节点。`现在,当我使用命令bin/start-all.sh启动hadoop时,hadoop会启动所有5个作业,但在几秒钟内namenode会自行关闭。有什么办法可以解决这个问题吗?我检查了namenode日志文件,它显示了以下错误:ERRORorg.apache.hadoop.hdfs.server.namenode.NameNode:java.io.IOException:Editlogcorruptiondetected:corru

macos - 无法找到或加载类 : org. apache.hadoop.hdfs.server.namenode.NameNode

我在我的mac上安装了hadoop,我按照hadoop安装一步一步来当我执行hdfsnamenode-formathadoop总是返回错误无法找到或加载类org.apache.hadoop.hdfs.server.namenode.NameNode这是我的/etc/profile:exportJAVA_HOME=/Library/Java/JavaVirtualMachines/jdk1.8.0_25.jdk/contents/homeexportJRE_HOME=$JAVA_HOME/jreexportCLASSPATH=$JAVA_HOME/lib:$JRE_HOME/lib:$C

hadoop - Secondary NameNode和Checkpoint Node有什么区别?

both的文档几乎完全相同,所以我发现很难看出它们之间的区别。基于此Q&A,唯一的区别是[...]thatcheckpointnodecanuploadthenewcopyoffsimagefilebacktonamenodeaftercheckpointcreationwhereasasecondarynamenodecan’tupload[...]这似乎不正确,因为SecondaryNameNode可以上传新的FsImage,基于this和this.是否可以将CheckpointNode视为SecondaryNameNode的一对一替代?有什么额外的好处?代码是否在两者之间清理过或

hadoop - 我想知道(公式)如何计算 namenode、yarn 和 Resource Manager 的 RAM、CPU 和磁盘内存

我正在尝试构建不同大小的集群,这就是为什么我需要可以从中计算namenode、yarn和资源管理器的RAM、CPU和磁盘内存的公式。还想知道RAM、CPU和磁盘之间的关系。 最佳答案 您可以使用Cloudera指南Download 关于hadoop-我想知道(公式)如何计算namenode、yarn和ResourceManager的RAM、CPU和磁盘内存,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.co

hadoop - hadoop namenode命令是做什么用的

hadoopnamenode命令有什么用?hadoopnamenode和hadoop-deamon.shstartnamenode有什么区别?我格式化namenode然后执行hadoopnamenode它抛出了一个错误ERRORnamenode.NameNode:RECEIVEDSIGNAL2:SIGINThadoopnamenode命令是什么意思,有什么用? 最佳答案 hadoop命令接受这些参数中的任何一个namenode|datanode|secondarynamenode|journalnode|zkfc|balancer并

hadoop - Namenode重启后如何重构全 block 信息?

我试图理解Namenode,我引用了在线资料并引用了Hadoop:权威指南一书。我知道Namenode有这样的概念:“编辑日志”、“fsimage”,我可以在我的Namenode中看到以下文件。======================================================================-rw-rw-r--1vevaan24vevaan241048576Nov2322:53edits_0000000000000000001-0000000000000000001-rw-r--r--1rootroot1048576Nov2323:42edit

hadoop - HDFS文件系统需要格式化datanode还是只需要格式化namenode

在搭建伪集群或全集群时,是否需要格式化datanode来安装HDFS文件系统,还是只需要格式化namenode。我问这个是因为,我在很多博客上读到过,HDFS在硬盘上按顺序存储数据,它是一个抽象层,将数据存储在大块上,而不是默认block大小存储提供的主机文件系统。如果我们不格式化datanode,HDFS的强大功能就来折腾了。 最佳答案 格式化和挂载硬盘驱动器与格式化HDFS没有直接关系。从概念上讲,“格式化”的想法是相同的。但这两个任务是完全独立的,没有直接关系。hadoopformat命令不会格式化或挂载硬盘。硬盘驱动器应该已

java - 在 Hadoop 中启动 namenode 时出错

当我尝试格式化名称节点甚至启动它时,出现以下错误。应该怎么办??$bin/hadoopnamenode-formatExceptioninthread"main"java.lang.NoClassDefFoundError:Causedby:java.lang.ClassNotFoundException:atjava.net.URLClassLoader$1.run(URLClassLoader.java:200)atjava.security.AccessController.doPrivileged(NativeMethod)atjava.net.URLClassLoader.f

linux - Hadoop:每个namenode和datanode只存在一瞬间

使用CentOs5.4三台虚拟机(使用vmwareworkstation):ma​​ster,slave1,slave2。ma​​ster用于namenode,slave1slave2用于datanode。Hadoop版本是hadoop-0.20.1.tar.gz,我已经配置好所有相关文件,并用root用户关闭防火墙使用命令:/sbin/serviceiptables停止。然后尝试在ma​​ster(namenode)虚拟机中格式化namenode并启动hadoop,命令如下,没有报错。bin/hadoopnamenode-formatbin/start-all.sh然后我现在在ma​

Hadoop - HDFS Namenode 元数据 - FSImage

我知道在主节点中我们有名称节点,它在两个文件中维护一个元数据。一个是FSImage,另一个是Editlogs。所以这个FSImage最初是在hadoop系统启动时加载的,这个FSImage包含了集群的目录结构和存储的数据。然后,对于发生的每个事务,都会更新编辑日志文件。我的问题如下:这些只是包含所有信息(FSImage和EditLogs)的文件还是还有更多?这是否意味着FSImage文件只会被写入一次?如果是,那为什么它总是被复制到二级名称节点?这不是增加了一个待完成的任务吗?假设我在hdfs中添加或删除了一个新文件;那么这个FSImage不会被更新吗? 最