草庐IT

namenodes

全部标签

hadoop - 配置不正确 : namenode address dfs. namenode.rpc-address没有配置

当我尝试启动DataNode时出现此错误。据我所知,RPC参数仅用于HA配置,我没有设置(我认为)。2014-05-1818:05:00,589INFO[main]impl.MetricsSystemImpl(MetricsSystemImpl.java:shutdown(572))-DataNodemetricssystemshutdowncomplete.2014-05-1818:05:00,589INFO[main]datanode.DataNode(DataNode.java:shutdown(1313))-Shutdowncomplete.2014-05-1818:05:00

hadoop - dfs.namenode.servicerpc-address 或 dfs.namenode.rpc-address 未配置

我试图用一个名称节点和四个数据节点配置hadoop。我能够在一台机器上成功配置名称节点和作业跟踪器并将其启动。但是在我要配置数据节点的机器上,我做了以下操作:我将hadoop-2.0.0-cdh4.1.2.tar.gz和mr1-2.0.0-mr1-cdh4.1.2.tar.gz解压到一个文件夹并设置主从配置。在master文件中,我设置了配置为名称节点的机器的IP地址。在从属机器中,我设置了我解压缩tar球的机器的IP地址。当我尝试使用命令启动数据节点时hdfsdatanode我收到这个错误:java.io.IOException:Incorrectconfiguration:name

hadoop java.io.IOException : while running namenode -format 错误

我运行了namenode-format。这是我的输出。我尝试更改文件权限chmod777hadoop。我相信这一行是错误的错误namenode.NameNode:java.io.IOException:无法创建目录/your/path/to/hadoop/tmp/dir/hadoop-hadoop/dfs/name/currentadoop@alexander-desktop:/usr/local/hadoop/bin$./hadoopnamenode-format12/07/0317:03:56INFOnamenode.NameNode:STARTUP_MSG:/**********

Hadoop Datanode、namenode、secondary-namenode、job-tracker 和 task-tracker

我是hadoop的新手,所以我有一些疑问。如果主节点发生故障,hadoop集群会发生什么?我们能否在没有任何损失的情况下恢复该节点?是否可以保留一个辅助主节点在当前主节点发生故障时自动切换为主节点?我们有namenode(Secondarynamenode)的备份,所以我们可以在Secondarynamenode发生故障时从中恢复namenode。这样,当datanode发生故障时,我们如何恢复datanode中的数据呢?Secondarynamenode只是namenode的备份而不是datenode,对吧?如果一个节点在作业完成之前发生故障,那么作业跟踪器中有待处理的作业,该作业是

networking - Hadoop Datanodes找不到NameNode

我在VirtualBox中设置了一个分布式Hadoop环境:4个虚拟Ubuntu11.10安装,一个作为主节点,另外三个作为从属节点。我关注了thistutorial启动并运行单节点版本,然后转换为完全分布式版本。当我运行11.04时它工作得很好;然而,当我升级到11.10时,它坏了。现在我所有的奴隶日志都显示以下错误信息,重复得令人作呕:INFOorg.apache.hadoop.ipc.Client:Retryingconnecttoserver:master/192.168.1.10:54310.Alreadytried0time(s).INFOorg.apache.hadoop

hadoop - HDFS 的默认 Namenode 端口是 50070。但我在某些地方遇到过 8020 或 9000

关闭。这个问题不符合StackOverflowguidelines.它目前不接受答案。这个问题似乎不是关于aspecificprogrammingproblem,asoftwarealgorithm,orsoftwaretoolsprimarilyusedbyprogrammers的.如果您认为这个问题是关于anotherStackExchangesite的主题,您可以发表评论,说明问题可能在哪里得到解答。关闭去年。Improvethisquestion当我设置hadoop集群时,我读到namenode在50070上运行,我相应地进行了设置,它运行良好。但在一些书中我遇到过名称节点地址

hadoop - Namenode 没有启动

我在伪分布式模式下使用Hadoop,一切正常。但是后来由于某种原因我不得不重新启动计算机。现在,当我尝试启动Namenode和Datanode时,我发现只有Datanode在运行。谁能告诉我这个问题的可能原因?还是我做错了什么?我尝试了bin/start-all.sh和bin/start-dfs.sh。 最佳答案 我遇到了namenode没有启动的问题。我使用以下方法找到了解决方案:首先从临时文件夹中删除所有内容:rm-Rf(我的是/usr/local/hadoop/tmp)格式化名称节点:bin/hadoopnamenode-fo

java - Hadoop:绑定(bind)多个IP地址到集群NameNode

我在Softlayer上有一个四节点Hadoop集群。Master(NameNode)有一个公网IP地址用于外部访问,一个私有(private)IP地址用于集群访问。从节点(datanodes)有私有(private)IP地址,我试图连接到主节点,而不需要为每个从节点分配公共(public)IP地址。我意识到将fs.defaultFS设置为NameNode的公共(public)地址允许外部访问,除了NameNode只监听该地址的传入连接,而不是私有(private)地址。所以我在数据节点日志中收到ConnectionRefused异常,因为它们试图连接到NameNode的私有(priv

39学习分布式计算框架 Hadoop 的高可用方案,如 NameNode 集群、ZooKeeper

Hadoop是一个分布式计算框架,用于存储和处理大数据。在Hadoop集群中,NameNode是一个关键组件,它负责管理Hadoop分布式文件系统(HDFS)中的文件和目录。为了确保高可用性,需要使用多个NameNode节点进行冗余备份,并使用ZooKeeper进行故障检测和自动故障切换。以下是学习Hadoop高可用方案的步骤和示例代码:安装Hadoop集群首先,需要安装Hadoop集群。可以使用ApacheHadoop的官方文档中提供的步骤来安装Hadoop。这里不再赘述。配置NameNode集群要配置NameNode集群,需要在Hadoop配置文件中指定多个NameNode节点,并启用Na

java - 在hadoop中启动namenode失败?

我在Windows7中配置Hadoopfromtutorial它建立了一个单节点集群。运行时hdfsnamenode-format格式化namenode它抛出异常,如:而当start-all.cmdwindowsnamenode自动强制然后我可以在地址中打开namenodeGUI-http://localhost:50070.16/01/1915:18:58WARNnamenode.FSEditLog:NoclassconfiguredforC,dfs.namenode.edits.journal-plugin.Cisempty16/01/1915:18:58ERRORnamenode