草庐IT

Master-Detail

全部标签

hadoop - 致命的 master.HMaster : Unexpected state : . 。无法将其转移到 OFFLINE

我遇到了严重的Hbase崩溃问题。我将HBase0.94.7与一个主服务器和两个区域服务器一起使用。HBasemaster经常崩溃,我什至无法重新启动它。我有如下主日志:DEBUGmaster.AssignmentManager:Handlingtransition=RS_ZK_REGION_CLOSED,server=master,60020,1374506461230,region=46c2333f401964bf877254be19c2cc8cDEBUGhandler.ClosedRegionHandler:HandlingCLOSEDeventfor6423df864603aa

hadoop - Hbase master 无法启动

我正在尝试启动hbasemaster但出现以下错误:CouldnotstartZKatrequestedportof2181.ZKwasstartedatport:2182.Abortingasclients(e.g.shell)willnotbeabletofindthisZKquorum.13/07/1406:33:23ERRORmaster.HMasterCommandLine:Failedtostartmasterjava.io.IOException:CouldnotstartZKatrequestedportof2181.ZKwasstartedatport:2182.Ab

hadoop - 无法在 master 上启动节点管理器

我正在设置一个HadoopYARN集群,我正在使用一台机器作为主机和从机。当我使用以下命令启动YARN时,它会在从节点上启动节点管理器,但不会在主节点上启动。sbin/yarn-daemons.shstartnodemanager我有一个主控也是从属,然后我在集群中有另外两个从属,从属中的节点管理器正常启动。我得到的错误:org.apache.hadoop.yarn.exceptions.YarnRuntimeException:java.net.BindException:Problembindingto[0.0.0.0:8040]java.net.BindException:Add

hadoop - hbase.master.port 以编程方式覆盖?

我从cloudera5.3.3发行版安装了hbase,当我运行hbase时,一切似乎都运行良好......当我尝试通过/etc/hbase/conf/hbase-site.xml分配hbase.master.port时,它不会从那里选择它。我从主节点信息中看到这个http://MASTERNODE:60010/confhbase.master.port0programaticallyhbase分布:0.98.6-cdh5.3.3这个“以编程方式”是什么意思,我如何禁用/覆盖它? 最佳答案 回答我自己的问题:(因为我刚刚发现hbase

hadoop - master节点的"start-all.sh"和"start-dfs.sh"不启动slave节点服务?

我已经用我的从节点的主机名更新了Hadoop主节点上的/conf/slaves文件,但是我无法从主节点启动从节点。我必须单独启动从站,然后我的5节点集群启动并运行。如何使用主节点的单个命令启动整个集群?此外,SecondaryNameNode正在所有从节点上运行。那是问题吗?如果是这样,我怎样才能将它们从奴隶中移除?我认为一个集群中应该只有一个SecondaryNameNode和一个NameNode,对吗?谢谢! 最佳答案 在ApacheHadoop3.0中使用$HADOOP_HOME/etc/hadoop/workers文件每行添

hadoop - Hbase master 没有正确启动

我正在使用Hadoop2.4.0/Hbase0.98.0/Hive0.14.0在我重新启动HMaster之前,Hadoop和HBase运行良好。hbase-hduser-master-master.log文件中出现以下错误:2015-02-1705:46:15,157INFO[master:master:60000]master.TableNamespaceManager:Namespacetablenotfound.Creating...2015-02-1705:46:15,193DEBUG[master:master:60000]lock.ZKInterProcessLockBas

hadoop - 使用 master 'yarn' 运行时,必须在环境中设置 HADOOP_CONF_DIR 或 YARN_CONF_DIR

我正在尝试使用yarn运行Spark,但我遇到了这个错误:线程“main”中的异常java.lang.Exception:当使用master'yarn'运行时,必须在环境中设置HADOOP_CONF_DIR或YARN_CONF_DIR。我不确定“环境”在哪里(具体是什么文件?)。我尝试使用:exportHADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoopexportYARN_CONF_DIR=$HADOOP_HOME/etc/hadoop在bash_profile中,但这似乎没有帮助。 最佳答案 在使用Ya

hadoop - 获取 Master 未运行异常

我一直在努力让Hbase在我的机器上工作。我相信我的设置有问题,我无法修复它。我收到masternotrunning错误,但Jsp清楚地显示它正在运行。启动Hadoop和Hbase之后。我做了JPSyeshwanthvenkatesh@mymachineip/usr/local/Cellar/hbase/0.94.4/bin(master)$jps1609Main715DataNode985TaskTracker614NameNode886JobTracker1463HRegionServer1263HQuorumPeer814SecondaryNameNode16951349HMas

authentication - 从 Spark 访问 Hdfs 会出现 token 缓存错误 Can't get Master Kerberos principal for use as renewer

我正在尝试运行测试Spark脚本以将Spark连接到hadoop。脚本如下frompysparkimportSparkContextsc=SparkContext("local","SimpleApp")file=sc.textFile("hdfs://hadoop_node.place:9000/errs.txt")errors=file.filter(lambdaline:"ERROR"inline)errors.count()当我用pyspark运行它时,我得到了py4j.protocol.Py4JJavaError:Anerroroccurredwhilecallingo21.

Hadoop Datanode slave 没有连接到我的 master

由于许多错误,我无法弄清楚为什么没有将datanodeslavevm连接到我的mastervm中。欢迎任何建议,所以我可以试试。首先,其中之一是我的从虚拟机日志中的错误:WARNorg.apache.hadoop.hdfs.server.datanode.DataNode:Problemconnectingtoserver:ubuntu-378e53c1-3e1f-4f6e-904d-00ef078fe3f8:9000因此,我无法在我的主虚拟机中运行我想要的作业:hadoopjar./share/hadoop/mapreduce/hadoop-mapreduce-examples-2.