草庐IT

start-dfs

全部标签

java - NameNode没有启动start-all.sh

我正尝试在我的机器上将Hadoop作为单节点集群运行。我完成了安装步骤,所以Hadoop已经在我的系统上了。但是,当我运行start-all.sh并随后检查jps是否正在运行NameNode时,这就是我得到的结果:20053Jps19944NodeManager我已经尝试先运行start-dfs.sh,然后运行​​start-yarn.sh,但这没有用。我还尝试用格式化NameNodehadoopnamenode-format但我做不到,我得到了错误:15/07/1516:34:19WARNnamenode.NameNode:Encounteredexceptionduringform

hadoop - 如何通过grafana(opentsdb)监控dfs.namenode.handler.count?

像这样?picture我的问题是是否也有像RedMashine中那样的指标。它的名字是什么?或者我是否应该定义一个指标?这该怎么做?谢谢! 最佳答案 Grafana2.5的Opentsdb查询编辑器默认启用建议。因此,当您开始键入任何指标的名称或什至尝试将光标放在文本框中时,您将看到指标名称的建议。如果您使用的是Grafana2.5之前的旧版本。那么您将必须在提到的Opentsdb中启用某些属性here在文档中。 关于hadoop-如何通过grafana(opentsdb)监控dfs.n

java - hdfs dfs -ls 的默认值

为什么hdfsdfs-ls与hdfsdfs-ls/不同。hdfsdfs-ls的默认值是多少 最佳答案 默认是您的hdfs用户的主目录,类似于/user/$USER(其中$USER是您在shell中登录的用户,与hdfs无关)。 关于java-hdfsdfs-ls的默认值,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/36184034/

hadoop - 霍顿工厂 : start datanode failed

我已经使用ambari2.2安装了一个新的集群HDP2.3。问题是namenode服务无法启动,每次尝试时,我都会收到followwing错误。当我试图找到问题时,我发现了另一个更明确的错误(使用了端口50070,我认为名称节点使用了这个端口)。任何人以前解决过这个问题吗?谢谢resource_management.core.exceptions.Fail:Executionof'ambari-sudo.shsuhdfs-l-s/bin/bash-c'ulimit-cunlimited;/usr/hdp/current/hadoop-client/sbin/hadoop-daemon.

windows - start-all.cmd 在 Windows 中给出错误 "til.SysInfoWindows: Expected split length of sysInfo to be 11. Got 7"

我在没有cygwin的情况下在Windows中完成了hadoop2.8.1设置。我已按照http://toodey.com/2015/08/10/hadoop-installation-on-windows-without-cygwin-in-10-mints中提到的所有步骤进行操作.但是当我通过start-all.cmd启动hadoop时,我在yarnnodemanagercmd中收到这个错误11:21警告util.SysInfoWindows:sysInfo的预期拆分长度为11。得到712年17月11日20:11:24警告util.SysInfoWindows:sysInfo的预期

Hadoop 2.9.0 - hadoop namenode -format 和 hdfs-site.xml dfs.namenode.name.dir

我的第一个问题,我会尽量不把事情搞砸:)出于学习目的,我正在4节点集群上安装Hadoop2.9.0。我已经按照官方ApacheHadoop2.9.0文档和一些谷歌页面开始安装/配置名称节点。我像这样编辑了位于$HADOOP_HOME/etc/hadoop目录下的hdfs-site.xml:dfs.namenode.name.dirfile:///apps/hdfs/namenode/datadfs.datanode.data.dirfile:///apps/hdfs/datanode/datadfs.namenode.checkpoint.dirfile:///apps/hdfs/na

hadoop - Spark 独立模式 : Worker not starting properly in cloudera

我是spark的新手,在使用cloudera管理器中提供的包裹安装spark之后。我已经配置了以下来自clouderaenterprise的链接中所示的文件:http://www.cloudera.com/content/cloudera-content/cloudera-docs/CM4Ent/4.8.1/Cloudera-Manager-Installation-Guide/cmig_spark_installation_standalone.html完成此设置后,我通过运行/opt/cloudera/parcels/SPARK/lib/spark/sbin/start-all.s

bash - 如何查看整个根 hdfs 磁盘使用情况? (hadoop dfs -du/gets 子文件夹)

我们可能并不意外地认识到大数据对企业的吸引力,这是我们希望在我们的hadoop集群上监控的磁盘空间问题。我有一个cron作业在运行,它正在做我想做的事情,除了我想要其中一条输出行显示已使用的总体空间。换句话说,在bash中,“du/”命令的最后一行显示了整个磁盘上所有子文件夹的总使用情况。我想要这种行为。目前,当我运行“hadoopdfs-du/”时,我只得到子目录信息,而不是总计。获得它的最佳方式是什么?非常感谢所有SuperStackOverflow人员:)。 最佳答案 我只是没有正确理解文档!这是获得已用总空间的答案;$had

hadoop - 在 Hadoop 中将 dfs.blocksize 设置为 100Kb

我尝试将Hadoop中的dfs.blocksize设置为100Kb,这小于默认的dfs.namenode.fs-limits.min-block-size,这是1MB。当我复制文件时hdfsdfs-Ddfs.namenode.fs-limits.min-block-size=0-Ddfs.blocksize=102400inp.txt/input/inp.txt我还是明白了,copyFromLocal:Specifiedblocksizeislessthanconfiguredminimumvalue(dfs.namenode.fs-limits.min-block-size):102

java - 运行 start-dfs.sh 后无法启动 namenode (hadoop 2.7.1)

当尝试构建本地伪Hadoop环境时,当我尝试使用start-dfs.sh启动我的namenode时出现此错误"Couldnotfindorloadmainclassorg.apache.hadoop.hdfs.tools.GetConf"我的java版本如下图javaversion"1.7.0_85"OpenJDKRuntimeEnvironment(IcedTea2.6.1)(7u85-2.6.1-5ubuntu0.14.04.1)OpenJDK64-BitServerVM(build24.85-b03,mixedmode)我还更改了hadoop-env.sh中的行,位于/usr/l