草庐IT

yarn-error

全部标签

Hadoop安装错误, "error : cannot execute hdfs-config.sh."

我正在关注this在我的电脑上安装hadoop的教程。据我所知,在source~/.profile之前,我一直完全按照说明操作,但是当我尝试通过输入hdfsnamenode-format来格式化HDFS时,它给了我以下错误:ERROR:Cannotexecute/usr/local/Cellar/hadoop/3.0.0/libexec/hdfs-config.sh我尝试了很多方法在互联网上寻找解决方案,但没有找到解决方案。 最佳答案 @BIKI我刚遇到同样的问题,Hadoop版本3.0.0有一个奇怪的文件结构,不能按照您认为的方式

hadoop - hadoop job -kill job_id 和 yarn application -kill application_id 有什么区别

hadoopjob-killjob_id和yarnapplication-killapplication_id有什么区别?job_id和application_id是否代表/指代同一个任务? 最佳答案 hadoopjob-killjob_id和yarnapplication-killapplication_id这两个命令都用于终止在Hadoop上运行的作业。如果您正在使用MapReduceVersion1(MRV1)并且您想要终止在Hadoop上运行的作业,那么您可以使用hadoopjob-killjob_id杀死一个工作,它会杀死

hadoop - 为什么即使启用了日志记录,我的 yarn 应用程序也没有日志?

我在xml文件中启用了日志:yarn-site.xml,然后我重新启动了yarn通过做:sudoservicehadoop-yarn-resourcemanagerrestartsudoservicehadoop-yarn-nodemanagerrestart我运行了我的应用程序,然后我看到了applicationID在yarnapplication-list.所以,我这样做:yarnlogs-applicationId,我得到以下信息:hdfs:///var/log/hadoop-yarn/path/to/application/doesnothaveanylogfiles我需要更改

java - yarn 异常 : Unauthorized request to start container

我已经在3个集群上设置了hadoop2.2.0。一切顺利。NodeManager和Datanode在每个集群中启动。但是,当我运行wordcount示例时,会发生100%映射并出现以下异常:map100%reduce0%13/11/2809:57:15INFOmapreduce.Job:TaskId:attempt_1385611768688_0001_r_000000_0,Status:FAILEDContainerlaunchfailedforcontainer_1385611768688_0001_01_000003:org.apache.hadoop.yarn.exceptio

hadoop - 从命令行获取 yarn 配置

在EMR中,有没有一种方法可以使用yarn命令在给定配置键的情况下获取配置的特定值?例如我想做这样的事情yarnget-configyarn.scheduler.maximum-allocation-mb 最佳答案 这有点不直观,但结果是hdfsgetconf命令能够检查YARN和MapReduce的配置属性,而不仅仅是HDFS。>hdfsgetconf-confKeyfs.defaultFShdfs://localhost:19000>hdfsgetconf-confKeydfs.namenode.name.dirfile:///

联想台式电脑重装系统win10重启后出现error1962

联想台式电脑重装系统win10重启后出现error:1962前提准备:U盘(若u盘内容有用需提前备份,会被格式化)下载好win10系统镜像文件(我用的是link,提取码:29y3原博文链接:link启动盘制作工具(我用的是大白菜)联想一体机进入Bios是F1键联想Bios界面如下图:(Bios类型参考:link)U盘启动盘制作及系统重装(参考链接:link,link)下载大白菜安装好“大白菜”后点击一键制作启动盘,根据里面的readme文件,把系统镜像复制进文件夹,就完成了启动光盘的制作。把制作好的启动盘插入主机,按F1进入Bios,把U盘启动设置为优先,进行系统重装我重装后重启出现了erro

shell - get "ERROR: Can' t 从 ZooKeeper 获取主地址; znode data == null"使用 Hbase shell 时

我安装了Hadoop2.2.0和Hbase0.98.0,这是我所做的:$./bin/start-hbase.sh$./bin/hbaseshell2.0.0-p353:001>list然后我得到了这个:ERROR:Can'tgetmasteraddressfromZooKeeper;znodedata==null为什么我会收到这个错误?另一个问题:我需要在运行base之前运行./sbin/start-dfs.sh和./sbin/start-yarn.sh吗?另外,./sbin/start-dfs.sh和./sbin/start-yarn.sh有什么用?这是我的一些conf文档:hbas

hadoop - 如何保存 YARN 的日志文件?

突然,我的YARN集群停止工作,我提交的所有内容都失败并显示“退出代码1”。我想找出那个问题,但一旦应用程序失败,YARN就会删除日志文件。我必须为YARN调整什么配置设置才能保留这些日志文件? 最佳答案 您的容器似乎正在退出,退出代码为1。您无法在UI上看到日志,因为默认情况下,日志聚合是禁用的。以下参数确定日志聚合:“yarn.log-aggregation-enable”(如果禁用日志聚合,则设置为“false”)。如果设置为“false”,则所有节点管理器都将容器日志存储在本地目录中,该目录由以下配置参数决定:“yarn.n

logging - Hadoop 将 YARN 应用程序的日志存储在哪里?

我运行Hortonworks的基本示例yarnapplicationexample.应用程序失败,我想阅读日志以找出原因。但是我在存储我的mapreduce作业日志的预期位置(/HADOOP_INSTALL_FOLDER/logs)找不到任何文件。有人知道yarn在哪里存储非mapreduce日志文件吗?我是否必须在xml文件中配置一个特殊目录? 最佳答案 容器日志应该在yarn.nodemanager.log-dirs下:Wheretostorecontainerlogs.Anapplication'slocalizedlogdi

hadoop - YARN 中 Application Manager 和 Application Master 的区别?

我了解MRv1的工作原理。现在我正在尝试了解MRv2..YARN中的ApplicationManager和ApplicationMaster有什么区别? 最佳答案 术语ApplicationMaster和ApplicationManager经常互换使用。实际上,ApplicationMaster是请求、启动和监控应用程序特定资源的主要容器,而ApplicationManager是ResourceManager中的一个组件。下面给出了有关应用程序管理器的更多详细信息。ApplicationsManager负责维护提交的集合应用程序。申