我使用YARNjavaAPI而不是在终端中提交Hadoop应用程序。我正在寻找一种在应用程序完成后通过YarnAPI获取yarn聚合日志的方法。当然，这可以通过简单的命令来完成:“yarnlogs-applicationId{my_application_ID}”，但我想通过API来完成。有人知道如何使用API而不是命令行来获取这些日志吗？谢谢。 最佳答案 正如您在代码源上所做的那样https://github.com/apache/hadoop/blob/trunk/hadoop-yarn-project/hadoop-yarn/
我正在使用配置单元，我需要创建一个包含“n”个普通列和100个或更多作为分区列的表，并且我能够成功创建该表。现在当我用另一个具有相同模式的表的数据加载该表并且所有列都是非分区列时，我收到这样的错误:FailedwithexceptionMetaException(message:AttempttostorevalueFailedwithexceptionMetaException(message:Attempttostorevalue"c1=v1/c2=v2/c3=v3/....c100=v100"incolumn"PART_NAME"thathasmaximumlengthof767
现在运行Hadoopmapreduce作业，输入数据来自HBase表，最近出现错误，错误如下:错误mapreduce.TableInputFormatBase:无法解析/172.16.4.195的主机名，因为javax.naming.NameNotFoundException:找不到DNS名称[响应代码3]；剩余名称'195.4.16.172.in-addr.arpa'*172.16.4.195*是集群节点(slave)ip地址，我不知道“195.4.16.172”是什么。我第一次运行这个job的时候没有这个错误，不知道为什么会出现这个错误。如果你解决了问题，请告诉我，谢谢。
我是一名java程序员，正在学习Hadoop。我读到HDFS中的名称节点将其信息存储到两个文件中，即fsImage和editLog。在启动的情况下，它会从磁盘读取此数据并执行检查点操作。但在很多地方我也读到NameNode将数据存储在RAM中，这就是为什么apache推荐具有高RAM的机器作为NameNode服务器。请赐教。它在RAM中存储什么数据？它在哪里存储fsImage和编辑日志？抱歉，如果我问了一些显而易见的问题。 最佳答案 我先回答WhatdatadoesitstoreinRAM&wheredoesitstorefsIma
如何获取应用程序发送给资源管理器的待处理请求数？据我所知，资源管理器可能不会立即分配请求的资源，因此请求将被挂起，对吧？ 最佳答案 我正在使用Hadoop2.7.1。从资源管理器UI中，您可以看到“未完成的资源请求”。在RM用户界面中:点击正在运行的应用程序(例如application_1447644421851_0004)在申请页面中，点击尝试ID(例如appattempt_1447644421851_0004_000001)在“应用程序尝试ID”页面中，您将看到“TotalAllocatedContainers”和“TotalO
我有一个4节点集群(1个名称节点/资源管理器3个数据节点/节点管理器)我正在尝试运行一个简单的tez示例orderedWordCounthadoopjarC:\HDP\tez-0.4.0.2.1.1.0-1621\tez-mapreduce-examples-0.4.0.2.1.1.0-1621.jarorderedwordcountsample/test.txt/sample/out作业被接受，Applicationmaster和容器被设置但是在节点管理器上我看到了这些日志2014-09-1017:53:31,982INFO[ServiceThread:org.apache.tez.
在“名称节点”的情况下，什么存储在主内存中，什么存储在辅助内存(硬盘)中。“文件到block的映射”是什么意思？fsimage和编辑日志到底是什么？ 最佳答案 Incaseof"NameNode",whatgetsstoredinmainmemoryandwhatgetsstoredinsecondarymemory(harddisk).block映射文件、block在数据节点上的位置、事件数据节点、一堆其他元数据都存储在NameNode的内存中。当您查看NameNode状态网站时，几乎所有这些信息都存储在某个地方的内存中。唯一存储
当使用以下脚本在YARN(Hadoop2.6.0.2.2.0.0-2041)上运行Spark1.3.0Pi示例时:#RunonaYARNclusterexportHADOOP_CONF_DIR=/etc/hadoop/conf/var/home2/test/spark/bin/spark-submit\--classorg.apache.spark.examples.SparkPi\--masteryarn-cluster\--executor-memory3G\--num-executors50\/var/home2/test/spark/lib/spark-examples-1.3
我在一台机器上以伪分布式模式安装了ClouderaCDH4发行版并成功测试它是否正常工作(例如可以运行MapReduce程序，在Hive服务器上插入数据等)但是，如果我有机会core-site.xml文件将fs.default.name设置为机器名而不是localhost并重启NameNode服务，HDFS进入安全-模式。在更改fs.default.name之前，我运行了以下命令来检查HDFS的状态:$hadoopdfsadmin-report...ConfiguredCapacity:18503614464(17.23GB)PresentCapacity:13794557952(12
我是hadoop的新手。我按照maichel-noll教程在单节点中设置hadoop。我尝试运行WordCount程序。这是我使用的代码:importjava.io.IOException;importjava.util.StringTokenizer;importorg.apache.hadoop.conf.Configuration;importorg.apache.hadoop.fs.Path;importorg.apache.hadoop.io.IntWritable;importorg.apache.hadoop.io.Text;importorg.apache.hadoop
