草庐IT

yarn-daemon

全部标签

hadoop - NoClassDefFoundError org/apache/hadoop/yarn/server/timelineservice/collector/TimelineCollectorManager

当我执行start-all.cmd命令时出现此错误。我也无法访问http://localhost:8088但我可以访问http://localhost:9870以下错误代码来自资源管理器命令提示符FATALresourcemanager.ResourceManager:ErrorstartingResourceManagerjava.lang.NoClassDefFoundError:org/apache/hadoop/yarn/server/timelineservice/collector/TimelineCollectorManageratjava.lang.ClassLoade

javascript - Hadoop YARN 与 Yarn 包管理器命令冲突

我的机器上的yarn命令有问题。我的机器上安装了hadoop和yarn包管理器(Javascript)。当我运行yarninit时,它调用hadoop的YARN并响应:Error:Couldnotfindorloadmainclasspath/to/folder谁能告诉我如何区分这两个命令。我使用的是64位Windows10计算机。 最佳答案 事实证明你可以使用yarnpkg代替yarn 关于javascript-HadoopYARN与Yarn包管理器命令冲突,我们在StackOverf

hadoop - Spark 1.3.0 : Running Pi example on YARN fails

我有Hadoop2.6.0.2.2.0.0-2041和Hive0.14.0.2.2.0.0-2041使用命令构建Spark后:mvn-Pyarn-Phadoop-2.4-Dhadoop.version=2.6.0-Phive-Phive-thriftserver-DskipTestspackage我尝试使用以下命令在YARN上运行Pi示例:exportHADOOP_CONF_DIR=/etc/hadoop/conf/var/home2/test/spark/bin/spark-submit\--classorg.apache.spark.examples.SparkPi\--maste

hadoop - 使用 Yarn 运行 spark 作业时出现错误 :com. google.common.util.concurrent.Futures.withFallback

我正在尝试使用yarn运行spark作业,但出现以下错误java.lang.NoSuchMethodError:com.google.common.util.concurrent.Futures.withFallback(Lcom/google/common/util/concurrent/ListenableFuture;Lcom/google/common/util/concurrent/FutureFallback;Ljava/util/concurrent/Executor;)Lcom/google/common/util/concurrent/ListenableFuture

java - HADOOP - 编写 YARN 应用程序

我正在阅读this我有点困惑。我是否必须始终编写Client和ApplicationMaster类才能在YARN中运行我自己的代码?例如,如果我想运行一个只生成随机数的应用程序,我是否必须将这些类包含到我的代码中,或者它可以在没有这些的情况下运行它?或者,它们是否都是不同的示例,因为我可以在其中看到2个主要类(每个类中有1个主要类)?我尝试了所有这些方法,但我仍然遇到错误-->usage[input][ouput]: 最佳答案 编写原生YARN应用程序可能有点笨拙,因为HadoopYARN项目没有更高级别的框架来帮助解决这个问题。然

java - 从 Java 应用程序在 hadoop 2.2 (Yarn) 上启动 mapreduce 作业

我正在尝试从Java应用程序调用mapreduce作业。在以前的hadoop版本(1.x)中,我创建了一个Configuration对象和一个Job对象,在Configuration中设置mapred.job.tracker和fs.default.name并运行工作。现在,在hadoop2.x中,jobtracker不再存在,也不存在任何关于如何以编程方式运行MR1作业的文档。有什么想法吗?我正在寻找的是这里给出的解释:Callingamapreducejobfromasimplejavaprogram 最佳答案 MRClientA

java - 从 Hadoop YARN 启动一个 java 应用程序

我正在尝试从YARN应用程序运行java应用程序(详细信息:从YARN应用程序中的ApplicationMaster)。我发现的所有示例都在处理运行的bash脚本。我的问题似乎是我错误地将JAR文件分发到集群中的节点。我在YARN客户端中将JAR指定为本地资源。PathjarPath2=newPath("/hdfs/yarn1/08_PrimeCalculator.jar");jarPath2=fs.makeQualified(jarPath2);FileStatusjarStat2=null;try{jarStat2=fs.getFileStatus(jarPath2);log.lo

Hadoop/Yarn 分布式 shell 示例

我正在尝试运行分布式shell示例(使用Hadoop的SVNcheckout,这就是版本设置为3.0.0-SNAPSHOT的原因):yarnjarshare/hadoop/yarn/hadoop-yarn-applications-distributedshell-3.0.0-SNAPSHOT.jar\-jarshare/hadoop/yarn/hadoop-yarn-applications-distributedshell-3.0.0-SNAPSHOT.jar\org.apache.hadoop.yarn.applications.distributedshell.Client-s

java - 限制 yarn 中每个应用程序同时运行的容器数量

假设一个yarn应用程序有长时间运行的任务(运行1小时或更长时间)。当一个MR作业开始时,所有集群资源都被阻塞,至少直到一个容器完成,这有时会花费很长时间。有没有办法限制同时运行的容器数量?沿线的东西,例如map.vcores.max(每海里,或全局)。所以其他应用程序不会被阻止。有什么想法吗?附言。Hadoop2.3.0 最佳答案 此行为/功能可以按框架级别处理,而不是在YARN中处理。在Mapreduce中,mapreduce.job.running.map.limit和mapreduce.job.running.reduce.

api - 纱 API : Getting Yarn Aggregated Logs for application by API

我使用YARNjavaAPI而不是在终端中提交Hadoop应用程序。我正在寻找一种在应用程序完成后通过YarnAPI获取yarn聚合日志的方法。当然,这可以通过简单的命令来完成:“yarnlogs-applicationId{my_application_ID}”,但我想通过API来完成。有人知道如何使用API而不是命令行来获取这些日志吗?谢谢。 最佳答案 正如您在代码源上所做的那样https://github.com/apache/hadoop/blob/trunk/hadoop-yarn-project/hadoop-yarn/