草庐IT

【深入浅出 Yarn 架构与实现】6-2 NodeManager 状态机管理

大数据王小皮 2023-04-08 原文

一、简介

NodeManager(NM)中的状态机分为三类:Application、Container 和 LocalizedResource,它们均直接或者间接参与维护一个应用程序的生命周期。

  • 当 NM 收到某个 Application 的第一个 container 启动命令时,它会创建一个「Application状态机」来跟踪该应用程序在该节点的状态;
  • 每个container都有一个独立的「container状态机」;
  • Application 运行所需资源(jar,文件等)的下载过程则由「LocalizedResource状态机」维护和跟踪。

二、三类状态机

一)Application 状态机

NM 上的 Application 维护的信息是 RM 端 Application 信息的一个子集,这有助于统一管理节点上同一个 Application 的所有 Container(例如记录每个 Application 在该节点上运行的 Container 列表,以及杀死一个 Application 的所有 Container 等)。
实现这一功能的类是 nodemanager/containermanager/application/ApplicationImpl,它维护了一个 Application 状态机。需要注意的是,NM 上 Application 的生命周期与 RM 上 Application 的生命周期是一致的。

// 截取 ApplicationImpl 中一部分状态机的代码
  private static StateMachineFactory<ApplicationImpl, ApplicationState,
          ApplicationEventType, ApplicationEvent> stateMachineFactory =
      new StateMachineFactory<ApplicationImpl, ApplicationState,
          ApplicationEventType, ApplicationEvent>(ApplicationState.NEW)

           // Transitions from NEW state
           .addTransition(ApplicationState.NEW, ApplicationState.INITING,
               ApplicationEventType.INIT_APPLICATION, new AppInitTransition())
           .addTransition(ApplicationState.NEW, ApplicationState.NEW,
               ApplicationEventType.INIT_CONTAINER,
               INIT_CONTAINER_TRANSITION)

           // Transitions from INITING state
           .addTransition(ApplicationState.INITING, ApplicationState.INITING,
               ApplicationEventType.INIT_CONTAINER,
               INIT_CONTAINER_TRANSITION)
           .addTransition(ApplicationState.INITING,
               EnumSet.of(ApplicationState.FINISHING_CONTAINERS_WAIT,
                   ApplicationState.APPLICATION_RESOURCES_CLEANINGUP),
               ApplicationEventType.FINISH_APPLICATION,
               new AppFinishTriggeredTransition())
           .addTransition(ApplicationState.INITING, ApplicationState.INITING,
               ApplicationEventType.APPLICATION_CONTAINER_FINISHED,
               CONTAINER_DONE_TRANSITION)
           .addTransition(ApplicationState.INITING, ApplicationState.INITING,
               ApplicationEventType.APPLICATION_LOG_HANDLING_INITED,
               new AppLogInitDoneTransition())
           .addTransition(ApplicationState.INITING, ApplicationState.INITING,
               ApplicationEventType.APPLICATION_LOG_HANDLING_FAILED,
               new AppLogInitFailTransition())
           .addTransition(ApplicationState.INITING, ApplicationState.RUNNING,
               ApplicationEventType.APPLICATION_INITED,
               new AppInitDoneTransition())

下面进行具体介绍:

1、基本状态

  • NEW:状态机初始状态,每个 Application 对应一个状态机,而每个状态机的初始状态均为 NEW。
  • INITING:Application 处于初始化状态,即创建日志目录和工作目录,创建 AppLogAggregator 对象等。
  • FINISHING_CONTAINERS_WAIT:等待回收 Container 占用的资源时所处的状态。当 Application 状态机收到 FINISH_APPLICATION 事件后,会向各个 Container 发送 KILL 命令以回收它们占用的资源。
  • APPLICATION_RESOURCES_CLEANINGUP:Application 的所有 Container 占用的资源被收回后,它将处于 APPLICATION_RESOURCES_CLEANINGUP 状态。
  • RUNNING:Application 初始化(完成创建日志目录和工作目录,创建 AppLog-Aggregator 等工作)完成后,将进入 RUNNING 状态。
  • FINISHED:Application 将占用的各种文件资源发送给文件删除服务 DeletionService(该服务会异步删除文件,避免产生性能问题)后,进入 FINISHED 状态,表示运行完成。

2、基本事件

  • INIT_APPLICATION:NM 收到来自某个 Application 的第一个 Container 后,会触发一个 INIT_APPLICATION 事件,同时使 Application 状态由初始状态 NEW 转换为 INITING。
  • APPLICATION_INITED:Application 初始化完成后将触发一个 APPLICATION_INITED 事件。Application 初始化主要工作是初始化各类必需的服务组件(比如日志记录组件 LogHandler、资源状态追踪组件 LocalResourcesTrackerImpl 等),供后续 Container 使用,通常由 Application 的第一个 Container 完成。
  • FINISH_APPLICATION:NodeManager 收到 ResourceManager 发送的待清理的 Application 列表后,会向这些 Application 发送一个 FINISH_APPLICATION 事件
  • APPLICATION_CONTAINER_FINISHED:该 Application 的一个 Container 运行完成(可能运行失败,也可能运行成功)后将触发一个 APPLICATION_CONTAINER_FINISHED 事件。
  • APPLICATION_RESOURCES_CLEANEDUP:Application 所有 Container 占用的资源被清理完成(比如占用的临时目录)后将触发一个 APPLICATION_RESOURCES_CLEANEDUP 事件
  • INIT_CONTAINER:NodeManager 收到 ApplicationMaster 通过 RPC 函数 ContainerManagementProtocol#startContainer 发送的启动 Container 的请求后,会触发一个 INIT_CONTAINER 事件。

二)Container 状态机

Container 状态机维护一个 container 运行的全部状态,包含 11 个状态和 10 个事件,实现类是 nodemanager/containermanager/container/ContainerImpl.java。下面是状态转化的图:

1、基本状态

  • NEW:状态机初始状态,每个 Container 对应一个状态机,而每个状态机的初始状态均为 NEW。
  • LOCALIZING:Container 运行之前,需从 HDFS 上下载依赖的文件资源,Container 正在下载文件时所处的状态称为 LOCALIZING。
  • LOCALIZED:运行 Container 所需的文件资源已经全部下载(缓存)到本地后,将进入该状态。
  • LOCALIZATION_FAILED:由于文件损坏、磁盘损坏等原因,Container 下载资源失败(这将导致依赖该资源的所有 Container 运行失败),此时 Container 所处的状态为 LOCALIZATION_FAILED。
  • RUNNING:ContainerLaunch 组件为 Container 创建工作目录和构造执行脚本,并通知 ContainerExecutor 执行该脚本,使得 Container 进入 RUNNING 状态。
  • EXITED_WITH_SUCCESS:ContainerExecutor 启动 Container 执行脚本后,阻塞直到脚本正常退出执行,此时 Container 将处于 EXITED_WITH_SUCCESS 状态。
  • DONE:Container 正常退出执行后,首先需清理它占用的各种临时文件,一旦清理完成后,Container 状态将转移为完成状态 DONE。
  • KILLING:Container 正在被杀死时所处的状态,通常是由于内存超量使用被监控线程杀死,或者 ResourceManager 和 ApplicationMaster 主动杀死 Container。
  • EXITED_WITH_FAILURE:Container 在执行过程中异常退出后所处的状态,通常是由于 Container 内部原因导致,比如程序 bug、硬件故障等。

2、基本事件

  • INIT_CONTAINER:NodeManager 收到来自 ApplicationMaster 的启动 Container 的请求,则会创建一个 Container 对象,并触发一个 INIT_CONTAINER 事件,使 Container 状态由初始状态 NEW 转换为 LOCALIZING。
  • RESOURCE_LOCALIZED:Container 成功从 HDFS 下载一种资源到本地(缓存),会触发一个 RESOURCE_LOCALIZED 事件。注意,一个 Container 可能需要下载多种资源,因此,该事件可能使 Container 维持在 LOCALIZING 状态或者进入新状态 LOCALIZED(所有资源均下载完成)。
  • CONTAINER_LAUNCHED:ContainerLaunch 调用函数 ContainerExecutor#launchContainer 成功启动后,会触发一个 CONTAINER_LAUNCHED 事件,使得 Container 从 LOCALIZED 状态转换为 CONTAINER_LAUNCHED 状态。需要注意的,由于函数 ContainerExecutor#launchContainer 是阻塞的,所以它要等到 Container 退出执行后才会退出,因此,该事件将在该函数调用之后发出。
  • CONTAINER_EXITED_WITH_SUCCESS:Container 正常退出(执行 Container 实际上是执行一个 Shell 脚本,正常结束运行后会返回 0),会触发一个 CONTAINER_EXITED_WITH_SUCCESS 事件。
  • CONTAINER_RESOURCES_CLEANEDUP:NodeManager 清理完成 Container 使用的各种临时目录(主要是删除分布式缓存中的临时数据),此时会触发一个 CONTAINER_RESOURCES_CLEANEDUP 事件,使得 Container 从 EXITED_WITH_SUCCESS 状态转换为 DONE 状态。
  • RESOURCE_FAILED:Container 本地化过程中抛出异常,会触发一个 RESOURCE_FAILED 事件,导致 Container 失败。
  • KILL_CONTAINER:在多种场景下会触发产生 KILL_CONTAINER 事件,包括 ResourceManager 要求 NodeManager 杀死一个 Container;Container 使用的内存量超过约定值,被监控线程杀死;ApplicationMaster 要求 NodeManager 杀死一个 Container(通过 RPC 函数 ContainerManagementProtocol#stopContainer)。
  • CONTAINER_EXITED_WITH_FAILURE:Container 异常退出(运行过程中抛出 Throwable 异常)时,会触发一个 CONTAINER_EXITED_WITH_FAILURE 事件。

三)LocalizedResource 状态机

下载是在从 init 状态转移到 downloading 状态时,会发一个 REQUEST_RESOURCE_LOCALIZATION 事件。这个事件是会发给 ResourceLocalizationServiceResourceLocalizationService 根据资源的类型和可见性确定路径并下载他。下载是异步的(并且每个 application 对应着自己的下载线程),每个下载会对应一个 callable 的 FSDownload。
状态机如下图所示,非常简单,不再具体介绍。

三、小结

本篇文章对 NodeManager 中三类状态机进行了介绍,其主要都是维护一个应用程序的生命周期。无需强行记忆,知道有这三类状态机,遇到问题再对应查看即可。


参考文章:
《Hadoop技术内幕:深入解析YARN架构设计与实现原理》

有关【深入浅出 Yarn 架构与实现】6-2 NodeManager 状态机管理的更多相关文章

  1. ruby-on-rails - 跳过状态机方法的所有验证 - 2

    当我的预订模型通过rake任务在状态机上转换时,我试图找出如何跳过对ActiveRecord对象的特定实例的验证。我想在reservation.close时跳过所有验证!叫做。希望调用reservation.close!(:validate=>false)之类的东西。仅供引用,我们正在使用https://github.com/pluginaweek/state_machine用于状态机。这是我的预订模型的示例。classReservation["requested","negotiating","approved"])}state_machine:initial=>'requested

  2. ruby - 如何根据特征实现 FactoryGirl 的条件行为 - 2

    我有一个用户工厂。我希望默认情况下确认用户。但是鉴于unconfirmed特征,我不希望它们被确认。虽然我有一个基于实现细节而不是抽象的工作实现,但我想知道如何正确地做到这一点。factory:userdoafter(:create)do|user,evaluator|#unwantedimplementationdetailshereunlessFactoryGirl.factories[:user].defined_traits.map(&:name).include?(:unconfirmed)user.confirm!endendtrait:unconfirmeddoenden

  3. 华为OD机试用Python实现 -【明明的随机数】 2023Q1A - 2

    华为OD机试题本篇题目:明明的随机数题目输入描述输出描述:示例1输入输出说明代码编写思路最近更新的博客华为od2023|什么是华为od,od薪资待遇,od机试题清单华为OD机试真题大全,用Python解华为机试题|机试宝典【华为OD机试】全流程解析+经验分享,题型分享,防作弊指南华为o

  4. 基于C#实现简易绘图工具【100010177】 - 2

    C#实现简易绘图工具一.引言实验目的:通过制作窗体应用程序(C#画图软件),熟悉基本的窗体设计过程以及控件设计,事件处理等,熟悉使用C#的winform窗体进行绘图的基本步骤,对于面向对象编程有更加深刻的体会.Tutorial任务设计一个具有基本功能的画图软件**·包括简单的新建文件,保存,重新绘图等功能**·实现一些基本图形的绘制,包括铅笔和基本形状等,学习橡皮工具的创建**·设计一个合理舒适的UI界面**注明:你可能需要先了解一些关于winform窗体应用程序绘图的基本知识,以及关于GDI+类和结构的知识二.实验环境Windows系统下的visualstudio2017C#窗体应用程序三.

  5. MIMO-OFDM无线通信技术及MATLAB实现(1)无线信道:传播和衰落 - 2

     MIMO技术的优缺点优点通过下面三个增益来总体概括:阵列增益。阵列增益是指由于接收机通过对接收信号的相干合并而活得的平均SNR的提高。在发射机不知道信道信息的情况下,MIMO系统可以获得的阵列增益与接收天线数成正比复用增益。在采用空间复用方案的MIMO系统中,可以获得复用增益,即信道容量成倍增加。信道容量的增加与min(Nt,Nr)成正比分集增益。在采用空间分集方案的MIMO系统中,可以获得分集增益,即可靠性性能的改善。分集增益用独立衰落支路数来描述,即分集指数。在使用了空时编码的MIMO系统中,由于接收天线或发射天线之间的间距较远,可认为它们各自的大尺度衰落是相互独立的,因此分布式MIMO

  6. 【Java入门】使用Java实现文件夹的遍历 - 2

    遍历文件夹我们通常是使用递归进行操作,这种方式比较简单,也比较容易理解。本文为大家介绍另一种不使用递归的方式,由于没有使用递归,只用到了循环和集合,所以效率更高一些!一、使用递归遍历文件夹整体思路1、使用File封装初始目录,2、打印这个目录3、获取这个目录下所有的子文件和子目录的数组。4、遍历这个数组,取出每个File对象4-1、如果File是否是一个文件,打印4-2、否则就是一个目录,递归调用代码实现publicclassSearchFile{publicstaticvoidmain(String[]args){//初始目录Filedir=newFile("d:/Dev");Datebeg

  7. hadoop安装之保姆级教程(二)之YARN的配置 - 2

    1.1.1 YARN的介绍 为克服Hadoop1.0中HDFS和MapReduce存在的各种问题⽽提出的,针对Hadoop1.0中的MapReduce在扩展性和多框架⽀持⽅⾯的不⾜,提出了全新的资源管理框架YARN. ApacheYARN(YetanotherResourceNegotiator的缩写)是Hadoop集群的资源管理系统,负责为计算程序提供服务器计算资源,相当于⼀个分布式的操作系统平台,⽽MapReduce等计算程序则相当于运⾏于操作系统之上的应⽤程序。 YARN被引⼊Hadoop2,最初是为了改善MapReduce的实现,但是因为具有⾜够的通⽤性,同样可以⽀持其他的分布式计算模

  8. ruby - Arrays Sets 和 SortedSets 在 Ruby 中是如何实现的 - 2

    通常,数组被实现为内存块,集合被实现为HashMap,有序集合被实现为跳跃列表。在Ruby中也是如此吗?我正在尝试从性能和内存占用方面评估Ruby中不同容器的使用情况 最佳答案 数组是Ruby核心库的一部分。每个Ruby实现都有自己的数组实现。Ruby语言规范只规定了Ruby数组的行为,并没有规定任何特定的实现策略。它甚至没有指定任何会强制或至少建议特定实现策略的性能约束。然而,大多数Rubyist对数组的性能特征有一些期望,这会迫使不符合它们的实现变得默默无闻,因为实际上没有人会使用它:插入、前置或追加以及删除元素的最坏情况步骤复

  9. ruby - "public/protected/private"方法是如何实现的,我该如何模拟它? - 2

    在ruby中,你可以这样做:classThingpublicdeff1puts"f1"endprivatedeff2puts"f2"endpublicdeff3puts"f3"endprivatedeff4puts"f4"endend现在f1和f3是公共(public)的,f2和f4是私有(private)的。内部发生了什么,允许您调用一个类方法,然后更改方法定义?我怎样才能实现相同的功能(表面上是创建我自己的java之类的注释)例如...classThingfundeff1puts"hey"endnotfundeff2puts"hey"endendfun和notfun将更改以下函数定

  10. ruby - Ruby 和 Ruby on Rails 中的三层架构 - 2

    我是一名决定学习Ruby和RubyonRails的ASP.NETMVC开发人员。我已经有所了解并在RoR上创建了一个网站。在ASP.NETMVC上开发,我一直使用三层架构:数据层、业务层和UI(或表示)层。尝试在RubyonRails应用程序中使用这种方法,我发现没有关于它的信息(或者也许我只是找不到它?)。也许有人可以建议我如何在RubyonRails上创建或使用三层架构?附言我使用ruby​​1.9.3和RubyonRails3.2.3。 最佳答案 我建议在制作RoR应用程序时遵循RubyonRails(RoR)风格。Rails

随机推荐