大数据梦工厂（0004-DataNode工作机制解析）1-基本描述DataNode通常是群集中每个节点部署一个，用于存储数据，负责提供客户端的读写请求，并且根据NameNode的指令执行数据块的创建、删除、追加和复制等操作。DataNode三大功能：负责管理所在节点上存储数据的读写，及存储每个文件的数据块。定期向NameNode报告该节点的数据块元数据信息。执行数据的流水线复制。2-工作机制DataNode上的数据块以文件形式存储在本地磁盘上，包括两个文件：文件的数据块；数据块元数据（长度、校验和、时间戳）。DataNode启动后向NameNode服务注册，通过心跳机制：每3秒向NameNod
大数据梦工厂（0004-DataNode工作机制解析）1-基本描述DataNode通常是群集中每个节点部署一个，用于存储数据，负责提供客户端的读写请求，并且根据NameNode的指令执行数据块的创建、删除、追加和复制等操作。DataNode三大功能：负责管理所在节点上存储数据的读写，及存储每个文件的数据块。定期向NameNode报告该节点的数据块元数据信息。执行数据的流水线复制。2-工作机制DataNode上的数据块以文件形式存储在本地磁盘上，包括两个文件：文件的数据块；数据块元数据（长度、校验和、时间戳）。DataNode启动后向NameNode服务注册，通过心跳机制：每3秒向NameNod
Spark任务调度机制在工厂环境下，Spark集群的部署方式一般为YARN-Cluster模式，之后的内核分析内容中我们默认集群的部署方式为YARN-Cluster模式。4.1Spark任务提交流程在上一章中我们讲解了SparkYARN-Cluster模式下的任务提交流程，如下图所示：下面的时序图清晰地说明了一个Spark应用程序从提交到运行的完整流程：提交一个Spark应用程序，首先通过Client向ResourceManager请求启动一个Application，同时检查是否有足够的资源满足Application的需求，如果资源条件满足，则准备ApplicationMaster的启动上下文
Spark任务调度机制在工厂环境下，Spark集群的部署方式一般为YARN-Cluster模式，之后的内核分析内容中我们默认集群的部署方式为YARN-Cluster模式。4.1Spark任务提交流程在上一章中我们讲解了SparkYARN-Cluster模式下的任务提交流程，如下图所示：下面的时序图清晰地说明了一个Spark应用程序从提交到运行的完整流程：提交一个Spark应用程序，首先通过Client向ResourceManager请求启动一个Application，同时检查是否有足够的资源满足Application的需求，如果资源条件满足，则准备ApplicationMaster的启动上下文
HDFSFederation是为解决HDFS单点故障而提出的NameNode水平扩展方案，该方案允许HDFS创建多个Namespace以提高集群的扩展性和隔离性。在Federation中新增了block-pool的概念，block-pool就是属于单个Namespace的一组block,每个DataNode为所有的block-pool存储block，可以理解block-pool是一个重新将block划分的逻辑概念，同一个DataNode中可以存储属于多个block-pool的多个block。所以在NameNode和DataNode通信相关的代码方面，也做了很大的改动以支持上述特性。
HDFSFederation是为解决HDFS单点故障而提出的NameNode水平扩展方案，该方案允许HDFS创建多个Namespace以提高集群的扩展性和隔离性。在Federation中新增了block-pool的概念，block-pool就是属于单个Namespace的一组block,每个DataNode为所有的block-pool存储block，可以理解block-pool是一个重新将block划分的逻辑概念，同一个DataNode中可以存储属于多个block-pool的多个block。所以在NameNode和DataNode通信相关的代码方面，也做了很大的改动以支持上述特性。
一、概述 之前写过一篇非常详细的,利用QJM在HDFS2.0部署HA策略的文章，主要说了利用QJM进行HA部署以及其原理（http://zengzhaozheng.blog.51cto.com/8219051/1441170 ）。但是，其中没有详细描述HADOOP2.x通过QJM部署HA完毕之后，ActiveNamenode和StandbyNamenode之间的元数据运行机制,实际上由于2.x的HA策略的引入，其元数据的运行机制和1.x比起来已经有了很大的不同。写这篇blog的目的主要是为了对hadoop1.x和hadoop2.x的元数据运行机制进行比较，当是自己的笔记吧。二、fsp_w
一、概述 之前写过一篇非常详细的,利用QJM在HDFS2.0部署HA策略的文章，主要说了利用QJM进行HA部署以及其原理（http://zengzhaozheng.blog.51cto.com/8219051/1441170 ）。但是，其中没有详细描述HADOOP2.x通过QJM部署HA完毕之后，ActiveNamenode和StandbyNamenode之间的元数据运行机制,实际上由于2.x的HA策略的引入，其元数据的运行机制和1.x比起来已经有了很大的不同。写这篇blog的目的主要是为了对hadoop1.x和hadoop2.x的元数据运行机制进行比较，当是自己的笔记吧。二、fsp_w
一、Hystrix解决了什么问题？在复杂的分布式应用中有着许多的依赖，各个依赖都有难免在某个时刻失败，如果应用不隔离各个依赖，降低外部的风险，那容易拖垮整个应用。举个电商场景中常见的例子，比如订单服务调用了库存服务、商品服务、积分服务、支付服务，系统均正常情况下，订单模块正常运行。但是当积分服务发生异常时且会阻塞30s时，订单服务就有有部分请求失败，且工作线程阻塞在调用积分服务上。流量高峰时，问题会更加严重，订单服务的所有请求都会阻塞在调用积分服务上，工作线程全部挂起，导致机器资源耗尽，订单服务也不可用，造成级联影响，整个集群宕机，这种称为雪崩效应。所以需要一种机制，使得单个服务出现故障时，整
一、Hystrix解决了什么问题？在复杂的分布式应用中有着许多的依赖，各个依赖都有难免在某个时刻失败，如果应用不隔离各个依赖，降低外部的风险，那容易拖垮整个应用。举个电商场景中常见的例子，比如订单服务调用了库存服务、商品服务、积分服务、支付服务，系统均正常情况下，订单模块正常运行。但是当积分服务发生异常时且会阻塞30s时，订单服务就有有部分请求失败，且工作线程阻塞在调用积分服务上。流量高峰时，问题会更加严重，订单服务的所有请求都会阻塞在调用积分服务上，工作线程全部挂起，导致机器资源耗尽，订单服务也不可用，造成级联影响，整个集群宕机，这种称为雪崩效应。所以需要一种机制，使得单个服务出现故障时，整
