关注公众号：大数据技术派，回复“资料”，领取1000G资料。本文首发于我的个人博客：Flink状态管理Flink系列文章第01讲：Flink的应用场景和架构模型第02讲：Flink入门程序WordCount和SQL实现第03讲：Flink的编程模型与其他框架比较第04讲：Flink常用的DataSet和DataStreamAPI第05讲：FlinkSQL&Table编程和案例第06讲：Flink集群安装部署和HA配置第07讲：Flink常见核心概念分析第08讲：Flink窗口、时间和水印第09讲：Flink状态与容错第10讲：FlinkSideOutPut分流第11讲：FlinkCEP复杂事件

之前的转换算子是无法访问事件的时间戳信息和水位线信息的，而这在一些应用场景下，极为重要。例如MapFunction这样子的map转换算子就无法访问时间戳或者当前事件的事件事件。基于此，DataStreamAPI提供了一系列LOW-LEVEL的转换算子调用。可以访问时间戳，watermark以及注册定时事件，还可以输出特定的一些事件，例如超时时间等。processfunction用来构建事件驱动的应用以及实现自定义的业务逻辑（使用之前的window函数和转换算子无法实现）。例如FlinkSQL就是使用ProcessFunction实现的。Flink提供了8个ProcessFunctionProc

关注公众号：大数据技术派，回复“资料”，领取1000G资料。本文首发于我的个人博客：Flink状态管理Flink系列文章第01讲：Flink的应用场景和架构模型第02讲：Flink入门程序WordCount和SQL实现第03讲：Flink的编程模型与其他框架比较第04讲：Flink常用的DataSet和DataStreamAPI第05讲：FlinkSQL&Table编程和案例第06讲：Flink集群安装部署和HA配置第07讲：Flink常见核心概念分析第08讲：Flink窗口、时间和水印第09讲：Flink状态与容错第10讲：FlinkSideOutPut分流第11讲：FlinkCEP复杂事件

之前的转换算子是无法访问事件的时间戳信息和水位线信息的，而这在一些应用场景下，极为重要。例如MapFunction这样子的map转换算子就无法访问时间戳或者当前事件的事件事件。基于此，DataStreamAPI提供了一系列LOW-LEVEL的转换算子调用。可以访问时间戳，watermark以及注册定时事件，还可以输出特定的一些事件，例如超时时间等。processfunction用来构建事件驱动的应用以及实现自定义的业务逻辑（使用之前的window函数和转换算子无法实现）。例如FlinkSQL就是使用ProcessFunction实现的。Flink提供了8个ProcessFunctionProc

问过的一些公司：头条，字节，阿里x3，腾讯，竞技世界参考答案：1、容错方式容错指的是一个系统在部分模块出现故障时还能否持续的对外提供服务，一个高可用的系统应该具有很高的容错性；对于一个大的集群系统来说，机器故障、网络异常等都是很常见的，Spark这样的大型分布式计算集群提供了很多的容错机制来提高整个系统的可用性。一般来说，分布式数据集的容错性有两种方式：数据检查点和记录数据的更新。面向大规模数据分析，数据检查点操作成本很高，需要通过数据中心的网络连接在机器之间复制庞大的数据集，而网络带宽往往比内存带宽低得多，同时还需要消耗更多的存储资源。因此，Spark选择记录更新的方式。但是，如果更新粒度太

问过的一些公司：头条，字节，阿里x3，腾讯，竞技世界参考答案：1、容错方式容错指的是一个系统在部分模块出现故障时还能否持续的对外提供服务，一个高可用的系统应该具有很高的容错性；对于一个大的集群系统来说，机器故障、网络异常等都是很常见的，Spark这样的大型分布式计算集群提供了很多的容错机制来提高整个系统的可用性。一般来说，分布式数据集的容错性有两种方式：数据检查点和记录数据的更新。面向大规模数据分析，数据检查点操作成本很高，需要通过数据中心的网络连接在机器之间复制庞大的数据集，而网络带宽往往比内存带宽低得多，同时还需要消耗更多的存储资源。因此，Spark选择记录更新的方式。但是，如果更新粒度太