1 环境说明注意：以下所有操作都在root用户下完成 sudosu -rootip操作系统版本用途192.168.30.18Ubuntu18.04.4LTSjobmanager容器、nfs服务(存储flink的checkpoint、savepoint)192.168.30.17Ubuntu18.04.4LTStaskmanager02容器192.168.30.16Ubuntu18.04.4LTStaskmanager01容器2 部署nfs在192.168.30.18节点上操作2.1安装nfs软件包#apt-getinstallrpcbind-y#apt-getinstallnfs-kernel

目录1.在上节数据流上执行转换操作，或者使用sink将数据写入外部系统。2.FileSinkFileSinkFormatTypes Row-encodedFormats Bulk-encodedFormats 桶分配滚动策略3.如何输出结果Print集合数据到客户端，execute_and_collect方法将收集数据到客户端内存将结果发送到DataStreamsinkconnector将结果发送到Table&SQLsinkconnector4.执行PyFlinkDataStreamAPI作业。1.在上节数据流上执行转换操作，或者使用sink将数据写入外部系统。本教程使用FileSink将结果

源算子DataSource概述内置DataSource基于集合构建基于文件构建基于Socket构建自定义DataSourceSourceFunctionRichSourceFunction常见连接器第三方系统连接器FileSource连接器DataGenSource连接器KafkaSource连接器RabbitMQSource连接器MongoDBSource连接器概述Flink中的DataSource（数据源、源算子）用于定义数据输入的来源。数据源是Flink作业的起点，它可以从各种数据来源获取数据，例如文件系统、消息队列、数据库等。将数据源添加到Flink执行环境中，从而创建一个数据流。然后

一、获取源码　　1、从Git克隆代码gitclonehttps://github.com/apache/flink.git　　2、maven运行编译mvncleaninstall-DskipTests　　注：为了加速构建，可以执行如下命令，以跳过测试，QA的插件和JavaDocs的生成：mvncleaninstall-DskipTests-Dfast 二、环境　　1、JDK8　　　　运行单元测试需要Java8u51以上的版本，以避免使用PowerMockRunner的单元测试失败。　　2、maven3　　　　*注意：Maven3.3.x可以构建Flink，但是不能正确地屏蔽掉指定的依赖。Mav

目录☄️前置工作fenfa脚本🌋概述☄️Flink是什么☄️特点（多nb）☄️应用场景（不用看）☄️分层API🌋配环境☄️wordcount☄️WcDemoUnboundStreaming 🌋集群部署☄️集群角色☄️集群规划webUI提交作业命令行提交作业​编辑☄️部署模式会话模式（SessionMode）单作业模式（Per-JobMode）应用模式（ApplicationMode）☄️standalone运行模式 会话模式部署 单作业模式部署应用模式部署 ☄️YARN运行模式（重点） 会话模式部署 单作业模式部署 应用模式部署 ☄️历史服务器🌋深入运行流程☄️总体☄️核心概念并行度设置算子链

Flink之FileSink将数据写入parquet文件在使用FileSink将数据写入列式存储文件中时必须使用forBulkFormat,列式存储文件如ORCFile、ParquetFile,这里就以ParquetFile为例结合代码进行说明.在Flink1.15.3中是通过构造ParquetWriterFactory然后调用forBulkFormat方法将构造好的ParquetWriterFactory传入,这里先讲一下构造ParquetWriterFactory一共有三种方式序列API方式一AvroParquetWriters.forGenericRecord方式二AvroParquet

在Flink程序中，可以通过设置日志级别来控制控制台输出的信息。要让控制台只打印结果信息，可以将日志级别设置为ERROR。这样，只有错误信息和print()方法输出的结果会显示在控制台上。要设置日志级别，请在Flink项目的resources目录下创建一个名为log4j.properties的文件（如果已经存在，请修改相应的配置）。将以下内容添加到log4j.properties文件中：log4j.rootLogger=ERROR,consolelog4j.appender.console=org.apache.log4j.ConsoleAppenderlog4j.appender.conso

前些天发现了一个巨牛的人工智能学习网站，通俗易懂，风趣幽默，忍不住分享一下给大家。点击跳转到网站：https://www.captainai.net/dongkelun前言前面总结了SparkSQL增量查询Hudi表和Hive增量查询Hudi表。最近项目上也有FlinkSQL增量查询Hudi表的需求，正好学习总结一下。官网文档地址：https://hudi.apache.org/cn/docs/querying_data#incremental-query参数read.start-commit增量查询开始时间对于流读，如果不指定该值，默认取最新的instantTime，也就是流读默认从最新的i

引入flink依赖//streamapi和tableapiorg.apache.flinkflink-table-api-java-bridge_2.111.14.2providedorg.apache.flinkflink-clients_2.111.14.2provided编写入口目录结构com.example.demoautoChildApplicationtaskTaskAbstractTaskTaskManagertimeTimeSourceTimeTaskDemo2Application子容器初始化类@EnableAutoConfigurationpublicclassChildA