目录什么是CDC什么是FlinkCDCFlinkCDC前生今世FlinkCDC1.xFlinkCDC2.xFlinkCDC3.xFlinkCDC使用Debezium标准CDCEvent格式详解什么是CDCCDC（ChangeDataCapture）是一种用于跟踪数据库中数据更改的技术。它用于监视数据库中的变化，并捕获这些变化，以便实时或定期将变化的数据同步到其他系统、数据仓库或分析平台。CDC技术通常用于数据复制、数据仓库更新、实时报告和数据同步等场景。CDC可以捕获数据库中的以下类型的数据变化：插入（Insert）：当新数据被插入到数据库表中时。更新（Update）：当数据库表中的现有数据被
一：参数flink模式–standalone二：步骤1.将本地测试好的代码进行本地运行。确保没问题，进行打包。2.找到打好的jar包，将jar包上传到对应的服务器。3.执行flink命令，跑代码。/opt/flink/flink-1.13.6/bin/flinkrun-ccom.shds.platform.eventlog.DetectAndDefenseEventLogNormal./shds-platform-eventlog-1.0-SNAPSHOT.jar备注：-c填写存在main的类名。查看包中是否有对应的主类名。jartfshds-platform-eventlog-1.0-SNA
概要Flink流数据常常存在写入数据库的场景，一般是通过继承RichSinkFunction来实现对数据的写入。如果sink之前不做优化处理，写入时都是单条写入。单条写入有许多弊端：1、写入频繁造成数据库压力大2、写入速度慢、效率低，造成反压所以需要使用批量写入的方式，本文通过开窗window定时缓存周期数据形成批，下发给sink节点，本文通过大数据量生产环境验证，不仅实现了批量写入，还在防止数据倾斜支持并行等方面做了优化，乃呕心之作。批量写入功能实现主函数KeyedStreamkeyedStream=sinkStream.keyBy(newHashModKeySelector(keyInde
状态后端在检查点期间存储其快照的位置（JobManager 的Java堆或文件系统）。Flink应用集群#Flink应用集群是一个专用的Flink集群，只从一个Flink执行 Flink作业 应用程序。Flink的生命周期 集群绑定了Flink应用的生命周期。Flink作业集群#Flink作业集群是一个专用的Flink集群，它只执行单个 Flink作业。Flink集群的生存期与FlinkJob的生存期绑定。Flink集群#由（通常）一个 JobManager 和一个或多个 FlinkTaskManager 进程组成的分布式系统。事件#事件是关于域状态更改的语句，由应用。事件可以是流或批处理应用
Flink系列文章一、Flink专栏Flink专栏系统介绍某一知识点，并辅以具体的示例进行说明。1、Flink部署系列本部分介绍Flink的部署、配置相关基础内容。2、Flink基础系列本部分介绍Flink的基础部分，比如术语、架构、编程模型、编程指南、基本的datastreamapi用法、四大基石等内容。3、FlikTableAPI和SQL基础系列本部分介绍FlinkTableApi和SQL的基本用法，比如TableAPI和SQL创建库、表用法、查询、窗口函数、catalog等等内容。4、FlikTableAPI和SQL提高与应用系列本部分是tableapi和sql的应用部分，和实际的生产应
Flink实时groupby聚合场景操作时，由于使用的是rocksdb状态后端，发现CPU的高负载卡在rocksdb的读写上，导致上游算子背压特别大。通过调优使用hashmap状态后端代替rocksdb状态后端，使吞吐量有了质的飞跃（20倍的性能提升），并分析整理。实例代码--SETtable.exec.state.ttl=86400s;--24hour,默认:0msSETtable.exec.state.ttl=2592000s;--30days,默认:0msCREATETABLEkafka_table(midbigint,dbstring,schstring,tabstring,optst
Flink部署笔记：Ubuntu环境下部署Flink集群环境Docker部署Flink集群环境kubernetes(K8S)部署Flink集群环境下面的1、2两个方法选其一即可。1使用docker命令进行构建创建网络dockernetworkcreateflink-network配置属性在命令行界面直接输入。FLINK_PROPERTIES="jobmanager.rpc.address:jobmanager"启动jobmanager容器dockerrun\--rm\--name=jobmanager\--networkflink-network\--publish8081:8081\--en
flink源码系列总述本文基于flink-1.17版本，对于flink源码学习了解，仅作为个人学习笔记，如有错误，欢迎指正。flink提交流程源码流程解析看以下流程时，请及时参考本图CliFrontend客户端YarnJobClusterEntrypointAM执行的入口YarnTaskExecutorRunnerYarn模式下TaskManager的入口类1.CliFrontend客户端提交命令通过flinkonyarnper-job模式提交，查看flink脚本可以看到，程序被提交后，会寻找CliFrontend类CliFrotendnmain方法入口其中：parseAndRun方法