目录前言题目：一、读题分析二、处理过程 1.数据处理部分：2.HBaseSink（未经测试，不能证明其正确性，仅供参考！）三、重难点分析总结 什么是HBase？前言本题来源于全国职业技能大赛之大数据技术赛项赛题-电商数据处理-实时数据处理注：由于设备问题，代码执行结果以及数据的展示无法给出，可参照我以往的博客其中有相同数据源展示题目：        使用Flink消费Kafka中topic为ods_mall_log的数据，根据数据中不同的表前缀区分，将数据分别分发至kafka的DWD层的dim_customer_login_log的Topic中，其他的表则无需处理；提示：以下是本篇文章正文内容

一、什么是分流所谓“分流”，就是将一条数据流拆分成完全独立的两条、甚至多条流。也就是基于一个DataStream，定义一些筛选条件，将符合条件的数据拣选出来放到对应的流里。二、基于filter算子的简单实现分流其实根据条件筛选数据的需求，本身非常容易实现：只要针对同一条流多次独立调用.filter()方法进行筛选，就可以得到拆分之后的流了。案例需求：读取一个整数数字流，将数据流划分为奇数流和偶数流。packagecom.flink.DataStream.SplitStream;importorg.apache.flink.api.common.functions.FilterFunction;

使用场景：表值聚合函数即UDTAF，这个函数⽬前只能在TableAPI中使⽤，不能在SQLAPI中使⽤。函数功能：在SQL表达式中，如果想对数据先分组再进⾏聚合取值：selectmax(xxx)fromsource_tablegroupbykey1,key2上⾯SQL的max语义产出只有⼀条最终结果，如果想取聚合结果最⼤的n条数据，并且n条数据，每⼀条都要输出⼀次结果数据，上⾯的SQL就没有办法实现了。所以UDTAF为了处理这种场景，可以⾃定义怎么取，取多少条最终的聚合结果，UDTAF和UDAF是类似的。案例场景：有⼀个饮料表有3列，分别是id、name和price，⼀共有5⾏，需要找到价格最

文章目录SQL表值聚合函数（TableAggregateFunction）SQL表值聚合函数（TableAggregateFunction）PythonUDTAF，即PythonTableAggregateFunction。PythonUDTAF用来针对一组数据进行聚合运算，比如同一个window下的多条数据、或者同一个key下的多条数据等，与PythonUDAF不同的是，针对同一组输入数据，PythonUDTAF可以产生0条、1条、甚至多条输出数据。以下示例，定义了一个名字为Top2的PythonUDTAF：frompyflink.commonimportRowfrompyflink.tab

Flink系列文章1、Flink部署、概念介绍、source、transformation、sink使用示例、四大基石介绍和示例等系列综合文章链接13、Flink的tableapi与sql的基本概念、通用api介绍及入门示例14、Flink的tableapi与sql之数据类型:内置数据类型以及它们的属性15、Flink的tableapi与sql之流式概念-详解的介绍了动态表、时间属性配置（如何处理更新结果）、时态表、流上的join、流上的确定性以及查询配置16、Flink的tableapi与sql之连接外部系统:读写外部系统的连接器和格式以及FileSystem示例（1）16、Flink的ta

软件环境Flink1.13.3Scala2.12doris0.14一、MySQL开启binlog日志、创建用户1.开启binlogMySQL8.0默认开启了binlog，可以通过代码showvariableslike"%log_bin%";查询是否开启了，showvariableslike"%server_id%";查询服务器ID。上图分别显示了binlong是否开启以及binlog所在的位置。2.创建用户CREATEUSER'flinktest'IDENTIFIEDBY'123456'; GRANTSELECT,RELOAD,SHOWDATABASES,REPLICATIONSLAVE,RE

Flink系列文章1、Flink部署、概念介绍、source、transformation、sink使用示例、四大基石介绍和示例等系列综合文章链接13、Flink的tableapi与sql的基本概念、通用api介绍及入门示例14、Flink的tableapi与sql之数据类型:内置数据类型以及它们的属性15、Flink的tableapi与sql之流式概念-详解的介绍了动态表、时间属性配置（如何处理更新结果）、时态表、流上的join、流上的确定性以及查询配置16、Flink的tableapi与sql之连接外部系统:读写外部系统的连接器和格式以及FileSystem示例（1）16、Flink的ta

Flink的安装与基础编程实验背景实验目的实验环境实验任务及完成过程本地模式下安装Flink检查配置环境配置Flink启动与判断运行情况Flink实例运行(单机)编程实现WordCount程序安装Maven编写代码使用Maven打包java程序通过flinkrun命令运行程序集群模式下Flink的安装与配置Flink安装前准备工作Flink安装操作步骤：测试集群模式下Flink：总结实验背景Flink是一种具有代表性的开源流处理架构，具有十分强大的功能，它实现了GoogleDatatlow流计算模型，是一种兼具高吞吐、低延迟和高性能的实时流计算框架，并旦同时支持批处理和流处理。Flink的主要

最近开始学习Flink，一边学习一边记录，以下是基于【尚硅谷】Flink1.13实战教程总结的笔记，方便后面温习目录初始Flink一：基础概念1.Flink是什么2.Flink主要应用场景

在flink-connector-jdbc中增加对国产数据库达梦(V8)的支持​本文将展示如何在flink-connector-jdbc中增加对国产数据库达梦(V8)的支持。演示基于Java语言，使用Maven。1.关于flink-connector-jdbc​flink-connector-jdbc是ApacheFlink框架提供的一个用于与关系型数据库进行连接和交互的连接器。它提供了使用Flink进行批处理和流处理的功能，可以方便地将关系型数据库中的数据引入Flink进行分析和处理，或者将Flink计算结果写入关系型数据库。​flink-connector-jdbc可以实现以下核心功能：数