草庐IT

flink数据类型和序列化-1.13

1.版本说明本文档内容基于flink-1.13.x,其他版本的整理,请查看本人博客的flink专栏其他文章。ApacheFlink以一种独特的方式处理数据类型和序列化,flink包含自己的类型描述符、泛型类型提取和类型序列化框架。本文档描述这些概念及其背后的基本原理。2.概述2.1.支持的数据类型flink对DataSet或DataStream中的元素类型有一些限制,该限制的原因是系统需要分析类型以决定有效的执行策略。有七种不同的数据类型类别:JavaTuple和ScalaCaseClasseJavaPOJO原始类型常规类ValueHadoopWritable特殊类型2.1.1.Tuple和C

MYSQL——分组

1.groupby1.groupby的含义:将查询结果按照1个或多个字段进分组,字段值相同的为组2.groupby可于单个字段分组,也可于多个字段分组根据gender字段来分组,gender字段的全部值有4个’男’,‘’,‘中性’,‘保密’,所以分为了4组当groupby单独使时,只显出每组的第条记录,所以groupby单独使时的实际意义不2.groupby+group_concat()1.group_concat(字段名)可以作为个输出字段来使,2.表分组之后,根据分组结果,使group_concat()来放置每组的某字段的值的集合3.groupby+集合函数、1.通过group_conca

MYSQL——分组

1.groupby1.groupby的含义:将查询结果按照1个或多个字段进分组,字段值相同的为组2.groupby可于单个字段分组,也可于多个字段分组根据gender字段来分组,gender字段的全部值有4个’男’,‘’,‘中性’,‘保密’,所以分为了4组当groupby单独使时,只显出每组的第条记录,所以groupby单独使时的实际意义不2.groupby+group_concat()1.group_concat(字段名)可以作为个输出字段来使,2.表分组之后,根据分组结果,使group_concat()来放置每组的某字段的值的集合3.groupby+集合函数、1.通过group_conca

[ vulhub漏洞复现篇 ] Apache Flink 文件上传漏洞 (CVE-2020-17518)

?博主介绍?‍?博主介绍:大家好,我是_PowerShell,很高兴认识大家~✨主攻领域:【渗透领域】【数据通信】【通讯安全】【web安全】【面试分析】?点赞➕评论➕收藏==养成习惯(一键三连)??欢迎关注?一起学习?一起讨论⭐️一起进步?文末有彩蛋?作者水平有限,欢迎各位大佬指点,相互学习进步!文章目录?博主介绍一、漏洞编号二、漏洞描述三、影响范围四、指纹信息五、环境搭建1、进入CVE-2020-17518环境2、启动CVE-2020-17518环境3、查看CVE-2020-17518环境4、访问CVE-2020-17518环境5、查看CVE-

[ vulhub漏洞复现篇 ] Apache Flink 文件上传漏洞 (CVE-2020-17518)

?博主介绍?‍?博主介绍:大家好,我是_PowerShell,很高兴认识大家~✨主攻领域:【渗透领域】【数据通信】【通讯安全】【web安全】【面试分析】?点赞➕评论➕收藏==养成习惯(一键三连)??欢迎关注?一起学习?一起讨论⭐️一起进步?文末有彩蛋?作者水平有限,欢迎各位大佬指点,相互学习进步!文章目录?博主介绍一、漏洞编号二、漏洞描述三、影响范围四、指纹信息五、环境搭建1、进入CVE-2020-17518环境2、启动CVE-2020-17518环境3、查看CVE-2020-17518环境4、访问CVE-2020-17518环境5、查看CVE-

【Flink】【ClickHouse】写入流式数据到ClickHouse

Flink安装的教程就不在这里赘叙了,可以看一下以前的文章,这篇文章主要是把流式数据写入的OLAP(ClickHouse)中作查询分析Flink1.13.2,ClickHouse 22.1.3.71、安装ClickHouse(MacOS)这里直接使用docker安装,没有安装的同学可以使用homebreak来安装,执行下面的命令即可(已经安装了docker的可以忽略)brewinstall--cask--appdir=/Applicationsdocker1.1启动docker 四指进入Application,双击Docker图表安装,一直点击下一步即可1.2拉取ClickHouse镜像--客

【Flink】【ClickHouse】写入流式数据到ClickHouse

Flink安装的教程就不在这里赘叙了,可以看一下以前的文章,这篇文章主要是把流式数据写入的OLAP(ClickHouse)中作查询分析Flink1.13.2,ClickHouse 22.1.3.71、安装ClickHouse(MacOS)这里直接使用docker安装,没有安装的同学可以使用homebreak来安装,执行下面的命令即可(已经安装了docker的可以忽略)brewinstall--cask--appdir=/Applicationsdocker1.1启动docker 四指进入Application,双击Docker图表安装,一直点击下一步即可1.2拉取ClickHouse镜像--客

用flink cdc sqlserver 将数据实时同步到clickhouse

flinkcdc终于支持sqlserver了。现在互联网公司用sqlserver的不多,大部分都是一些国企的老旧系统。我们以前同步数据,都是用datax,但是不能实时同步数据。现在有了flinkcdc,可以实现实时同步了。1、首先sqlserver版本:要求sqlserver版本为14及以上,也就是SQLServer2017版。2、sqlserver开启cdc,具体细节可以百度,有一点要注意,必须启动SQLServer代理服务。3、需要实现一个json解析方法,用于将同步过来的json数据解析出来,并insert到目标数据库4、如果需要断点续传,需要设置ck,由于我们这边设备有限。使用的是Ro

用flink cdc sqlserver 将数据实时同步到clickhouse

flinkcdc终于支持sqlserver了。现在互联网公司用sqlserver的不多,大部分都是一些国企的老旧系统。我们以前同步数据,都是用datax,但是不能实时同步数据。现在有了flinkcdc,可以实现实时同步了。1、首先sqlserver版本:要求sqlserver版本为14及以上,也就是SQLServer2017版。2、sqlserver开启cdc,具体细节可以百度,有一点要注意,必须启动SQLServer代理服务。3、需要实现一个json解析方法,用于将同步过来的json数据解析出来,并insert到目标数据库4、如果需要断点续传,需要设置ck,由于我们这边设备有限。使用的是Ro

Flink 自定义数据源Connector

概述首先我们先来看一下自定义数据源,Flink系统提供的一些功能我们可以从下面这个图看出来数据源的source和sink类的集成关系当我们要实现自定义数据源的时候,我们需要先实现DynamicTableSourceFactory,DynamicTableSinkFactory这两个工厂类,在工厂类里面去实现参数定义和数据源的创建,然后再数据源DynamicTableSource和DynamicTableSink里面去初始化数据源的一些信息,最终在source类型的数据源的ScanRuntimeProvider或者LookupTableSource或者sink类型的数据源的SinkRuntime