文章目录集成其他系统Spark读写Doris准备Spark环境使用SparkDorisConnectorFlinkDorisConnector准备Flink环境使用FlinkDorisConnectorDataXdoriswriter数据湖分析JDBC和ODBCODBC外部表使用方式使用ODBC的MySQL外表使用ODBC的Oracle外表ES外表原理使用方式参数配置查询用法使用建议JDBC外表Hive外表多源数据目录(※)基本概念HivelcebergHudiESJDBC集成其他系统准备表和数据：CREATETABLEtable1(siteidINTDEFAULT'10',citycodeS

一：控制平面组件。控制平面组件会为集群做出全局决策，比如资源的调度。以及检测和响应集群事件，例如当不满足部署的replicas字段时，要启动新的pod）。1.kube-apiserver。该组件负责公开了KubernetesAPI，负责处理接受请求的工作。API服务器是Kubernetes控制平面的前端。2.kube-controller-manager。负责运行控制器进程。从逻辑上讲，每个控制器都是一个单独的进程，但是为了降低复杂性，它们都被编译到同一个可执行文件，并在同一个进程中运行。3.cloud-controller-manager。嵌入了特定于云平台的控制逻辑。云控制器管理器（Clo

环境说明[flink-1.13.1-bin-scala_2.11.tgz](https://archive.apache.org/dist/flink/flink-1.13.1/flink-1.13.1-bin-scala_2.11.tgz)[hadoop-2.7.3.tar.gz](https://archive.apache.org/dist/hadoop/common/hadoop-2.7.3/hadoop-2.7.3.tar.gz)[flink-cdc-connectors](https://github.com/ververica/flink-cdc-connectors)(gitc

在此对Flink读写Hive表操作进行逐步记录，需要指出的是，其中操作Hive分区表和非分区表的DDL有所不同，以下分别记录。基础环境Hive-3.1.3Flink-1.17.1基本操作与准备1、上传依赖jar包到flink/lib目录下cpflink-sql-connector-hive-3.1.3_2.12-1.17.1.jarcpmysql-connector-j-8.1.0.jar2、更换planner依赖（Hive集成的推荐设置）mv/usr/sft/flink-1.17.1/opt/flink-table-planner_2.12-1.17.1.jar/usr/sft/flink-

Flink的API分层        ApacheFlink的API分为四个层次，每个层次都提供不同的抽象和功能，以满足不同场景下的数据处理需求。下面是这四个层次的具体介绍：CEPAPI：FlinkAPI最底层的抽象为有状态实时流处理。其抽象实现是ProcessFunction，并且ProcessFunction被 框架集成到了DataStreamAPI中来为我们使用。它允许用户在应用程序中自由地处理来自单流或多流的事件（数据），并提供具有全局一致性和容错保障的状态。此外，用户可以在此层抽象中注册事件时间（eventtime）和处理时间（processingtime）回调方法，从而允许程序可以

1流程图2Flink来源表建模--来源-城市topicCREATETABLENJ_QL_JC_SSJC_SOURCE(recordstring)WITH( 'connector'='kafka', 'topic'='QL_JC_SSJC', 'properties.bootstrap.servers'='172.*.*.*:9092', 'properties.group.id'='QL_JC_SSJC_NJ_QL_JC_SSJC_SOURCE','scan.startup.mode'='group-offsets','properties.isolation.level'='read_com

​1.主键字段为空问题错误信息org.apache.flink.table.api.TableException:Column'bus_no'isNOTNULL,however,anullvalueisbeingwrittenintoit.Youcansetjobconfiguration'table.exec.sink.not-null-enforcer'='DROP'tosuppressthisexceptionanddropsuchrecordssilently.问题原因 sink表定义了主键，flink-sql在使用jdbc插入时，定义的主键中的属性存在空值PRIMARYKEY(col

1 环境说明注意：以下所有操作都在root用户下完成 sudosu -rootip操作系统版本用途192.168.30.18Ubuntu18.04.4LTSjobmanager容器、nfs服务(存储flink的checkpoint、savepoint)192.168.30.17Ubuntu18.04.4LTStaskmanager02容器192.168.30.16Ubuntu18.04.4LTStaskmanager01容器2 部署nfs在192.168.30.18节点上操作2.1安装nfs软件包#apt-getinstallrpcbind-y#apt-getinstallnfs-kernel

目录1.在上节数据流上执行转换操作，或者使用sink将数据写入外部系统。2.FileSinkFileSinkFormatTypes Row-encodedFormats Bulk-encodedFormats 桶分配滚动策略3.如何输出结果Print集合数据到客户端，execute_and_collect方法将收集数据到客户端内存将结果发送到DataStreamsinkconnector将结果发送到Table&SQLsinkconnector4.执行PyFlinkDataStreamAPI作业。1.在上节数据流上执行转换操作，或者使用sink将数据写入外部系统。本教程使用FileSink将结果

源算子DataSource概述内置DataSource基于集合构建基于文件构建基于Socket构建自定义DataSourceSourceFunctionRichSourceFunction常见连接器第三方系统连接器FileSource连接器DataGenSource连接器KafkaSource连接器RabbitMQSource连接器MongoDBSource连接器概述Flink中的DataSource（数据源、源算子）用于定义数据输入的来源。数据源是Flink作业的起点，它可以从各种数据来源获取数据，例如文件系统、消息队列、数据库等。将数据源添加到Flink执行环境中，从而创建一个数据流。然后