文章目录安装JDK+配置环境变量1.卸载已安装的JDK查询已安装的jdk列表删除已经安装的jdk2.上传安装包3.创建/usr/local/java文件夹4.将jdk压缩包解压到/usr/local/java目录下5.配置jdk的环境变量6.让配置文件生效7.校验8.拍个快照吧，免得后面哪里错了还得全部重来安装Hadoop1.将hadoop-2.7.7.tar.gz安装包通过xftp传到CentOS7上2.创建/hadoop文件夹3.将hadoop压缩包解压到/haddop的目录下4.配置hadoop环境变量在/etc/profile文件的尾部添加以下内容：使配置文件生效5.测试是否安装成功安

Hadoop：是一个分布式计算的开源框架HDFS：是Hadoop的三大核心组件之一Hive：用户处理存储在HDFS中的数据，hive的意义就是把好写的hive的sql转换为复杂难写的map-reduce程序Hbase：是一款基于HDFS的数据库，是一种NoSQL数据库，主要适用于海量明细数据（十亿、百亿）的随机实时查询，如日志明细、交易清单、轨迹行为等Hive与HBase的区别与联系1、区别Hive：Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供简单的sql查询功能。Hive本身不存储和计算数据，它完全依赖于HDFS和MapReduce，Hive

【Apache-StreamPark】Flink开发利器StreamPark的介绍、安装、使用1）框架介绍与引入1.1.🚀什么是StreamPark1.2.🎉Features1.3.🏳‍🌈组成部分1.4.引入StreamPark2）安装部署2.1.环境要求2.2.Hadoop2.3.Kubernetes2.4.安装2.5.启动2.6.系统登录2.7.系统配置2.7.1.SystemSetting2.7.2.AlertSetting2.7.3.FlinkHome2.7.4.FlinkCluster3）StreamPark使用1）框架介绍与引入1.1.🚀什么是StreamPark1.2.🎉Feat

Flinkcheckpoint操作流程详解与报错调试方法汇总，增量checkpoint原理及版本更新变化，作业恢复和扩缩容原理与优化flinkcheckpint出错类型flink重启策略Checkpint流程简介增量Checkpoint实现原理MemoryStateBackend原理FsStateBackend原理RocksDBStateBackend原理RocksDBStateBackend增量更新Checkpoint异常情况排查CheckpointDecline：CheckpointExpire：SourceTrigger慢State非常大数据倾斜或有反压的情况反压问题处理：barrier

北京邮电大学世纪学院毕业设计（论文）开题报告      题  目       基于深度学习的微博舆情分析及预测系统                                   学生姓名                    学   号                 专业名称                    年   级    2020级     指导教师       邓玉洁      职   称    副教授      所在系（院）           计算机科学与技术                                2023  年12 月11 日说      明1

Flink入门系列文章主要是为了给想学习Flink的你建立一个大体上的框架，助力快速上手Flink。学习Flink最有效的方式是先入门了解框架和概念，然后边写代码边实践，然后再把官网看一遍。Flink入门分为四篇，第一篇是《了解Flink》，第二篇《架构和原理》，第三篇是《DataStream》，第四篇是《TableApi&SQL》。官网地址https://nightlies.apache.org/flink/flink-docs-release-1.15/zh/。1、友情提示前期入门Flink时，可以直接编写通过idea编写Flink程序，然后直接运行main方法，无需搭建环境。我碰到许多初

在大数据时代，实时数据同步已经有很多地方应用，包括从在线数据库构建实时数据仓库，跨区域数据复制。行业落地场景众多，例如，电商GMV数据实时统计，用户行为分析，广告投放效果实时追踪，社交媒体舆情分析，跨区域用户管理。亚马逊云科技提供了从数据库到分析，以及机器学习的全流程方案。有几种数据同步方式可以考虑：AmazonZero-ETLETL是将业务系统的数据经过提取（Extract）、转换清洗（Transform）和加载（Load）到数据仓库、大数据平台的过程。借助Zero-ETL，数据库本身集成ETL到数据仓库的功能，减少在不同服务间手动迁移或转换数据的工作。AmazonDatabaseMigra

前言有个现实的需求，数据量可能在100亿条左右。现有的数据库是SQLServer，随着采集的数据不断的填充，查询的效率越来越慢（现有的SQLServer查询已经需要数十秒钟的时间），看看有没有优化的方案。考虑过SQLServer加索引、分区表、分库分表等方案，但数据量增长太快，还是很快就会遇到瓶颈，因此需要更优化的技术。在众多的NOSQL和大数据技术之下，针对此场景，主要考虑了两种方案：MongoDB：json文档型数据库，可以通过集群拓展。但更适合列比较复杂的场景快速查询。Hadoop：大数据领域的瑞士军刀，周边有很多相配套的工具可以使用，后期拓展性较强。因为此需求只是简单的根据编码找到对应

这是继第一节之后的Flink入门系列的第二篇，本篇主要内容是是：了解Flink运行模式、Flink调度原理、Flink分区、Flink安装。1、运行模式Flink有多种运行模式，可以运行在一台机器上，称为本地（单机）模式；也可以使用YARN作为底层资源调度系统以分布式的方式在集群中运行，称为FlinkOnYARN模式；还可以使用Flink自带的资源调度系统，不依赖其他系统，称为FlinkStandalone模式。还有将Flink部署到Kubernetes的模式，称为FlinkOnKubernetes模式。1.1、单机（本地）模式直接下载jar包后启动。1.2、FlinkStandalone模式

1、pom依赖.compiler.source>8/maven.compiler.source>.compiler.target>8/maven.compiler.target>.version>1.13.6/flink.version>.binary.version>2.12/scala.binary.version>/properties>!--ApacheFlink的依赖,这些依赖项，生产环境可以不打包到JAR文件中.-->org.apache.flink/groupId>flink-java/artifactId>${flink.version}/version>/dependency