目录目录分桶表函数空字符段赋值函数CASEWHENTHENELSEEND多列变一列一行变多行窗口函数（开窗函数）自定义函数压缩和存储文件存储格式 离线数仓教育项目项目的架构项目架构中:数据流转的流程注意事项数据仓库的基本概念维度分析指标与维度维度分层与分级数仓建模事实表和维度表分类维度建模的三种模型分桶表分区提供一个隔离数据和优化查询的便利方式，分区字段是放在目录中及在MySQL元数据当中，在查询时直接where子句可以首先从元数据中定位到具体分区的目录，避免全表查询。分桶是将同一个目录下的数据分成多个文件，分桶针对的是数据文件分区表：分区字段不是表中的字段分桶表：分桶字段必须是表中字段建表语
sethive.compute.query.using.stats=false;是Hive的一个配置选项。它的含义是禁用Hive在执行查询时使用统计信息。在Hive中，统计信息用于优化查询计划和执行。当该选项设置为false时，Hive将不会使用任何统计信息来帮助决定查询的执行计划。这可能会导致查询的执行效率下降，尤其是在处理大型数据集时。禁用统计信息的主要原因是统计信息可能不准确或过时，或者在某些情况下，使用统计信息并不会带来明显的性能提升。因此，禁用统计信息可以使查询的执行计划更加稳定，而不会受到统计信息本身的影响。但需要注意的是，禁用统计信息可能会导致查询的性能下降。如果你发现查询的执行
目录引言迁移背景迁移方案设计迁移成果总结引言把基于mapreduce的离线hiveSQL任务迁移到sparkSQL，不但能大幅缩短任务运行时间，还能节省不少计算资源。最近我们也把组内2000左右的hivesql任务迁移到了sparkSQL，这里做个简单的记录和分享，本文偏重于具体条件下的方案选择。迁移背景SQL任务运行慢HiveSQL处理任务虽然较为稳定，但是其时效性已经达瓶颈，无法再进一步提升，同一个SQL，Hive比Spark执行的时间更长。SparkSQL的发展远超HSQL随着 Spark以及其社区的不断发展，SparkSQL 本身技术也在不断成熟，Spark在技术架构和性能上都展示出H
文章目录一、部署环境安装说明1.HBASE和JDK版本对应关系2.HBASE和Hadoop版本对应关系3.预先声明二、配置Hadoop安装环境2.1.设置免密2.2.配置环境变量2.3.配置Hadoop相关文件2.4.验证三、安装HBASE3.1.解压3.2.配置环境变量3.3.修改配置一、部署环境安装说明名称版本腾讯云centos7.xjdk1.8Hadoop3.1.1HBASE2.0.61.HBASE和JDK版本对应关系HBASE官网：https://hbase.apache.org/HBASE官方指南：https://hbase.apache.org/book.htmlHBASE和JDK
目前计算Hive月份差值有多种方法，下面介绍两种方法进行计算，各有优缺点一个常见的方法是首先将日期转换为Unix时间戳（如果它们还不是的话），然后通过计算时间戳之间的差值，并将这个差值转换为月份。然而，这种方法并不总是准确的，因为它假设每个月都有相同的天数（30或31天），而实际上不同月份的天数是不同的。SELECTmonths_between(end_date,start_date)ASmonths_diffFROMyour_table;所以上面的代码输出后的数值是有小数点的，还需要进行转换下面我们介绍第二种计算方法，使用HiveQL中的 YEAR() 和 MONTH() 函数来分别提取日期
文章目录一.HiveArchitecture二.Metastore1.MetastoreArchitecture2.MetastoreInterface三.Compiler四.hive架构小结本文主要讨论了描述了hive架构，hive主要组件的作用详细描述了hsql在hive执行过程中的底层细节描述了hive各组件作用一.HiveArchitecture架构图：如上图表达了hive的主要组件和以及与hadoop的交互：主要的hive组件：UI：用户提交接口，用于用户提交查询和其他操作等。Driver：接收查询的组件。该组件实现了会话句柄（ing），并提供基于JDBC/ODBC接口的execut
文章目录Hive集成表引擎创建表使用示例如何使用HDFS文件系统的本地缓存查询ORC输入格式的Hive表在Hive中建表在ClickHouse中建表查询Parquest输入格式的Hive表在Hive中建表在ClickHouse中建表查询文本输入格式的Hive表在Hive中建表在ClickHouse中建表资料分享参考文章Hive集成表引擎Hive引擎允许对HDFSHive表执行SELECT查询。目前它支持如下输入格式:-文本:只支持简单的标量列类型，除了BinaryORC:支持简单的标量列类型，除了char;只支持array这样的复杂类型Parquet:支持所有简单标量列类型;只支持array这
首先，如果想要在hive3.1.3上使用spark3.0.0，不可避免地要重新编译hive如果只是配置了hive-site.xml和spark-defaults.conf，那么在插入测试的时候会报如下错误：FAILED:ExecutionError,returncode3fromorg.apache.hadoop.hive.ql.exec.spark.SparkTask.Sparkjobfailedduringruntime.Pleasecheckstacktracefortherootcause.1.下载hive源码包把hive3.1.3的源码包下载到本地，目的是可以用intellij打开，
文章目录1Kafka1.1Kerberos安全模式的认证与环境准备1.2创建一个测试主题1.3消费主题的接收测试2Flink1.1Kerberos安全模式的认证与环境准备1.2Flink任务的开发3HDFS与Hive3.1Shell脚本的编写思路3.2脚本测试方法4DolphinScheduler该需求为实时接收对手Topic，并进行消费落盘至Hive。在具体的实施中，基于华为MRS3.2.0安全模式带kerberos认证的Kafka2.4、Flink1.15、Hadoop3.3.1、Hive3.1，调度平台为开源dolphinscheduler。本需求的完成全部参考华为官方MRS3.2.0开
一分区表1概念：分区表实际上就是对应一个HDFS文件系统上的独立的文件夹，该文件夹下是该分区所有的数据文件。Hive中的分区就是分目录，把一个大的数据集根据业务需要分割成小的数据集。在查询时通过WHERE子句中的表达式选择查询所需要的指定的分区，这样的查询效率会提高很多。2案例演示1创建分区表语法hive(default)>createtabledept_par(deptnoint,dnamestring,locstring)partitionedby(daystring)rowformatdelimitedfieldsterminatedby'\t';注意：分区字段不能是表中已经存在的数据，
