草庐IT

Spark-Hive

全部标签

hadoop - Hive 索引无法重建 - DAG 由于顶点故障而失败

我在HDP2.2上使用Hive14,在Hive上建立索引时遇到问题。我可以创建一个索引。createINDEXix_keyONTABLEDbTest.Tbl_test(TEST_KEY)as'org.apache.hadoop.hive.ql.index.compact.CompactIndexHandler'WITHDEFERREDREBUILD;之后我将数据加载到表中并建立索引。ALTERINDEXix_keyONDbTest.Tbl_testREBUILD;Hive构建了索引,它运行良好,性能得到提升。现在想重建索引,总是报错:INFO:SessionisalreadyopenI

hadoop - 任何人都可以澄清 HIVE 0.14 上的查询吗

我们在我们的应用程序中使用Hive0.14,当执行引擎在MR中时,我们能够更新ORC表,当我们设置执行引擎有TEZ并执行插入/更新/删除时,它会抛出异常“”异常:org.apache.hadoop.hive.ql.lockmgr.LockException:与Metastore通信时出错杀死DAG...java.io.IOException:org.apache.hadoop.hive.ql.lockmgr.LockException:与Metastore通信时出错在org.apache.hadoop.hive.ql.exec.Heartbeater.heartbeat(Heartbe

hadoop - Hive 查询在 Hive 客户端和 JDBC 中的执行方式不同

我通过Hive客户端、Java程序JDBC和直线执行的以下查询。SELECT*FROMTABLE_ONEASt1JOINTABLE_TWOt2ONt2.p_id=t1.p_idANDt2.p_n_id=t1.p_n_idANDt2.d_id=t1.d_idJOINTABLE_THREEt3ONt3.d_m_id=t1.d_m_idANDt3.d_p_id=t1.d_p_idJOINTABLE_FOURt4ONt4.c_id=t1.c_idJOINTABLE_FIVEt5ONt5.a_n_id=t1.a_n_idJOINTABLE_SIXt6ONt6.d_p_p_s_id=t1.d_p_

regex - 具有多行记录的文本文件的 Hive 外部表定义

我需要将此文件解析为一个配置单元表,该表是来自亚马逊的电影评论数据集。我在构建正则表达式以解析.txt文件并创建具有正确列类型的表时遇到问题。.txtproduct/productId:B0001G6PZCreview/userId:A3F3THLLZXURQNreview/profileName:A.Yreview/helpfulness:3/3review/score:4.0review/time:1199664000review/summary:Goodstory,Goodaction.GoodDrama.GoodMoviereview/text:WhenIfirstheardo

hadoop - 在 Crontab 上安排 Hive 查询

任何人都可以帮助我在Crontab中安排一项工作,该工作将在特定时间执行一个简单的Hive查询并以文本/日志文件的形式提供给我输出。我创建了一个批处理脚本来执行选择查询,但在Crontab中执行时出现错误(“未找到Hive命令”)。但是,相同的脚本通过shell运行良好。下面是我的脚本:ip.sh#!/bin/bashecho"StartingofJob"cd/home/hadoop/work/hive/binhive-e'select*frommytest.empl'echo"Scriptendshere"定时任务表:10****/home/hadoop/work/ip.sh>>/h

sql - 如何使用标准查询或使用 UDF 标记一行并将其特定值存储在 Hive 中?

我需要在Hive中编写查询或定义需要执行以下操作的函数:数据集:Student||Time||ComuputerPool-------------------------------------A||9:15AM||Pool1.Machine2-------------------------------------A||9:45AM||Pool1.Machine7-------------------------------------A||10:15AM||Pool1.Machine9-------------------------------------A||11:00AM||

启动Spark-Shell实现词频统计

1.启动spark和Hadoop#根目录下启动Hadoop集群start-all.sh在spark的sbin目录下输入shstart-all.sh2.运行Spark-Shell命令在spark/bin目录下,执行Spark-Shell命令进入Spark-Shell交互式环境spark-shell--master上述命令中,--master表示指定当前连接的Master节点,用于指定Spark的运行模式,下图为master-url可取参数 如需查询Spark-Shell更多的使用方式可以执行“--help”命令 3.运行Spark-Shell读取HDFS文件通过启动Spark-Shell,并且使

json - 如何使用 Json serde 解析 Hive 表的 Json 列?

我正在尝试根据事件名称将反序列化的json事件加载到不同的表中。现在我将所有事件都放在同一个表中,该表只有两列EventName和Payload(有效负载存储事件的json表示形式):CREATETABLEevent(EventNameSTRING,PayloadSTRING)所以基本上我想要的是加载下表中的数据:CREATETABLETempEvent(Column1STRING,Column2STRING,Column3STRING)ROWFORMATSERDE'org.openx.data.jsonserde.JsonSerDe'STOREDASTEXTFILE;然后用类似的东西

hadoop - 如何在配置单元中进行数据库备份?我的意思是 Hive 数据库备份

请任何人建议我如何进行配置单元数据库备份。我们正在使用mapr。问候苏尼尔库马尔 最佳答案 目前,我已经使用Import/Exporthive提供的实用程序对HiveDB进行了备份。它将备份元数据(hive结构信息)和实际数据。EXPORTTABLEtablename[PARTITION(part_column="value"[,...])]TO'export_target_path'[FORreplication('eventid')]IMPORT[[EXTERNAL]TABLEnew_or_original_tablename[

hadoop - Oozie 无法检测 XML 中的 Spark workflow-app 标签

我正在尝试安排每天运行的Oozie作业。在shell中,我正在使用这个命令——ooziejob-oozie$OOZIE_URL-run-verbose\-config$PWD/this_file_is_a_formality.properties\-Doozie.coord.application.path="hdfs:///path/to/file/aggregates_workflow.xml"\-Dstart="$START"\-Dend="$END"(假设所有环境变量都设置正确。)我收到这个错误:错误:E0701:E0701:XML模式错误,cvc-elt.1.a:找不到元素“