草庐IT

java - Hive GenericUDF 错误 - RuntimeException typeInfo 不能为 null

在AmazonEMR、Hive0.11上运行,我正在尝试使用GenericUDF类创建一个简单的UDF。我想用UDF做的是简单地从列中获取一个值,然后将它打印回屏幕。重点是看看我是否可以在构建更复杂的东西之前让这个工作。我编译jar,加载到配置单元中,并创建一个临时函数。addjar..../GenericTest.jar;createtemporaryfunctiongen_testas'GenericTest';当我使用错误数量的参数运行该函数时,我得到了预期的错误:SemanticException[Error10015]:Line1:13Argumentslengthmisma

hadoop - Hive 索引无法重建 - DAG 由于顶点故障而失败

我在HDP2.2上使用Hive14,在Hive上建立索引时遇到问题。我可以创建一个索引。createINDEXix_keyONTABLEDbTest.Tbl_test(TEST_KEY)as'org.apache.hadoop.hive.ql.index.compact.CompactIndexHandler'WITHDEFERREDREBUILD;之后我将数据加载到表中并建立索引。ALTERINDEXix_keyONDbTest.Tbl_testREBUILD;Hive构建了索引,它运行良好,性能得到提升。现在想重建索引,总是报错:INFO:SessionisalreadyopenI

hadoop - 任何人都可以澄清 HIVE 0.14 上的查询吗

我们在我们的应用程序中使用Hive0.14,当执行引擎在MR中时,我们能够更新ORC表,当我们设置执行引擎有TEZ并执行插入/更新/删除时,它会抛出异常“”异常:org.apache.hadoop.hive.ql.lockmgr.LockException:与Metastore通信时出错杀死DAG...java.io.IOException:org.apache.hadoop.hive.ql.lockmgr.LockException:与Metastore通信时出错在org.apache.hadoop.hive.ql.exec.Heartbeater.heartbeat(Heartbe

hadoop - Hive 查询在 Hive 客户端和 JDBC 中的执行方式不同

我通过Hive客户端、Java程序JDBC和直线执行的以下查询。SELECT*FROMTABLE_ONEASt1JOINTABLE_TWOt2ONt2.p_id=t1.p_idANDt2.p_n_id=t1.p_n_idANDt2.d_id=t1.d_idJOINTABLE_THREEt3ONt3.d_m_id=t1.d_m_idANDt3.d_p_id=t1.d_p_idJOINTABLE_FOURt4ONt4.c_id=t1.c_idJOINTABLE_FIVEt5ONt5.a_n_id=t1.a_n_idJOINTABLE_SIXt6ONt6.d_p_p_s_id=t1.d_p_

regex - 具有多行记录的文本文件的 Hive 外部表定义

我需要将此文件解析为一个配置单元表,该表是来自亚马逊的电影评论数据集。我在构建正则表达式以解析.txt文件并创建具有正确列类型的表时遇到问题。.txtproduct/productId:B0001G6PZCreview/userId:A3F3THLLZXURQNreview/profileName:A.Yreview/helpfulness:3/3review/score:4.0review/time:1199664000review/summary:Goodstory,Goodaction.GoodDrama.GoodMoviereview/text:WhenIfirstheardo

hadoop - 在 Crontab 上安排 Hive 查询

任何人都可以帮助我在Crontab中安排一项工作,该工作将在特定时间执行一个简单的Hive查询并以文本/日志文件的形式提供给我输出。我创建了一个批处理脚本来执行选择查询,但在Crontab中执行时出现错误(“未找到Hive命令”)。但是,相同的脚本通过shell运行良好。下面是我的脚本:ip.sh#!/bin/bashecho"StartingofJob"cd/home/hadoop/work/hive/binhive-e'select*frommytest.empl'echo"Scriptendshere"定时任务表:10****/home/hadoop/work/ip.sh>>/h

sql - 如何使用标准查询或使用 UDF 标记一行并将其特定值存储在 Hive 中?

我需要在Hive中编写查询或定义需要执行以下操作的函数:数据集:Student||Time||ComuputerPool-------------------------------------A||9:15AM||Pool1.Machine2-------------------------------------A||9:45AM||Pool1.Machine7-------------------------------------A||10:15AM||Pool1.Machine9-------------------------------------A||11:00AM||

json - 如何使用 Json serde 解析 Hive 表的 Json 列?

我正在尝试根据事件名称将反序列化的json事件加载到不同的表中。现在我将所有事件都放在同一个表中,该表只有两列EventName和Payload(有效负载存储事件的json表示形式):CREATETABLEevent(EventNameSTRING,PayloadSTRING)所以基本上我想要的是加载下表中的数据:CREATETABLETempEvent(Column1STRING,Column2STRING,Column3STRING)ROWFORMATSERDE'org.openx.data.jsonserde.JsonSerDe'STOREDASTEXTFILE;然后用类似的东西

hadoop - 如何在配置单元中进行数据库备份?我的意思是 Hive 数据库备份

请任何人建议我如何进行配置单元数据库备份。我们正在使用mapr。问候苏尼尔库马尔 最佳答案 目前,我已经使用Import/Exporthive提供的实用程序对HiveDB进行了备份。它将备份元数据(hive结构信息)和实际数据。EXPORTTABLEtablename[PARTITION(part_column="value"[,...])]TO'export_target_path'[FORreplication('eventid')]IMPORT[[EXTERNAL]TABLEnew_or_original_tablename[

hadoop - 带有子查询的查询的 Hive JOIN 需要永远

最近我一直在玩Hive。大多数事情都进展顺利,但是,当我尝试转换类似2015-04-01device1trafficotherstart2015-04-01device1trafficviolationdeny2015-04-01device1trafficviolationdeny2015-04-02device1trafficotherstart2015-04-03device1trafficotherstart2015-04-03device1trafficotherstart进入2015-04-01122015-04-0212015-04-032我尝试使用以下查询,但出于某种原