草庐IT

HBase-Hive

全部标签

hadoop - Hive 分区表的记录数

我在Hive中有一个名为“transaction”的表,该表分区在一个名为“DS”的列上,该列将包含类似“2018-05-05”的数据,“2018-05-09”、“2018-05-10”等此表是在完成当天的一夜之间填充的。在任何时候,该表都会有前一天的数据当我像这样查询交易表时SELECTCOUNT(*)FROMtrasactionWHEREDS>="currentdate";我明白了0行-这是正确的,因为尚未加载当前和future日期的数据当我运行以下查询时SELECTDISTINCTDSFROMtrasactionWHEREDS>="currentdate";我明白了2018-05

sql - HIVE SQL 将连续范围折叠成单行

考虑表中的以下记录:NAMEIDRATELOCDAYABCD123-5NYC2017-01-01ABCD123-5NYC2017-01-02ABCD123-6SFO2017-01-03ABCD123-6DEN2017-01-04ABCD345-4ATL2017-01-05ABCD345-4WAS2017-01-06ABCD123-7CLT2017-01-07ABCD123-7CLT2017-01-08我想要这样的输出:NAMEIDRATELOCSTARTDAYENDDAYABCD123-5NYC2017-01-012017-01-02ABCD123-6SFO2017-01-032017

hadoop - Hive 只获取一个值的最大出现次数

我有一个包含两列的hive表,我想获取出现次数最多的值例如,在我的下表中,一个值出现了两次,而c只出现了一次,这里的值占主导地位,所以我只想要输出中显示的值col1col2aa_value1aa_value2ac_value3bb_value1输出:col1col2aa_value1bb_value1 最佳答案 您正在寻找统计学家所说的众数。一个非常简单的方法是使用带有窗口函数的聚合:selectcol1,col2from(selectcol1,col2,count(*)ascnt,row_number()over(partitio

database - 在 presto、hive 中查询数组结构

col-1有dep_id(varchar)-112col-2有数组结构[{"emp_id":8291828,"name":"bruce",},{"emp_id":8291823,"name":"Rolli",}]我有一个用例,我需要展平和显示结果。例如,当查询dep_id-112的数据时,我需要在单独的行中显示emp_id。对于上面的数据,查询时我的结果应该是这样的idemp_id11282918281128291823获取数据的查询格式应该是什么? 最佳答案 完成这项工作有几个部分。首先,JSON数据将显示为VARCHAR,因此您

hadoop - 如何对 Hive 中具有不同行的数组中具有相同索引的元素求和

我将通过示例解释我需要在Hive中做什么。我收到两行:像这样的数组的第一行(1,3,6,7)第二行(3,6,7,1)我需要的结果(4,9,13,8)因此,我需要将所有行的所有数组的第一个索引的所有元素加在一起,并与第二个索引相同,依此类推... 最佳答案 基表:hive>selectvaluesfromt1;1,3,6,73,6,7,1按位置展开hive>selectpos,valuefromt1lateralviewposexplode(split(values,","))aaspos,value;0316273101132637

hadoop - HBase 行键范围分配

在为我的HBase表设计行键时,我有两个问题要问如何跨HBase区域分配行键范围?行插入是否影响行键分配?(考虑我们只有两个区域)为了详细说明这个问题,如果我插入以axx、bxx,...,zxx开头的行键,HBase主分配范围作为a-m到一个区域,n-z到另一个区域?在另一种情况下,如果我插入仅以axx和bxx开头的行键,它是否将axx分配给区域一和bxx到另一个? 最佳答案 在现有区域填满之前,HBase中不会发生拆分。因此,如果您设置一个具有2个区域服务器的HBase集群,所有数据最初只会添加到一个区域。当该区域填满时,数据将根

hadoop - 失败 : Execution Error, 在配置单元中的连接操作期间从 org.apache.hadoop.hive.ql.exec.mr.MapredLocalTask​​ 返回代码 2

我正尝试在配置单元中对以下两个表运行连接查询-selectb.locationfromuser_activity_ruleainnerjoinuser_info_rulebwherea.uid=b.uidanda.cancellation=true;QueryID=username_20180530154141_0a187506-7aca-442a-8310-582d335ad78dTotaljobs=1OpenJDK64-BitServerVMwarning:ignoringoptionMaxPermSize=512M;supportwasremovedin8.0Executionl

hadoop - 插入 HIVE 表时转换值

我已经创建了名为emp_bucket的分桶表,分为4个桶,这些桶聚集在salary列上。表的结构如下:hive>describeConsultant_Table_Bucket;OKidintageintgenderstringrolestringsalarydoubleTimetaken:0.069seconds,Fetched:5row(s)我还有一个暂存表,我可以从中将数据插入到上面的分桶表中。以下是暂存表中的示例数据:idageGenderrolesalary-----------------------------------------------------93838Fco

Hadoop集群-重启后Hive无法启动

我有5个节点的hadoop集群正在运行。Hive运行良好,可以创建表、添加数据等。然后尝试重新启动所有5个节点,现在Hive无法启动。使用MySql作为Metastore。可能是什么问题以及如何解决?尝试启动hive时的日志:Exceptioninthread"main"java.lang.RuntimeException:org.apache.hadoop.hive.ql.metadata.HiveException:java.lang.RuntimeException:Unabletoinstantiateorg.apache.hadoop.hive.ql.metadata.Ses

hadoop - 如何使用 Ambari UI 配置分析引擎使用 Hive LLAP?

IAE是否支持HiveLLAP功能?如果是,如何使用AmbariUI启用它?我尝试根据tutorialfromHortonworks启用但我收到错误:$hiveLogginginitializedusingconfigurationinfile:/etc/hive/2.6.5.0-292/0/hive-log4j.propertiesExceptioninthread"main"java.lang.RuntimeException:org.apache.tez.dag.api.TezException:org.apache.hadoop.yarn.exceptions.YarnExce