草庐IT

hive-overwrite

全部标签

hadoop - 如何对 Hive 中具有不同行的数组中具有相同索引的元素求和

我将通过示例解释我需要在Hive中做什么。我收到两行:像这样的数组的第一行(1,3,6,7)第二行(3,6,7,1)我需要的结果(4,9,13,8)因此,我需要将所有行的所有数组的第一个索引的所有元素加在一起,并与第二个索引相同,依此类推... 最佳答案 基表:hive>selectvaluesfromt1;1,3,6,73,6,7,1按位置展开hive>selectpos,valuefromt1lateralviewposexplode(split(values,","))aaspos,value;0316273101132637

hadoop - 失败 : Execution Error, 在配置单元中的连接操作期间从 org.apache.hadoop.hive.ql.exec.mr.MapredLocalTask​​ 返回代码 2

我正尝试在配置单元中对以下两个表运行连接查询-selectb.locationfromuser_activity_ruleainnerjoinuser_info_rulebwherea.uid=b.uidanda.cancellation=true;QueryID=username_20180530154141_0a187506-7aca-442a-8310-582d335ad78dTotaljobs=1OpenJDK64-BitServerVMwarning:ignoringoptionMaxPermSize=512M;supportwasremovedin8.0Executionl

hadoop - 插入 HIVE 表时转换值

我已经创建了名为emp_bucket的分桶表,分为4个桶,这些桶聚集在salary列上。表的结构如下:hive>describeConsultant_Table_Bucket;OKidintageintgenderstringrolestringsalarydoubleTimetaken:0.069seconds,Fetched:5row(s)我还有一个暂存表,我可以从中将数据插入到上面的分桶表中。以下是暂存表中的示例数据:idageGenderrolesalary-----------------------------------------------------93838Fco

Hadoop集群-重启后Hive无法启动

我有5个节点的hadoop集群正在运行。Hive运行良好,可以创建表、添加数据等。然后尝试重新启动所有5个节点,现在Hive无法启动。使用MySql作为Metastore。可能是什么问题以及如何解决?尝试启动hive时的日志:Exceptioninthread"main"java.lang.RuntimeException:org.apache.hadoop.hive.ql.metadata.HiveException:java.lang.RuntimeException:Unabletoinstantiateorg.apache.hadoop.hive.ql.metadata.Ses

hadoop - 如何使用 Ambari UI 配置分析引擎使用 Hive LLAP?

IAE是否支持HiveLLAP功能?如果是,如何使用AmbariUI启用它?我尝试根据tutorialfromHortonworks启用但我收到错误:$hiveLogginginitializedusingconfigurationinfile:/etc/hive/2.6.5.0-292/0/hive-log4j.propertiesExceptioninthread"main"java.lang.RuntimeException:org.apache.tez.dag.api.TezException:org.apache.hadoop.yarn.exceptions.YarnExce

hadoop - 如何将 mapreduce 结果加载到 Hive 中?

我有一个目录,我在其中存储格式为“(integer1,integer2,integer3)”的mapreduce结果,我想将该数据加载到ApacheHive中。首先我创建这样的表:创建表测试(field1int,field2int,field3int);后来我尝试以这种方式加载数据:将路径'/user/myuser/output/test'中的数据加载到表test中;路径没问题,表格加载了好几行,但都是空的(3个字段为NULL)。我该如何解决? 最佳答案 轻松修复。在你的MR程序中按照以下格式写入数据integer1,integer

sql - 在 Hive 的 LOCATION 字段中明确指定之前,不会创建数据库目录

我使用以下查询在我的首选位置(/user/hive/)创建了一个数据库。createdatabasetestlocation"/user/hive/";创建数据库后,我使用命令hadoopdfs-ls/user/在位置/user/hive/中检查了test.db目录hive。它不可用。后来我使用下面的查询创建了一个默认位置的数据库。createdatabasetest2;对于数据库test2,可以在默认仓库目录/user/hive/warehouse/下看到test2.db目录/user/hive/test.db目录是在我在LOCATION文件中明确指定它时创建的,如下所示。creat

hadoop - 如何创建 hive 仓库目录?

我已经安装了hadoop和hive。我正在尝试按如下方式配置配置单元:hadoopfs-mkdir/data/hive/warehouse我一直收到这个错误:mkdir:'/data/hive/warehouse':Nosuchfileordirectory在发出hadoopfs命令之前,我是否需要使用os命令创建目录?有什么想法吗? 最佳答案 您缺少类似于UNIX/Linux的-p选项。$hadoopfs-mkdir-p/data/hive/warehouse此外,如果您为多个用户设置此目录,您还应该chmod1777这个目录,如

hadoop - 既然 HDFS 已经提供了数据存储,为什么还要 Hive?

我已经开始学习Hadoop。我知道HDFS提供分布式存储系统,而Mapreduce用于数据处理。现在我正在阅读Hadoop生态系统。从Hive的定义来看,它是一个建立在hadoop之上,提供类SQL接口(interface)的数据仓库。我的问题是当hadoop提供容错的分布式HDFS时,为什么要配置单元?Hive会取代HDFS吗?hive是只提供sql接口(interface)还是也提供存储? 最佳答案 Hive不会取代HDFS。Hive为存储在HDFS中的数据提供了sql类型的接口(interface)。它主要用于查询和分析存储的

hadoop - Hive转HBase的问题

我看到一个外部Hive表存储了HBase的数据:CREATEEXTERNALTABLEIFNOTEXISTSods.demo_table(rowkeyStringCOMMENT'rowkeyofhbase',....)STOREDBY'org.apache.hadoop.hive.hbase.HBaseStorageHandler'WITHSERDEPROPERTIES("hbase.columns.mapping"="info:...")TBLPROPERTIES("hbase.table.name"="...","hbase.mapred.output.outputtable"="