草庐IT

csv - 如何创建具有多个 hdfs 文件的 Hive 表

所以基本上我想创建一个包含csv文件的表我试过这样的事情,其中​​文件名彼此仅相差最后两位:CREATEEXTERNALTABLEpageviews(page_datestring,sitestring)ROWFORMATDELIMITEDFIELDSTERMINATEDBY';'LINESTERMINATEDBY'\n'STOREDASTEXTFILELOCATION'/user/hue/201401/pageviews/supersite_1046_201401**.csv';对我来说,这个语法看起来不错,但是当我执行它时,我得到以下信息:Erroroccurredexecutin

sql - sqoop如何在向hive导入数据时自动修剪db2中的一些char类型的列?

我有一个很大的db2表,其中包含许多char类型的列。我尝试通过sqoop将数据提取到hive中以满足不同的需求。以前写Hivesql的时候都是手动把char类型的colums全部剪掉但是,有太多的列需要修剪,以至于我总是忘记其中的一些,这可能会导致一些困惑的问题,如下所示:假设BANK_TABLE是hive的目标表,2323423232323是表中已经存在的卡号。如果我执行:hive-e"select*fromBANK_TABLEwherecard_no='2323423232323'"结果是什么都没有,因为我在写sql导入数据到hive的时候忘记修剪了column:card_no所

java - Hadoop的Hive/Pig、HDFS和MapReduce的关系

我对ApacheHive的理解是它是一个类似SQL的工具层,用于查询Hadoop集群。我的理解ApachePig是它是一种用于查询Hadoop集群的过程语言。因此,如果我的理解是正确的,Hive和Pig似乎是解决同一问题的两种不同方法。但是,我的问题是,我不理解他们首先要解决的问题!假设我们有一个DB(关系型、NoSQL,无关紧要)将数据馈送到HDFS,以便可以针对该输入数据运行特定的MapReduce作业:我对Hive/Pig正在查询的系统感到困惑!他们在查询数据库吗?他们是否查询存储在HDFS上DataNode中的原始输入数据?他们是否正在运行一些临时的、即时的MR作业并报告他们的

java - Hive 添加文件/jar 说不存在

所以我想尝试使用HiveMAP和REDUCE自定义mapperreducer查询。我已经编写自定义映射器和缩减器并将其导出到jar文件,并尝试从HiveCLI添加它。无论我在哪里复制jar,我都会收到“不存在”错误。我尝试了以下方法。我将文件复制到/usr/local/hive/lib/、/usr/local/hive/conf/和/tmp/然后在hdfs中我也将它复制到/、/user/hive/和/user/hive/仓库/我尝试提供完整路径然后我得到URL语法异常hive>addjar'hdfs://srimanthpc:9000/SpaceTravel.jar';Illegalc

hadoop - Mahout Hive 集成

我想将基于Hadoop的Mahout推荐系统与ApacheHive相结合。这样我生成的推荐将直接存储到我的Hive表中。有人知道这方面的类似教程吗? 最佳答案 基于Hadoop的Mahout推荐器可以将结果直接存储在HDFS中。Hive还允许您使用CREATEEXTERNALTABLErecommend_table在任何数据之上创建表模式它还指定了数据的位置(LOCATION'/home/admin/userdata';)。这样您就可以确保在将新数据写入该位置时-/home/admin/userdata那么它已经对Hive可用并且可

hadoop - Hive:创建表和分区依据

我有一个加载数据的表,如下所示:createtablexyzlogTable(dateCstring,hoursstring,minutesstring,secondsstring,TimeTakenstring,Methodstring,UriQuerystring,ProtocolStatusstring)rowformatserde'org.apache.hadoop.hive.contrib.serde2.RegexSerDe'withserdeproperties("input.regex"="(\\S+)\\t(\\d+):(\\d+):(\\d+)\\t(\\S+)\\t

hadoop - 我如何使用 Hive 截断 url

如何使用Hive脚本截断域“com”旁边的以下URL。即你只tube.comhttp://www.youtube.com/video/AiL6nLhttp://www.yahoo.com/video/Hhj9B2http://www.youtube.com/video/MpVHQhttp://www.google.com/video/PGuTNhttp://www.youtube.com/video/VU34MI可以这样截断吗? 最佳答案 尝试从mytable中选择split(url,'/')[0]mytable是您的表格,url是

sql - Hive SQL 编码风格 : intermediate tables?

我应该在配置单元中创建和删除中间表吗?我可以写类似的东西(大大简化):droptableifexiststmp1;createtabletmp1asselecta,b,cfrominput1wherea>1andb或者我可以将所有内容汇总到一个语句中:droptableifexistsoutput;createtableoutputasselectx,a,count(*)ascountfrom(selecta,b,cfrominput1wherea>1andb显然,如果我多次重复使用中间表,那么创建它们就很有意义了。但是,当它们只使用一次时,我有一个选择。两个我都试过了,第二个是6%快

hadoop - 如何使用 sqoop 在 Hive 中创建外部表。需要建议

使用sqoop我可以创建托管表但不能创建外部表。请告诉我从数据仓库卸载数据并将其加载到Hive外部表的最佳实践是什么。1.仓库中的表是分区的。有些按日期分区,有些按状态分区。请将您的想法或实践用于生产环境。 最佳答案 Sqoop不支持创建Hive外部表。相反,您可能会:使用Sqoopcodegen命令生成用于创建与您的远程RDBMS表匹配的Hive内部表的SQL(参见http://sqoop.apache.org/docs/1.4.2/SqoopUserGuide.html#_literal_sqoop_codegen_litera

json - 如何使用 Hive (get_json_object) 查询结构数组?

我将以下JSON对象存储在Hive表中:{"main_id":"qwert","features":[{"scope":"scope1","name":"foo","value":"ab12345","age":50,"somelist":["abcde","fghij"]},{"scope":"scope2","name":"bar","value":"cd67890"},{"scope":"scope3","name":"baz","value":["A","B","C"]}]}“features”是一个长度可变的数组,即所有对象都是可选的。对象具有任意元素,但它们都包含“范围”、