草庐IT

exception - 将数据加载到 Hive 时出错

我正在尝试使用以下命令将本地计算机上的csv文件中的数据加载到在Hive上创建的测试数据库LOADDATALOCALINPATH'bdata/tx/TX_2012.csv'INTOTABLEtestdbPARTITION(dt='08-09-2012');但是,我不断收到以下错误:Copyingfile:file:/root/business-data/sc_sd_tn_tx_ut/TX_6_17_2012.csvFailedwithexceptionjava.io.IOException:File/tmp/hive-root/hive_2012-08-09_13-21-49_208_

mysql - 使用 Hive 查询 Sqoop 到 MySQL

我想将Hive表中的数据sqoop到MySQL表中。两者具有相同的列集,但它们的顺序不同。有没有办法使用具有属于mysql表的列顺序的Hive查询将数据sqoop到mysql表? 最佳答案 Sqoop目前不支持Hive查询的“导出”操作。支持的解决方法是运行Hive查询,该查询将更改Hive中的列顺序并将其结果作为临时表存储在Hive中。然后,您可以使用Sqoop导出此临时表。 关于mysql-使用Hive查询Sqoop到MySQL,我们在StackOverflow上找到一个类似的问题:

encryption - Hadoop GPG SerDe

我目前正在做一个需要数据加密的Hadoop项目(因为数据会存储在S3中)。虽然我主要希望通过Hive访问数据,但能够通过Pig和任何其他MapReduce方法访问它会很好。我知道Hadoop内置了对gzip、snappy等压缩编解码器的支持...是否也支持加密编解码器(特别是GPG)?有没有人写过公开可用的GPGSerDe(或类似的东西)? 最佳答案 最后我才知道Hadoop没有对加密的任何内部支持。似乎您可以使用GPG代码重载CompressionCodec,alahttp://www.mail-archive.com/commo

hadoop - Hive 从客户端机器加载数据

我正在尝试编写一个独立的java文件,以在Windows机器中使用HiveJDBC连接到hadoopdb,并从本地csv文件加载表数据。我收到错误“语义分析错误:第1:23行无效路径'd:/Sample2.txt':仅接受"file"或“hdfs”文件系统。我正在尝试的是对还是错?我们可以为hadoopdb从客户端windows机器加载数据吗? 最佳答案 我认为你需要使用类似的东西:file:d:/Sample2.txt 关于hadoop-Hive从客户端机器加载数据,我们在StackO

hadoop - 创建一个使用可以返回列名的 UDF 函数的 hiveQL 查询

我想创建一个HiveUDF函数,该函数根据某些值返回特定的列名,例如retreivecol(age)。如果年龄为20,则返回要在选择查询中使用的列名列表,例如“name,email,fbuserid、friend列表等,如果年龄小于20岁,则单独返回“姓名”。所以我希望我的HIVEQL查询看起来像从User_Data中选择retreivecol(age);上面的查询只打印列的名称,如“name、email、fbuserid、friendslist”等,而不是将它们视为列名称并基于相同的名称进行过滤。感谢任何指针。 最佳答案 我不确定

hadoop - reducer 阶段根本没有启动。它总是 'reducer=0%'

我一直在等待reducer阶段开始,但它没有开始。我试过格式化名称节点,但仍然是同样的问题。无论reducer必须运行在哪里,我都会遇到这个问题。任何人都可以在这方面帮助我。hive>LOADDATALOCALINPATH'/home/training/Desktop/student_performs_CSV.csv'OVERWRITEINTOTABLEstud_marks;Copyingdatafromfile:/home/training/Desktop/student_performs_CSV.csvCopyingfile:file:/home/training/Desktop/

hadoop - Map 任务写入 Hive 临时文件夹时权限被拒绝

我在UbuntuPrecise12.04x64机器上使用ClouderaCDH4.1。我使用ClouderaManager免费版进行了顺利安装(在我自己安装时遇到了一些困难)。但是,我仍然无法让Hive工作。现在我可以向它发出HiveQL命令来创建表,并加载本地数据(示例中的原始表)。但是当我尝试将数据插入另一个表(具有适当的serde和存储的表)时,由于本地文件夹权限而失败。org.apache.hadoop.hive.ql.metadata.HiveException:java.io.IOException:Mkdirsfailedtocreatefile:/home/yaboul

hadoop - hive 。不能在 where 子句中引用分区

我创建了一个按日期分区的表。但是不能在where子句中使用partition。这是过程第一步:CREATETABLEnew_table(astring,bstring)PARTITIONEDBY(dtstring);第二步:Insertoverwritetablenew_tablepartition(dt=$date)Selecta,bfrommy_tablewheredt='$date表已创建。Describenew_table;astringbstringdtstring问题:select*fromnew_tablewheredt='$date'返回空集。鉴于select*from

Hadoop 与 hive

我们想要使用Hadoop开发一个简单的JavaEEWeb应用程序,并进行日志文件分析。以下是开发应用程序的方法。但是我们无法通过该方法。日志文件将使用sftp/ftp从客户端计算机上传到Hadoop服务器。调用HadoopJob获取日志文件并将日志文件处理到HDFS文件系统中。在处理日志文件时,内容将存储到HIVE数据库中。从客户端Web应用程序使用HIVEJDBC连接搜索日志内容我们浏览了如此多的示例以完整填写一些步骤。但是我们没有任何具体的样本不可用。请建议上述方法是否正确,并获取用Java开发的示例应用程序的链接。 最佳答案

hadoop - Hive 与 hbase-0.95.0 的集成

我正在使用Hadoop-1.2.0、HBase-0.95.0-Hadoop1并尝试将Hive-0.11.0集成到其中。Hadoop和HBase正在运行。我能够连接到Hive并在Hive中独立执行语句。但是当我尝试通过Hive在HBase中创建表时,出现以下异常:kanmani@kanmani-VirtualBox:~/hadoop$jps6695HRegionServer2640DataNode7301Jps2969JobTracker6404HMaster3192TaskTracker2861SecondaryNameNode2413NameNode6508Main6368HQuor