草庐IT

hadoop - Spark 上的错误 'neither present in the group by, nor is it an aggregate function'

关闭。这个问题需要debuggingdetails.它目前不接受答案。编辑问题以包含desiredbehavior,aspecificproblemorerror,andtheshortestcodenecessarytoreproducetheproblem.这将有助于其他人回答问题。关闭5年前。Improvethisquestion表格:id|val|category----------------a1|10|Aa1|30|Ba1|20|Ca2|5|Aa2|7|Ba2|2|Ca3|50|Ca3|60|Ba3|90|A查询:SELECTmax(val),id,categoryFROM

hadoop - 如何将多个文件加载到配置单元中的表中?

有一个目录包含多个待分析的文件,例如file1、file2、file3。我要loaddatainpath'path/to/*'overwriteintotabledemo代替loaddatainpath'path/to/file1'overwriteintotabledemoloaddatainpath'path/to/file2'overwriteintotabledemoloaddatainpath'path/to/file3'overwriteintotabledemo.然而,它就是行不通。有没有更简单的方法来实现这个? 最佳答案

java - MapReduce 计数并求平均值

我想在MapReduce中开发一个程序,它从.tbl文件中获取cust_key和balance值。我已将2个值连接成字符串,然后将其发送到Reducer,因此我将计算cust_key并找到平均余额每个段。这就是为什么我将段添加为键。我想拆分字符串并将2个值分开,以便计算客户键并对余额求和以找到平均值。但是拆分数组[0]给我整个字符串,而不是字符串的第一个值.Alsosplittedarray[1]抛出ArrayoutofBounds异常。我希望它很清楚。代码如下publicclassMapReduceTest{publicstaticclassTokenizerMapperextend

sql - 在配置单元的指定条件下从单行创建多行

我正在尝试执行Null检查。例如:Col_A|Col_B|Col_C|Col_Dnull|boy|null|dust然后我想要输出为:Col_A|Col_B|Col_C|Col_D|New_Colnull|boy|null|dust|Col_Afailednullchecknull|boy|null|dust|Col_Dfailednullcheck执行此操作的正确方法是什么? 最佳答案 selectt.*,concat(elt(e.pos+1,'Col_A','Col_B','Col_C','Col_D'),'failednull

hadoop - 在 HDFS 中创建 zip 表

我试过创建不是这样的zip表。CREATETABLEexample_table(|aBIGINT,bBIGINT,vSTRING,dTINYINT)STOREDASTEXTFILELOCATION/path/to/directory/这不是压缩表。我还想用zip创建新表来获取该表的历史记录。我怎样才能用zip创建1个表? 最佳答案 首先设置下面的属性SEThive.exec.compress.output=true;SETmapred.output.compression.type=BLOCK;setmapred.output.co

hadoop - 在 Pig Latin 中生成计数值

我想找出年龄在19到60岁之间的用户数量。下面是示例查询loadtable=load'/user/userdetails.txt'usingPigStorage(',')AS(name:chararray,age:int);filteredvalues=filterloadtableby(age>19ANDage我收到以下错误“无效的标量投影:已分组:需要从关系中投影列才能将其用作标量” 最佳答案 您必须计算过滤后的值而不是分组。total=foreachgroupedgenerateCOUNT(filteredvalues);

hadoop - HDFS 数据大小和 Hive 数据大小的差异

我在Hive中有一张表。当我运行命令showtblpropertiesmyTableName时,它给出了以下结果:numFiles12numRows1688092rawDataSize934923162totalSize936611254这意味着rawDataSize为934.92MB,totalSize为936.61MB当我运行命令来计算同一表在HDFS表位置上的数据大小时。[user@server1~]$hdfsdfs-du-h-s/apps/hive/warehouse/test.db/myTableName893.2M/apps/hive/warehouse/test.db/m

hadoop - 我如何避免 Hive 表的第一个 "NULL"中的 "Field Name"

首先,我使用以下命令在Hive中创建了表“emp”:createtableemp(idINT,nameSTRING,addressSTRING)ROWFORMATDELIMITEDFIELDSTERMINATEDBY'\t';然后通过以下命令将数据加载到这个“emp”表中:LOADDATALOCALINPATH'\home\cloudera\Desktop\emp.txt'覆盖到表emp;当我从“emp”表中选择数据时:它显示了表Null的第一个字段像这样: 最佳答案 您的文件中有一个标题行,第一个值id无法转换为INT,因此被替换

hadoop - 从 Hive 的列表中查找最大值

我需要从HIVE的列表中找到最大值。例如:如果我有值(value)观[5,4,3]在列表中我需要得到5。max(list_name)无效。有没有解决方法。 最佳答案 你可以看到这个doc在你的情况下,如果你有一个表名example|id|arr||1|[1,2]||2|[3,4]|如果你想得到的结果|id|max_arr||1|2||2|4|试试这个SQLSELECTid,max(arr_val)asmax_arrFROMexampleLATERALVIEWexplode(arr)arrtableASarr_valgroupbyid

hadoop - NiFi 或 Streamsets 从 HBase 读取,加入平面文件中的内容并写入 Hive

试图弄清楚是否可以使用apacheNiFi或Streamsets实现连接。这样我就可以定期从HBase读取数据,与其他表连接并将少量字段写入Hive表。或者有没有其他工作流管理器工具支持这个操作? 最佳答案 我不熟悉Streamsets,但我会尽力帮助NiFi。您的平面文件是静态的吗?如果是这样,您是否希望直接替换值?您应该能够使用ReplaceTextWithMapping处理器。如果不是直接替换,您可以预填充DistributedMapCache使用平面文件中的值,然后使用FetchDistributedMapCache对HBa