草庐IT

分组码

全部标签

hadoop - 在 Pig 中过滤分组值

我有一个正在分组的关系。我怎样才能像map一样访问分组值?data=load'log.txt'as(id:chararray,name:chararray);grouped=groupdatabyid;foreachdata{filtered=filtergroupbygroup.id=data.id;};我尝试迭代组并过滤结果包的一种方法。但我的情况是我必须迭代一个外部元组,然后必须从这些结果中从分组值中获取相应的包。我尝试了嵌套的foreach,但出现以下异常,expressionisnotaprojectexpression:(Name:ScalarExpression)Type

java - 在 Hadoop map-reduce 中对连接的数据进行分组

我有两种不同类型的文件,一种是用户列表。它具有以下结构:用户ID、姓名、国家/地区ID第二种是订单列表:OrderID,UserID,OrderSum每个用户都有很多订单。我需要编写map-reducehadoop作业(在java中)并接收具有以下结构的输出:CountryID,NumOfUsers,MinOrder,MaxOrder编写两个不同的映射器(针对每种文件类型)和一个缩减器以便通过UserID连接来自两个文件的数据并接收以下结构对我来说不是问题:UserID,CountryID,UsersMinOrder,UsersMaxOrder但我不明白如何按CountryID对数据进

hadoop - Hive - 按问题分组

我在Hive中基于2个字段(A和B)进行分组。但它并没有为A和B的每个组合显示一个聚合值。它显示多个值,如AB1一个B4等等是不是因为reducer的数量多于1个,如何避免这个问题? 最佳答案 最近我遇到了类似的问题,在我的HQL中,我使用insertoverwritedirectory'$HQL_OUT_PATH'来覆盖输出。但它似乎不稳定导致重复项。你可能清理HQL之前的输出路径,看输出结果是否正确。 关于hadoop-Hive-按问题分组,我们在StackOverflow上找到一个

hadoop - Hive 查询以根据多个可选键分配分组键

我们有一个包含三个不同ID的Hive表,所有ID都是可选的。在每一行中,必须至少提供三个ID中的一个。如果提供了多个ID,这将在多个ID之间建立等价关系。我们需要根据在任何行中建立的等价关系,为每一行分配一个唯一的主ID。例如:Lineid1id2id3masterID--------------------------------------(1)A1M1(2)A2M1(3)A3M1(4)A1A2M1(5)A2A3M1(6)B1A2M1(7)C1C3M2因为在第4行,A1和A2都存在,我们知道这些ID是等价的。同样,在第5行,A2和A3都存在,我们知道这些ID也是等价的。同样在第6行

mysql - 分组并选择最大对 SQL

我有一个包含两列的表格。createtabletxns(personvarchar(255),fruitvarchar(255));这是一个日志表。我有sqlfiddlehere.这是我能够通过sql查询获得的信息。本质上,对于每个人来说,这是他吃过最频繁的水果。我家里有Oracle和MySql。将来,它也会部署在hadoop上(通过Hive/Impala等)。因此,非以数据库为中心的答案将是最好的。但如果只有这样的话,请也提供一个以数据库为中心的答案。 最佳答案 以下查询将在Oracle和MySQL中运行。selectk.pers

hadoop - Apache PIG - 分组依据

我希望在Pig中实现以下功能。我有一组这样的示例记录。请注意,EffectiveDate列有时为空,并且对于同一CustomerID也不同。现在,作为输出,我希望每个CustomerID有一个记录,其中EffectiveDate是最大值。因此,对于上面的示例,我希望记录突出显示如下所示。我目前使用PIG的方式是这样的:customerdata=LOAD'customerdata'AS(CustomerID:chararray,CustomerName:chararray,Age:int,Gender:chararray,EffectiveDate:chararray);--Groupc

如何通过在SQL查询中分离的分离的半隆分组所有值

请帮助如何按照所附图像中显示的数据实现数据突出显示的行实际上在项目编号字段上进行分组提前致谢看答案以下应该有效:SELECTdistinctItemNumber,SUBSTRING((SELECT';'+TotalItem+'x'+ItemNameFROMYourTablewhereItemNumber=c.ItemNumberORDERBYItemNumberFORXMLPATH('')),2,200000)ASNewDescriptionfromYourTablecGO

sql - 从分组查询中删除连接操作

我有一个看起来像这样的表:usr_idquery_ts123452019/05/13 02:061234442019/05/15 04:061234442019/05/16 05:06123452019/05/16 02:06123452019/05/15 02:06它包含一个用户ID,以及他们何时运行查询。表中的每个条目代表该ID在给定时间戳运行1个查询。我正在尝试制作这个:usr_idday_1day_2…day_3012345311315123444234114我想显示每个ID在过去30天内每天运行的查询数量,如果当天没有运行查询,它将是0。这是我提出的查询的一部分,SELECT

sql - 按生成的列分组

我试图按分钟对数据进行分组,所以我尝试了这个查询:SELECTFROM_UNIXTIME(unix_timestamp(time,'yyyy-mm-ddhh:mm:ss'),'yyyy-mm-ddhh:mm')asts,count(*)ascntfromtouchergroupbytslimit10;然后hive告诉我没有这样的列,FAILED:SemanticException[Error10004]:Line1:134Invalidtablealiasorcolumnreference'ts':(possiblecolumnnamesare:time,ip,username,cod

hadoop - 按 pig 中的相同值对数据包进行分组

我创建了以下Pig脚本来过滤提到电影标题的网络文档集合(CommonCrawl)中的句子(来自预定义的电影标题数据文件),对这些句子应用情绪分析并将这些情绪分组电影。register../commoncrawl-examples/lib/*.jar;setmapred.task.timeout=1000;register../commoncrawl-examples/dist/lib/commoncrawl-examples-1.0.1-HM.jar;register../dist/lib/movierankings-1.jarregister../lib/piggybank.jar;