草庐IT

group-stack

全部标签

hadoop - pig : Pulling individual fields out after a GROUP

在PigLatin中,我想从要选择的记录中提取其他字段,因为有聚合,例如MAX。我无法解释这个问题,所以这里有一个例子。假设我想获取家中最年长者的姓名:关系A是四列,(name,address,zipcode,age)B=GROUPABY(address,zipcode);#groupbytheaddress#generatetheaddress,theperson'sage,buthowdoIgrabthatperson'sname?C=FOREACHBGENERATEFLATTEN(group),MAX(age),???Name???;如何生成年龄为MAX的人的姓名?

hadoop - 如何找出Hadoop用户的 'group'名称?

用户rok上传了文件并将权限设置为770。HDFS上的文件如下所示:-rw-rw----3rokhdfsfilename1我正在使用ksc用户来使用rok用户上传的数据。所以首先,我想确保ksc拥有该文件filename1的权限。如何找到我的用户ksc的组名?用户是否属于Hadoop中的hdfs组?顺便说一句,如果我将文件上传到Hadoop,文件权限如下所示:-rw-r--r--3ksckscfilename2ksc用户在我的Linux上的本地信息是:uid=504(ksc)gid=502(ksc)groups=502(ksc) 最佳答案

scala - Spark : grouping rows in array by key

我有一个像这样的spark数据集:keyidval1val2val31aa1a2a32aa4a5a63bb1b2b34bb4b5b65bb7b8b96cc1c2c3我想像这样在列表或数组中按id对所有行进行分组:(a,([1aa1a2a3],[2aa4a5a6])),(b,([3bb1b2b3],[4bb4b5b6],[5bb7b8b9])),(c,([6cc1c2c3]))我已经使用map输出具有正确键的键/值对,但我在构建最终键/数组时遇到了麻烦。有人可以帮忙吗? 最佳答案 这个怎么样:importorg.apache.spar

scala - Spark 数据帧 : Pivot and Group based on columns

我有如下输入数据框,其中包含id、app和customer输入数据框+--------------------+-----+---------+|id|app|customer|+--------------------+-----+---------+|id1|fw|WM||id1|fw|CS||id2|fw|CS||id1|fe|WM||id3|bc|TR||id3|bc|WM|+--------------------+-----+---------+预期输出使用pivot和聚合-将应用值作为列名并将聚合的客户名称作为数据框中的列表预期的数据帧+-----------------

mysql - sql group by 与 distinct

当查询中没有进行聚合时,为什么有人会使用groupby而不是distinct?此外,是否有人通过MySQL和SQLServer中的不同性能考虑来了解该组。我猜SQLServer有一个更好的优化器,它们可能与那里相当,但在MySQL中,我预计会有明显的性能优势。我对dba的答案很感兴趣。编辑:Bill的帖子很有趣,但不适用。让我更具体一点...selecta,b,cfromtablexgroupbya,b,c对selectdistincta,b,cfromtablex 最佳答案 GROUPBY将行组映射到一行,根据特定列中的不同值,这

mysql - sql group by 与 distinct

当查询中没有进行聚合时,为什么有人会使用groupby而不是distinct?此外,是否有人通过MySQL和SQLServer中的不同性能考虑来了解该组。我猜SQLServer有一个更好的优化器,它们可能与那里相当,但在MySQL中,我预计会有明显的性能优势。我对dba的答案很感兴趣。编辑:Bill的帖子很有趣,但不适用。让我更具体一点...selecta,b,cfromtablexgroupbya,b,c对selectdistincta,b,cfromtablex 最佳答案 GROUPBY将行组映射到一行,根据特定列中的不同值,这

mysql - 一起使用 ORDER BY 和 GROUP BY

我的表看起来像这样(我正在使用MySQL):m_id|v_id|timestamp------------------------6|1|133363531734|1|133363532334|1|13336353366|1|13336353436|1|1333635349我的目标是对每个m_id取一次,并按最高时间戳排序。结果应该是:m_id|v_id|timestamp------------------------6|1|133363534934|1|1333635336我写了这个查询:SELECT*FROMtableGROUPBYm_idORDERBYtimestampDESC

mysql - 一起使用 ORDER BY 和 GROUP BY

我的表看起来像这样(我正在使用MySQL):m_id|v_id|timestamp------------------------6|1|133363531734|1|133363532334|1|13336353366|1|13336353436|1|1333635349我的目标是对每个m_id取一次,并按最高时间戳排序。结果应该是:m_id|v_id|timestamp------------------------6|1|133363534934|1|1333635336我写了这个查询:SELECT*FROMtableGROUPBYm_idORDERBYtimestampDESC

hadoop - PIG中的GROUP和COGROUP有什么区别?

我知道Group不能处理多个元组,因此我们在PIG中有COGROUP。但是,今天检查时,GROUP命令对我有用。我正在使用PIG-0.12.0。我的命令和输出如下。grunt>grpvar=GROUPCby$2,Bby$2;grunt>cogrpvar=COGROUPCby$2,Bby$2;grunt>describegrpvar;grpvar:{group:chararray,C:{(pid:int,pname:chararray,drug:chararray,gender:chararray,tot_amt:int)},B:{(pid:int,pname:chararray,dru

mongodb - MapReduce 和 SQL GROUP BY

我一直在尝试了解MongoDB中MapReduce的基础知识,甚至在实现它之后,我也不确定它与SQL的GROUPBY甚至Mongo自己的GROUPBY究竟有何不同。在SQLServer中,可以通过流或哈希聚合来完成GROUPBY。MapReduce不是类似于哈希聚合,只是在大量的服务器之上吗?我在一些地方读到MRforMongoDB将作为后台进程运行,因为它是一个“繁重的操作”。鉴于数据是分片的,GROUPBY不会同样“重”吗?也就是说,我只是想比较那些可以作为MR作业或使用GROUPBY查询来实现的操作类型。有没有什么GROUPBY做不到,只有MR可以做的?此外,Hadoop似乎非常