草庐IT

method-group

全部标签

scala - Spark 数据帧 : Pivot and Group based on columns

我有如下输入数据框,其中包含id、app和customer输入数据框+--------------------+-----+---------+|id|app|customer|+--------------------+-----+---------+|id1|fw|WM||id1|fw|CS||id2|fw|CS||id1|fe|WM||id3|bc|TR||id3|bc|WM|+--------------------+-----+---------+预期输出使用pivot和聚合-将应用值作为列名并将聚合的客户名称作为数据框中的列表预期的数据帧+-----------------

mysql - sql group by 与 distinct

当查询中没有进行聚合时,为什么有人会使用groupby而不是distinct?此外,是否有人通过MySQL和SQLServer中的不同性能考虑来了解该组。我猜SQLServer有一个更好的优化器,它们可能与那里相当,但在MySQL中,我预计会有明显的性能优势。我对dba的答案很感兴趣。编辑:Bill的帖子很有趣,但不适用。让我更具体一点...selecta,b,cfromtablexgroupbya,b,c对selectdistincta,b,cfromtablex 最佳答案 GROUPBY将行组映射到一行,根据特定列中的不同值,这

mysql - sql group by 与 distinct

当查询中没有进行聚合时,为什么有人会使用groupby而不是distinct?此外,是否有人通过MySQL和SQLServer中的不同性能考虑来了解该组。我猜SQLServer有一个更好的优化器,它们可能与那里相当,但在MySQL中,我预计会有明显的性能优势。我对dba的答案很感兴趣。编辑:Bill的帖子很有趣,但不适用。让我更具体一点...selecta,b,cfromtablexgroupbya,b,c对selectdistincta,b,cfromtablex 最佳答案 GROUPBY将行组映射到一行,根据特定列中的不同值,这

mysql - 一起使用 ORDER BY 和 GROUP BY

我的表看起来像这样(我正在使用MySQL):m_id|v_id|timestamp------------------------6|1|133363531734|1|133363532334|1|13336353366|1|13336353436|1|1333635349我的目标是对每个m_id取一次,并按最高时间戳排序。结果应该是:m_id|v_id|timestamp------------------------6|1|133363534934|1|1333635336我写了这个查询:SELECT*FROMtableGROUPBYm_idORDERBYtimestampDESC

mysql - 一起使用 ORDER BY 和 GROUP BY

我的表看起来像这样(我正在使用MySQL):m_id|v_id|timestamp------------------------6|1|133363531734|1|133363532334|1|13336353366|1|13336353436|1|1333635349我的目标是对每个m_id取一次,并按最高时间戳排序。结果应该是:m_id|v_id|timestamp------------------------6|1|133363534934|1|1333635336我写了这个查询:SELECT*FROMtableGROUPBYm_idORDERBYtimestampDESC

hadoop - PIG中的GROUP和COGROUP有什么区别?

我知道Group不能处理多个元组,因此我们在PIG中有COGROUP。但是,今天检查时,GROUP命令对我有用。我正在使用PIG-0.12.0。我的命令和输出如下。grunt>grpvar=GROUPCby$2,Bby$2;grunt>cogrpvar=COGROUPCby$2,Bby$2;grunt>describegrpvar;grpvar:{group:chararray,C:{(pid:int,pname:chararray,drug:chararray,gender:chararray,tot_amt:int)},B:{(pid:int,pname:chararray,dru

mongodb - MapReduce 和 SQL GROUP BY

我一直在尝试了解MongoDB中MapReduce的基础知识,甚至在实现它之后,我也不确定它与SQL的GROUPBY甚至Mongo自己的GROUPBY究竟有何不同。在SQLServer中,可以通过流或哈希聚合来完成GROUPBY。MapReduce不是类似于哈希聚合,只是在大量的服务器之上吗?我在一些地方读到MRforMongoDB将作为后台进程运行,因为它是一个“繁重的操作”。鉴于数据是分片的,GROUPBY不会同样“重”吗?也就是说,我只是想比较那些可以作为MR作业或使用GROUPBY查询来实现的操作类型。有没有什么GROUPBY做不到,只有MR可以做的?此外,Hadoop似乎非常

hadoop - hive :SELECT AS 和 GROUP BY

我有一个类似的Hive查询SELECTYear,Month,Day,Hours,Minutes,cast((cast(Secondsasint)/15)asint)*15ASsecondMod,Count(*)ASPerCountFROMLoggerTableGROUPBYYear,Month,Day,Hours,Minutes,secondModORDERBYPerCount;上述查询因错误而失败FAILED:Errorinsemanticanalysis:line1:175InvalidTableAliasorColumnReferencesecondMod'LoggerTable

hadoop - 你能给我任何线索为什么是 'Cannot call methods on a stopped SparkContext' 吗?

当我将“vallines=sc.textFile("hdfs:///input")”放入yarn-client时,出现“无法在已停止的SparkContext上调用方法”错误。我整天找了两天,但我不知道原因在哪里。“hdfs:///input”是正确的,因为当我在独立模式下执行它时,我工作得很好。你能告诉我一些想法吗?我正在使用spark1.5.2、hadoop2.7.2。tartingorg.apache.spark.deploy.master.Master,loggingto/opt/spark-1.5.2-bin-hadoop2.6/sbin/../logs/spark-root

hadoop - Hive:更简洁的 SELECT AS 和 GROUP BY 方式

我试着这样写HiveSqlSELECTcount(1),substr(date,1,4)asyearFROM***GROUPBYyear但是Hive无法识别别名“year”,它会提示:失败:SemanticException[错误10004]:第1:79行无效的表别名或列引用“年”一个解决方案(Hive:SELECTASandGROUPBY)建议使用'GROUPBYsubstr(date,1,4)'。有效!但是在某些情况下我想要分组的值可能是由多行hive函数代码生成的,这样写代码非常难看SELECTcount(1),func1(func2(......................