草庐IT

java - 平均 map 减少

我正在尝试计算hadoop独立设置中的平均数字。我无法运行该程序。但是程序编译没有任何错误,并且还创建了jar文件。我想我正在使用正确的命令在hadoop设置中执行程序。有人请查看我的代码并告诉我是否有任何问题。这是我的代码importjava.io.IOException;importjava.util.StringTokenizer;importorg.apache.hadoop.conf.Configuration;importorg.apache.hadoop.fs.Path;importorg.apache.hadoop.io.IntWritable;importorg.ap

hadoop - 如何使用 hadoop 在 cassandra 中运行字数统计示例?

我可以使用hadoop运行字数统计,现在我想将cassandra与hadoop结合使用。我想在cassandra中运行字数统计示例,但我不明白该怎么做。我通读了示例中的自述文件,但它没有提及如何或何时启动hadoop。我有点困惑。我怎样才能做到这一点?逐步解释会很有帮助。问候, 最佳答案 我做过一次并在这里做了一些笔记http://blog.alvazan.com/165/how-to-set-up-the-cassandra-wordcount-example/ 关于hadoop-如何

hadoop - Hive:GROUP By 上的子查询

需要Hive查询的帮助。我写了一个Hive查询:selectto_date(from_unixtime(epoch))asdate,count1,count2,count3fromtable1wherecount3=168这给我的结果如下:datecount1count2count37-15-2015168377-15-2015168157-15-201516843andsimilarlyforotherdates....最后,我需要编写一个查询,返回每个日期的count2和count3的中值。例如:我需要输出为:datecount1count2count37-15-201516835

hadoop - 如何通过grafana(opentsdb)监控dfs.namenode.handler.count?

像这样?picture我的问题是是否也有像RedMashine中那样的指标。它的名字是什么?或者我是否应该定义一个指标?这该怎么做?谢谢! 最佳答案 Grafana2.5的Opentsdb查询编辑器默认启用建议。因此,当您开始键入任何指标的名称或什至尝试将光标放在文本框中时,您将看到指标名称的建议。如果您使用的是Grafana2.5之前的旧版本。那么您将必须在提到的Opentsdb中启用某些属性here在文档中。 关于hadoop-如何通过grafana(opentsdb)监控dfs.n

hadoop - pig : Count number of keys in a map

我想计算Pigmap中键的数量。我可以编写UDF来执行此操作,但我希望有更简单的方法。data=LOAD'hbase://MARS1'USINGorg.apache.pig.backend.hadoop.hbase.HBaseStorage('A:*','-loadKeytrue-caching=100000')AS(id:bytearray,A_map:map[]);在上面的代码中,我想基本上构建id的直方图以及该键在列族A中有多少项。怀着希望,我尝试了c=FOREACHdataGENERATEid,COUNT(A_map);但不出所料,这没有奏效。或者,也许有人可以建议一个更好的方

hadoop - (hadoop.pig) 单个表中的多个计数

所以,我有一个包含两个值的数据,一个是字符串,一个是数字。data(string:chararray,number:int)我正在计算5种不同的规则,1:int为0~1。2:int为1~2.~5:int为4~5.所以我能够单独数出它们,zero_to_one=filteravg_userbyaverage_stars>=0andaverage_stars1andaverage_stars2andaverage_stars3andaverage_stars4andaverage_stars所以,这是可以做到的,但是这只会产生5个单独的表。我想看看有没有办法(花哨是可以的,我喜欢花哨的东西

csv - Pig 计数文本消息中字符串的出现次数

我有两个文件-venues.csv和tweets.csv。我想计算每个地点在推文文件中的推文消息中出现的次数。我已经在HCatalog中导入了csv文件。到目前为止我设法做了什么:我知道如何过滤text字段并获取这些包含'Shell'推文消息的元组。我想做同样的事情,但不是使用硬编码的Shell,而是针对venuesNames包中的每个name。我怎样才能做到这一点?此外,我如何才能正确使用generate命令来生成一个新包,该包将计数结果与field名称相匹配?a=LOAD'venues_test_1'USINGorg.apache.hcatalog.pig.HCatLoader()

SQL/HIVE - 不同计数查询 - SELECT COUNT (DISTINCT columns,..) 与 SELECT COUNT(*) 与 DISTINCT 记录的子查询有何不同

在HIVE中,我尝试使用2种方法获取不同行的计数,SELECTCOUNT(*)FROM(SELECTDISTINCTcolumnsFROMtable);SELECTCOUNT(DISTINCTcolumns)FROMtable;两者都产生了不同的结果。第一个查询的计数大于第二个查询。他们的工作方式有何不同?提前致谢。 最佳答案 对您的查询做一点小改动,例如将您的子查询命名为:SELECTCOUNT(*)FROM(SELECTDISTINCTcolumnsFROMtable)myquery;

scala - 如何比较scala中的两个数据框

我有两个完全相同的数据帧用于比较测试df1------------------------------------------year|state|count2|count3|count4|2014|NJ|12332|54322|53422|2014|NJ|12332|53255|55324|2015|CO|12332|53255|55324|2015|MD|14463|76543|66433|2016|CT|14463|76543|66433|2016|CT|55325|76543|66433|------------------------------------------df2

hadoop - Pig 为简单的 Group by 和 count occurrence 任务抛出错误

使用Hadoop的PIG-Latin从搜索引擎日志文件中查找唯一搜索字符串的出现次数。(clickheretoviewthesamplelogfile)请帮帮我。提前致谢。pig脚本excitelog=load'/user/hadoop/input/excite-small.log'usingPigStorage()AS(encryptcode:chararray,numericid:int,searchstring:chararray);GroupBySearchString=GROUPexcitelogbysearchstring;searchStrFrq=foreachGroup