草庐IT

counting

全部标签

hadoop - hive insert overwrite table with inner sub query of count of columns 作为结果

你好,我在源表“状态表”下面有datestatusname2017-06-22true1.tar2017-06-22true2.tar2017-06-22false3.tar2017-06-22true4.tar2017-06-22false5.tar2017-06-21false6.tar2017-06-21false6.tar2017-06-21false6.tar2017-06-21true6.tar我在目标表列下面有预期的数据TrueFalseTotalDate3252017-06-221342017-06-21我在下面写了查询将数据从源表加载到目标表,但它说表达式不在GROU

hadoop - pig : Counting the occurence of a grouped column

在此rawdata我们有棒球运动员的信息,架构是:name:chararray,team:chararray,position:bag{t:(p:chararray)},bat:map[]使用以下脚本,我们能够列出球员以及他们踢过的不同位置。我们如何计算有多少球员打过一个特定的位置?例如。有多少球员处于“指定击球手”位置?一个位置不能在一个玩家的position包中出现多次。示例数据的Pig脚本和输出如下所示。--pigscriptplayers=load'baseball'as(name:chararray,team:chararray,position:bag{t:(p:chara

hadoop - 执行以下 Hive 查询 : SELECT COUNT(*) FROM TABLE; for a table with 8bn rows/40 columns/400Gb? 的大概数字是多少

执行以下Hive查询的大概数字是多少:SELECTCOUNT(*)FROMTABLE;对于下表:行数:~80亿列数:40,各种大小的int、double和stringHDFS上的大小:~400Gb我想将任何大概数字与真实数字进行比较,以查看系统配置是否正确。如果我错过了一些重要的事情,我深表歉意,我是Hive和Hadoop的新手。此外,如果机器数量也按比例增加,执行时间是否会与行数成线性比例? 最佳答案 提供大概数字是不可能的。但是我们可以列出影响因素:集群中配置的MapTask数量block大小(决定将使用的映射器的数量)执行时间

Hadoop 组合器 : Using same reducer code as combiner in a word count mapreduce program?

这个问题特别来自认证机构的实践测试,对我来说没有意义。谁能帮忙?问题:映射器发出键和值对的字数问题,其中每个词作为键,文字1作为值发出。然后,reducer为它接收到的每个文字“1”递增一个计数器。qn是“我们可以使用现有的reducer代码作为组合器吗”?正确答案描述为。"is",我们可以,因为求和任务是可交换和结合的。但我的理解是,答案应该是“否”,因为这两种情况会导致两个不同的答案。而且我相信只有在我们采用另一种方法将计数器增加它接收到的值而不是“为它接收到的每个文字1增加一个计数器”时,才能使用相同的reducer和combiner代码。举个例子让我们先考虑一个没有组合器的假设

hadoop - 如何通过grafana(opentsdb)监控dfs.namenode.handler.count?

像这样?picture我的问题是是否也有像RedMashine中那样的指标。它的名字是什么?或者我是否应该定义一个指标?这该怎么做?谢谢! 最佳答案 Grafana2.5的Opentsdb查询编辑器默认启用建议。因此,当您开始键入任何指标的名称或什至尝试将光标放在文本框中时,您将看到指标名称的建议。如果您使用的是Grafana2.5之前的旧版本。那么您将必须在提到的Opentsdb中启用某些属性here在文档中。 关于hadoop-如何通过grafana(opentsdb)监控dfs.n

hadoop - pig : Count number of keys in a map

我想计算Pigmap中键的数量。我可以编写UDF来执行此操作,但我希望有更简单的方法。data=LOAD'hbase://MARS1'USINGorg.apache.pig.backend.hadoop.hbase.HBaseStorage('A:*','-loadKeytrue-caching=100000')AS(id:bytearray,A_map:map[]);在上面的代码中,我想基本上构建id的直方图以及该键在列族A中有多少项。怀着希望,我尝试了c=FOREACHdataGENERATEid,COUNT(A_map);但不出所料,这没有奏效。或者,也许有人可以建议一个更好的方

SQL/HIVE - 不同计数查询 - SELECT COUNT (DISTINCT columns,..) 与 SELECT COUNT(*) 与 DISTINCT 记录的子查询有何不同

在HIVE中,我尝试使用2种方法获取不同行的计数,SELECTCOUNT(*)FROM(SELECTDISTINCTcolumnsFROMtable);SELECTCOUNT(DISTINCTcolumns)FROMtable;两者都产生了不同的结果。第一个查询的计数大于第二个查询。他们的工作方式有何不同?提前致谢。 最佳答案 对您的查询做一点小改动,例如将您的子查询命名为:SELECTCOUNT(*)FROM(SELECTDISTINCTcolumnsFROMtable)myquery;

hadoop - Pig 为简单的 Group by 和 count occurrence 任务抛出错误

使用Hadoop的PIG-Latin从搜索引擎日志文件中查找唯一搜索字符串的出现次数。(clickheretoviewthesamplelogfile)请帮帮我。提前致谢。pig脚本excitelog=load'/user/hadoop/input/excite-small.log'usingPigStorage()AS(encryptcode:chararray,numericid:int,searchstring:chararray);GroupBySearchString=GROUPexcitelogbysearchstring;searchStrFrq=foreachGroup

java - 在 hbase shell 上执行 ValueFilter 和 Count 值

我正在使用HBaseShell,想知道是否可以计算以下扫描命令过滤的值?scan'table',{COLUMNS=>'cf:c',FILTER=>"ValueFilter(=,'substring:myvalue')"}它应该在shell上显示总和。有什么想法吗?感谢您的帮助。 最佳答案 count命令不支持过滤器。只有扫描可以。AFAIK在hbaseshell过滤器中+计数是不可能的。您可以对少量行执行以下操作。对于小数据:所以我建议你必须用hbasejava客户端做一些这样的事情scanwithyourvaluefilterhe

sql - 为什么 Select Count(*) 比 Hive 中的 Select * 慢

当我使用配置单元在VirtualBoxSandbox中运行查询时。我觉得Selectcount(*)比Select*慢太多了。谁能解释一下背后发生了什么?为什么会出现这种延迟? 最佳答案 select*fromtable它可以是一个只有Map的工作但是SelectCount(*)fromtable它可以是Map和Reduce作业希望这对您有所帮助。 关于sql-为什么SelectCount(*)比Hive中的Select*慢,我们在StackOverflow上找到一个类似的问题: