草庐IT

pig-core-h

全部标签

hadoop - pig 根据另一列中的值添加列

我在元组中有一列名为avg_rating。我想根据avg_rating中的值创建一个新列NPS。这是avg_rating数据的样子avg_rating348910所以如果评分>=8那么Pr如果评级评级介于4和8NPS之间,则为P如果评分这是我正在尝试的,yy=FOREACHavg_ratingGENERATEavg_rating,((int)wtr>=8?'P':(int)wtr>=4&&(int)wtr我在车工运算符(operator)中使用多个条件,但出现错误Syntaxerror,unexpectedsymbolatornear'('知道这有什么问题吗?

hadoop - pig : Container is running beyond physical memory limits in cdh 5 using oozie

我正在尝试运行一个简单的pig脚本,该脚本在gruntshell中运行f9但不使用oozie,出现如下错误:容器[pid=2617,containerID=container_1438923434512_12103_01_000002]正在超出物理内存限制运行。当前使用情况:已使用1.0GB的1GB物理内存;使用了2.9GB的2.1GB虚拟内存。杀死容器。container_1438923434512_12103_01_000002..的进程树转储..实际上我正在通过oozie调用一个shell脚本,实习生调用pig脚本并得到这样的错误。我怎样才能让它在oozie中可用

hadoop - 如何在 Hadoop 上的 Apache Pig 中基于两个子包构建一个 super 包

假设我有两个包,B1和B2,想知道如何制作一个包含这两个包的super包?我想要一个包含两个子包的super包的目的是因为我想调用datafu的UDFSetDifference,这似乎是在一个包含两个包的关系上调用的?就我而言,我已经有两个包,B1和B2。我想我需要在这个示例中组装一个super包“输入”。http://datafu.incubator.apache.org/docs/datafu/guide/set-operations.htmldifferenced=FOREACHinput{--inputbagsmustbesortedsorted_b1=ORDERB1byval

hadoop - 如何解决以下 apache pig 错误?

我正在执行以下命令:A=load'user/cloudera'usingPigStorage(':');foreachAgenerate$0,$4,$5;dumpB;在执行最后一条命令时,我收到以下错误,我无法解决。作为大数据和apachehadoop堆栈的新手,我无法理解这个错误。请尽快提供帮助。也在StackOverflow上搜索类似的错误没有帮助:2015-11-1306:36:46,170[main]INFOorg.apache.pig.tools.pigstats.ScriptState-Pigfeaturesusedinthescript:UNKNOWN2015-11-13

hadoop - hadoop.tmp.dir 到底应该设置在哪里? core-site.xml 还是 hdfs-site.xml?

我问的是Hadoop2.x系列。互联网上对此有相互矛盾的建议。喜欢这个case他要求在core-site.xml和这个SOanswer中指定它其中提到hadoop.tmp.dir设置在hdfs-site.xml中。应该放在哪个位置? 最佳答案 hadoop.tmp.dir(Abaseforothertemporarydirectories)属性,需要在core-site.xml中设置,就像exportinLinux例如:dfs.namenode.name.dirfile://${hadoop.tmp.dir}/dfs/name您可以

eclipse - cloudera hadoop : caused by: java. lang.ClassNotFoundException : org. apache.htrace.core.Tracer$Builder

我只是按照教程运行了一个示例程序:http://web.stanford.edu/class/cs246/homeworks/tutorial.pdf出现以下错误:SLF4J:Failedtoloadclass"org.slf4j.impl.StaticLoggerBinder".SLF4J:Defaultingtono-operation(NOP)loggerimplementationSLF4J:Seehttp://www.slf4j.org/codes.html#StaticLoggerBinderforfurtherdetails.16/10/2421:48:18WARNuti

hadoop - 不使用 Pig 脚本从 HDFS 加载 HBase 中的数据

我在HDFS中有.csv文件。我想在不使用Pig脚本的情况下将它们加载到HBASE表中。还有其他方法吗? 最佳答案 可能有几种方法。但有些选项如下所示。选项1:简单的方法是ImportTsvImportTsv是一个将TSV格式的数据加载到HBase的实用程序。它有两种不同的用法:通过Puts将数据从HDFS中的TSV格式加载到HBase,以及通过completebulkload准备要加载的StoreFiles。通过Put加载数据(即非批量加载):$bin/hbaseorg.apache.hadoop.hbase.mapreduce.

hadoop - 在 PIG 中读取 delemeter 数据中的文件

我想使用PIG读取CSV文件,我应该怎么做?。我使用了loadnpigstorage(',')但它无法正确读取CSV文件,因为它在数据中遇到逗号(,)时将其拆分。如果我在数据中也有逗号,我现在应该如何给出定界符? 最佳答案 通常无法区分数据中的逗号和作为分隔符的逗号。您需要转义“数据”中的逗号和可以识别转义逗号的自定义加载函数(对于Pig)。看这里:http://ofps.oreilly.com/titles/9781449302641/load_and_store_funcs.htmlhttp://pig.apache.org/d

maven artifactId hadoop 2.2.0 for hadoop-core

我正在将我的应用程序从hadoop1.0.3迁移到hadoop2.2.0,并且mavenbuild将hadoop-core标记为依赖项。由于hadoop-core不存在于hadoop2.2.0。我尝试用hadoop-client和hadoop-common替换它,但我仍然收到ant.filter的错误。有人可以建议使用哪个神器吗?previousconfig:org.apache.hadoophadoop-core1.0.3NewConfig:org.apache.hadoophadoop-client2.2.0错误:[ERROR]Failedtoexecutegoalorg.apac

hadoop - pig 计数不同导致标量在输出错误中有不止一行

我有一个pig关系,读起来像-describeA;A:{header:(member_id,field_2,..)}现在我只想梳理一下成员,所以我这样做了-A1=FOREACHAGENERATEA.header.member_id;A2=LIMITA110;dumpA2;这运行了很长时间,最终导致错误-无法打开别名A2的迭代器。后端错误:标量在输出中有多于一行。我做错了什么? 最佳答案 问题在于行:A1=FOREACHAGENERATEA.header.member_id;您不应在A.header.member_id中引用A。Pig