我是hadoop的新手，正在从事一个大数据项目，我必须清理和过滤给定的csv文件。就像如果给定的csv文件有200列，那么我只需要选择20个特定的列(所谓的数据过滤)作为进一步操作的输出。同样作为数据清理的一部分，我必须检查日期列的日期格式是否正确，并将所有格式更改为单一格式，如DD-MM-YYYY。到目前为止，我可以读取给定的文件，但是您能否建议如何选择特定的列以及如何检查日期格式？ 最佳答案 您也可以使用ApachePig来过滤和验证日期格式。请按照以下步骤操作:将文件复制到HDFS使用加载命令和pigStorage()加载文件
我想为File的每一行调用服务。我们的源文件大于50GB。迭代超过50GB的Row可能需要更多时间。是否需要编写任何内置功能或任何MapReduce程序来为每一行调用服务。由于MapReduce提供了一点并行化。是否有任何自定义工具已经构建了此需求 最佳答案 map-reduce的基本要求是任务应该并行运行而不会对单个结果产生任何影响。如果您的服务调用独立于其他内容，则可以使用mapreduce。我认为只有map就足够了，负责读取每一行并进行服务调用。但是，您也需要考虑map的另一面。您将如何处理服务调用以及最终的map。那部分决定
假设我有一个RDD[U]，它总是只包含1个分区。我的任务是用位于n个分区上的另一个RDD[T]的内容填充这个RDD。最终输出应该是RDD[U]的n个分区。我最初尝试做的是:valnewRDD=firstRDD.zip(secondRDD).map{case(a,b)=>a.insert(b)}但是我得到一个错误:Can'tzipRDDswithunequalnumbersofpartitions我可以在RDDapi中看到documentation有一个名为zipPartitions()的方法。是否有可能，如果可以，如何使用此方法将RDD[T]中的每个分区压缩为RDD[U]的单个分区并执
friend，我是Map-Reduce的新手，正在尝试一个只执行Mapper的例子；但输出很奇怪，出乎意料。如果我在这里遗漏了什么，请帮助我查找:代码部分:进口:importorg.apache.hadoop.conf.Configuration;importorg.apache.hadoop.fs.Path;importorg.apache.hadoop.io.LongWritable;importorg.apache.hadoop.io.Text;importorg.apache.hadoop.mapreduce.Job;importorg.apache.hadoop.mapred
假设我想知道每个单词在某些文本中出现的次数。我的理解是，文本被分成多个部分，每个部分都传递给map。map然后会获取每个部分的单词出现次数，并将结果传递给reduce，如下所示:foreachwordwindocument:occurrences[w]+=1returnoccurrences然而，根据MapReducepaper和wikipedia,map只会为每个单词发出1，如下所示:foreachwordwindocument:emit(w,1)这与将文本部分直接传递给reduce基本上不是一回事吗，因为它无论如何都必须遍历每个单词？此外，只是为了确定。如果我想使用MapReduc
谁能告诉我如何在Eclipse的参数选项卡中设置HDFS文件路径。这样下面的代码就不会给出超出索引的异常。FileInputFormat.addInputPath(job,newPath(otherArgs[0]));FileOutputFormat.setOutputPath(job,newPath(otherArgs[1])); 最佳答案 您需要使用运行配置。右键单击该程序，转到运行配置，使用java应用程序。选择正确的项目和带有main函数的正确程序后，您需要转到VMArguments并传递参数。
我无法完成查询建模，因此需要帮助。我的数据是:idnameschoolheight1AS1102BS1123CS1144DS2155ES2166FS217我想选择每个学校的姓名和中位数高度的姓名。预期输出:idnameschoolmyval1AS1B2BS1B3CS1B4DS2E5ES2E6FS2E在这里，B的高度是S1学校的中位数，E是S2的中位数。我知道我们可以使用百分位数获得中位数。但我无法弄清楚如何选择每个分区的值。 最佳答案 下面的查询将起作用:-selecttemp1.id,temp1.name,temp1.school
当我尝试在eclipseINDIGO中安装MAP-REDUCE插件时，出现以下错误截图:我已经安装了hadoop1.2.1。 最佳答案 您尝试使用的插件是使用Java8编译的，但您正在使用早期版本的Java运行Eclipse。您必须使用Java8运行Eclipse才能使用此插件。 关于eclipse-在eclipse中安装MAP-REDUCE插件时出错，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.com/
我有一个迭代次数太多的循环和一个在Reducer函数中计算量很大的函数。while(context.getCounter(SOLUTION_FLAG.SOLUTION_FOUND).getValue()MAX_ITR是迭代次数-用户输入问题是当我在Hadoop集群上运行它时出现超时错误并且Reducer任务被终止17/05/0621:09:43INFOmapreduce.Job:TaskId:attempt_1494129392154_0001_r_000000_0,Status:FAILEDAttemptID:attempt_1494129392154_0001_r_000000_0
我已经实现了一个简单的Mapreduce应用程序来检测最长的单词。作业执行成功。但是现在我想知道在reducer中使用局部变量来保持Max长度是否正确？由于分布式环境中可能有多个reducer，并且它们不共享该变量的值。这是一个正确的假设吗？在分布式环境中，当有独立的reducer时，输出会受到怎样的影响？我正在使用自定义比较器，因此单词首先按长度排序，而不是按值排序。每个MR阶段的输出如下所示:MapperOutput:ByeByeBye9HelloHelloHe22215HelloHelloHe22215HelloHelloHe33315HelloHelloHe33315Hello
