错误信息:
java.io.IOException: Type mismatch in value from map: expected org.apache.hadoop.io.Text, recieved org.apache.hadoop.io.LongWritable
at org.apache.hadoop.mapred.MapTask$MapOutputBuffer.collect(MapTask.java:918)
at org.apache.hadoop.mapred.MapTask$OldOutputCollector.collect(MapTask.java:512)
at main.java.countdestinfo.myTask$Map.map(myTask.java:66)
at main.java.countdestinfo.myTask$Map.map(myTask.java:45)
at org.apache.hadoop.mapred.MapRunner.run(MapRunner.java:50)
at org.apache.hadoop.mapred.MapTask.runOldMapper(MapTask.java:374)
at org.apache.hadoop.mapred.MapTask.run(MapTask.java:324)
at org.apache.hadoop.mapred.Child.main(Child.java:165)
我的代码(这里只有 map 代码):
44 public class myTask{
45 public static class Map extends MapReduceBase implements Mapper<BytesWritable, BytesWritable, Text, LongWritable>{
47 public void map(BytesWritable key, BytesWritable value,
48 OutputCollector<Text, LongWritable> output, Reporter reporter) throws IOException{
66 output.collect(new Text("xxxxxxxxxxxxxxxxx" + "xxx"), new LongWritable(1));
88 }
89 }
这里省略的所有行都是注释。
我传递了 Text，但它声称收到了 LongWritable..
标题:
3 import java.util.ArrayList;
4 import java.util.HashMap;
5 import java.util.List;
6 import java.util.*;
7 import java.lang.*;
8 import java.io.IOException;
9 import java.util.Iterator;
10
11 import org.apache.hadoop.conf.Configured;
12 import org.apache.hadoop.fs.FileSystem;
13 import org.apache.hadoop.fs.Path;
14 import org.apache.hadoop.io.SequenceFile;
15 import org.apache.hadoop.io.Text;
16 import org.apache.hadoop.io.*;
17 import org.apache.hadoop.mapred.JobClient;
18 import org.apache.hadoop.mapred.JobConf;
19 import org.apache.hadoop.mapred.MapReduceBase;
20 import org.apache.hadoop.mapred.Mapper;
21 import org.apache.hadoop.mapred.OutputCollector;
22 import org.apache.hadoop.mapred.Reducer;
23 import org.apache.hadoop.mapred.Reporter;
24 import org.apache.hadoop.mapred.SequenceFileInputFormat;
25 import org.apache.hadoop.util.GenericOptionsParser;
26 import org.apache.hadoop.util.Tool;
27 import org.apache.hadoop.mapred.FileInputFormat;
28 import org.apache.hadoop.mapred.FileOutputFormat;
29 import org.apache.hadoop.mapred.TextInputFormat;
30 import org.apache.hadoop.mapred.TextOutputFormat;
31
32
33 import java.io.InputStreamReader;
34 import java.util.HashSet;
35 import java.util.Iterator;
37 import org.apache.hadoop.io.LongWritable;
38 import org.apache.hadoop.io.BytesWritable;
39
40 import com.google.protobuf.InvalidProtocolBufferException;
41 import display.algo.logs.proto.MiddataMessage;
42 import java.util.Arrays;
减少和主要功能:
90 public static class Reduce extends MapReduceBase implements Reducer<Text, LongWritable, Text, Text>{
91 public void reduce(Text key, Iterator<Text>values,
92 OutputCollector<Text, LongWritable> output, Reporter reporter) throws IOException{
93 long sum = 0;
94 while(values.hasNext()){
95 sum += 1;
96 }
97 output.collect(key,new Text(String.valueOf(sum)));
98 }
99 }
100
101 public static void main(String[] args) throws Exception {
102 JobConf conf = new JobConf(myTask.class);
103 conf.setJobName("myTask");
104
105 conf.setOutputKeyClass(Text.class);
106 conf.setOutputValueClass(Text.class);
107
108 conf.setMapperClass(Map.class);
109 conf.setCombinerClass(Reduce.class);
110 conf.setReducerClass(Reduce.class);
111
112 conf.setInputFormat(SequenceFileInputFormat.class);
113 conf.setOutputFormat(TextOutputFormat.class);
114 conf.setStrings("mapred.reduce.tasks", "500");
115
120 FileInputFormat.addInputPath(conf, new Path(args[0]));
121 FileOutputFormat.setOutputPath(conf, new Path(args[1]));
122 JobClient.runJob(conf);
123
124 }
最佳答案
reduce的输入值应该是LongWritable
public void reduce(Text key, Iterator<Text>values,
OutputCollector<Text, LongWritable> output, Reporter reporter)
应该是:
public void reduce(Text key, Iterator<LongWritable>values,
OutputCollector<Text, Text> output, Reporter reporter)
关于java - hadoop 作业因奇怪的异常而失败，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/22215363/
我真的很习惯使用Ruby编写以下代码:my_hash={}my_hash['test']=1Java中对应的数据结构是什么？ 最佳答案 HashMapmap=newHashMap();map.put("test",1);我假设？ 关于java-等价于Java中的RubyHash，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.com/questions/22737685/
我正在学习Rails，并阅读了关于乐观锁的内容。我已将类型为integer的lock_version列添加到我的articles表中。但现在每当我第一次尝试更新记录时，我都会收到StaleObjectError异常。这是我的迁移:classAddLockVersionToArticle当我尝试通过Rails控制台更新文章时:article=Article.first=>#我这样做:article.title="newtitle"article.save我明白了:(0.3ms)begintransaction(0.3ms)UPDATE"articles"SET"title"='dwdwd
我已经构建了一些serverspec代码来在多个主机上运行一组测试。问题是当任何测试失败时，测试会在当前主机停止。即使测试失败，我也希望它继续在所有主机上运行。Rakefile:namespace:specdotask:all=>hosts.map{|h|'spec:'+h.split('.')[0]}hosts.eachdo|host|begindesc"Runserverspecto#{host}"RSpec::Core::RakeTask.new(host)do|t|ENV['TARGET_HOST']=hostt.pattern="spec/cfengine3/*_spec.r
在Cooper的书BeginningRuby中，第166页有一个我无法重现的示例。classSongincludeComparableattr_accessor:lengthdef(other)@lengthother.lengthenddefinitialize(song_name,length)@song_name=song_name@length=lengthendenda=Song.new('Rockaroundtheclock',143)b=Song.new('BohemianRhapsody',544)c=Song.new('MinuteWaltz',60)a.betwee
我早就知道Ruby中的“常量”(即大写的变量名)不是真正常量。与其他编程语言一样，对对象的引用是唯一存储在变量/常量中的东西。(侧边栏:Ruby确实具有“卡住”引用对象不被修改的功能，据我所知，许多其他语言都没有提供这种功能。)所以这是我的问题:当您将一个值重新分配给常量时，您会收到如下警告:>>FOO='bar'=>"bar">>FOO='baz'(irb):2:warning:alreadyinitializedconstantFOO=>"baz"有没有办法强制Ruby抛出异常而不是打印警告？很难弄清楚为什么有时会发生重新分配。 最佳答案
我正在尝试使用boilerpipe来自JRuby。我看过guide从JRuby调用Java，并成功地将它与另一个Java包一起使用，但无法弄清楚为什么同样的东西不能用于boilerpipe。我正在尝试基本上从JRuby中执行与此Java等效的操作:URLurl=newURL("http://www.example.com/some-location/index.html");Stringtext=ArticleExtractor.INSTANCE.getText(url);在JRuby中试过这个:require'java'url=java.net.URL.new("http://www
我只想对我一直在思考的这个问题有其他意见，例如我有classuser_controller和classuserclassUserattr_accessor:name,:usernameendclassUserController//dosomethingaboutanythingaboutusersend问题是我的User类中是否应该有逻辑user=User.newuser.do_something(user1)oritshouldbeuser_controller=UserController.newuser_controller.do_something(user1,user2)我
什么是ruby的rack或python的Java的wsgi？还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht
这篇文章是继上一篇文章“Observability：从零开始创建Java微服务并监控它（一）”的续篇。在上一篇文章中，我们讲述了如何创建一个Javaweb应用，并使用Filebeat来收集应用所生成的日志。在今天的文章中，我来详述如何收集应用的指标，使用APM来监控应用并监督web服务的在线情况。源码可以在地址 https://github.com/liu-xiao-guo/java_observability 进行下载。摄入指标指标被视为可以随时更改的时间点值。当前请求的数量可以改变任何毫秒。你可能有1000个请求的峰值，然后一切都回到一个请求。这也意味着这些指标可能不准确，你还想提取最小/
HashMap中为什么引入红黑树，而不是AVL树呢1.概述开始学习这个知识点之前我们需要知道，在JDK1.8以及之前，针对HashMap有什么不同。JDK1.7的时候，HashMap的底层实现是数组+链表JDK1.8的时候，HashMap的底层实现是数组+链表+红黑树我们要思考一个问题，为什么要从链表转为红黑树呢。首先先让我们了解下链表有什么不好？？？2.链表上述的截图其实就是链表的结构，我们来看下链表的增删改查的时间复杂度增：因为链表不是线性结构，所以每次添加的时候，只需要移动一个节点，所以可以理解为复杂度是N(1)删：算法时间复杂度跟增保持一致查：既然是非线性结构，所以查询某一个节点的时候