草庐IT

IntWritable

全部标签

java - Hadoop - 未加载 IntWritable(int) 构造函数

关闭。这个问题是notreproducibleorwascausedbytypos.它目前不接受答案。这个问题是由于错别字或无法再重现的问题引起的。虽然类似的问题可能是on-topic在这里,这个问题的解决方式不太可能帮助future的读者。关闭6年前。Improvethisquestion我正在尝试在Hadoop中创建一个MapReduce,并希望将它的String转换为IntWritable。我遵循此处列出的建议:HowtoconvertStringobjecttoIntWritableObjectinHadoop.它建议使用newIntWriteable(Integer.pars

java - 为什么 org.apache.hadoop.io.Writable 不能转换为 org.apache.hadoop.io.IntWritable?

我的mapreduce应用程序如下所示。我想对字符串中的3个值求和publicclassStockCount{publicstaticclassMapperClassextendsMapper{publicvoidmap(Objectkey,Textvalue,Contextcontext)throwsIOException,InterruptedException{Stringline[]=value.toString().split(",");//mgrno,rdate,cusip,shares,sole,shared,no//[0],[1],[2],[3],[4],[5],[6]

apache-spark - 使用 Spark/Scala 读取序列文件时,无法序列化结果 : org. apache.hadoop.io.IntWritable

从逻辑上读取带有Int和String的序列文件,然后如果我这样做:valsequence_data=sc.sequenceFile("/seq_01/seq-directory/*",classOf[IntWritable],classOf[Text]).map{case(x,y)=>(x.toString(),y.toString().split("/")(0),y.toString().split("/")(1))}.collect这没问题,因为IntWritable已转换为String。如果我这样做:valsequence_data=sc.sequenceFile("/seq_0

java - IntWritable.class如何提供一个IntWritable类的对象

publicstaticWritableComparatorget(Classc)WritableComparator中的get方法接受一个类类型的对象作为参数RawComparatorcomparator=WritableComparator.get(IntWritable.class);那么IntWritable.class是如何提供一个IntWritable类的对象呢? 最佳答案 根据您的问题,我推测您正在寻找一个您不可见的对象。在此示例中,您正在寻找一个IntWritable对象,但您没有在程序中的任何地方找到NEW关键字。

hadoop - VIntWritable 与 IntWritable

我明白VIntWritable与IntWritable相比,可以显着减少存储整数所需的大小.我的问题是:使用VIntWritable而不是IntWritable的成本是多少?是(仅)压缩所需的时间吗?换句话说,什么时候应该使用IntWritable而不是VIntWritable? 最佳答案 Howdoyouchoosebetweenafixed-lengthandavariable-lengthencoding?Fixedlengthencodingsaregoodwhenthedistributionofvaluesisfairl

java - 当我指定 IntWritable 时,为什么我的 map reduce 程序以文本形式输出

我的测试集是:Onida|Lucid|18|UttarPradesh|232401|16200Akai|Decent|16|Kerala|922401|12200Lava|Attention|20|Assam|454601|24200Zen|Super|14|Maharashtra|619082|9200Samsung|Optima|14|MadhyaPradesh|132401|14200我的映射器类:publicclassUnitsSoldPerCompanyMapperextendsMapper{publicvoidmap(LongWritableinputKey,Textinp

java - 如何在 hadoop 中获取 IntWritable 的最大范围?

有没有办法获取Intwritable的范围?IntWritable是否有等同于Int.MAX_VALUE的东西? 最佳答案 Integer是原始int数据类型的包装器,这使得它有资格在javamap中用作键/值。但是IntWritable并不真正代表原始数据类型的包装器。相反,它是具有优化序列化实现的整数变体(java默认序列化过于庞大)。这样说来,Intwritable并不是要取代Integer的用途。即使在映射器中,公共(public)逻辑也是使用Integer编写的;只有当您在mapredcue阶段发出一个值时,IntWrit

java - Hadoop,mapreduce java.io.IOException : Type mismatch in value from map: expected org. apache.hadoop.io.Text,收到 org.apache.hadoop.io.IntWritable

我正在尝试使用两个映射器和一个缩减器。我收到以下错误:我想组合几个键,我希望得到基于每个键的求和输出。我不知道哪一部分是错的。如果您能为我的代码找到一些错误,我们将不胜感激。java.io.IOException:Typemismatchinvaluefrommap:expectedorg.apache.hadoop.io.Text,recievedorg.apache.hadoop.io.IntWritableatorg.apache.hadoop.mapred.MapTask$MapOutputBuffer.collect(MapTask.java:896)atorg.apache

hadoop - ClassCastException : org. apache.hadoop.io.Text 无法在 K-Means 聚类 Mahout 中转换为 org.apache.hadoop.io.IntWritable

我正在使用Mahout命令进行K均值聚类,输入文件是“KMeansData.csv”,数据是这种格式,John,M,30,Pepsi,USJack,M,25,Coke,USDavid,M,34,Pepsi,UKTed,M,37,Limca,CANRobert,M,23,Limca,USAdrian,M,31,Pepsi,USCraig,M,37,Coke,UKKatie,F,23,Limca,UKNancy,F,32,Pepsi,UK我能够成功完成以下步骤,它们是,./mahoutseqdirectory-i/root/Mahout/Clustering/-o/root/Mahout/

java - 如何解决从 IntWritable 到 Mutation 的转换错误?映射减少 HBase

当我尝试将IntWritable从我的映射器传递到我的缩减器时出现以下错误:INFOmapreduce.Job:TaskId:attempt_1413976354988_0009_r_000000_1,Status:FAILEDError:java.lang.ClassCastException:org.apache.hadoop.io.IntWritablecannotbecasttoorg.apache.hadoop.hbase.client.Mutation这是我的映射器:publicclasstestMapperextendsTableMapper{publicvoidmap(