草庐IT

reduced_bitmap

全部标签

hadoop-mapreduce reducer-combiner 输入

我正在学习一些MapReduce,但遇到了一些问题,情况如下:我有两个文件:“用户”包含用户列表以及他们的一些数据(性别、年龄、国家等...)文件如下所示:user_000003m22UnitedStatesOct30,2005“songs”包含所有用户收听的歌曲数据(userid、收听日期和时间、artistid、artistname、songid、songtitle):user_0009992008-12-11T22:52:33Zb7ffd2af-418f-4be2-bdd1-22f8b48613daNineInchNails1d1bb32a-5bc6-4b6f-88cc-c043

java - Hadoop reducer 接收到错误的数据

我同时运行了很多JobControls,它们都具有相同的一组ControlledJobs。每个JobControl按日期范围处理一组不同的输入/输出文件,但它们都是类型。我观察到的问题是,reduce步骤正在接收设计为由处理不同日期范围的reducer处理的数据。日期范围由Job设置,用于确定输入和输出,并从reducer中的上下文中读取。如果我按顺序提交JobControls,这将停止,但这并不好。这是我应该用自定义分区程序解决的问题吗?如果我不知道哪个reducer正在处理我当前的日期范围,我什至如何确定key的正确reducer?为什么实例化的reducer不会锁定到它们的Job

hadoop - 在 hadoop 中 - 文件拆分的 Map-Reduce 错误

当我在map类中使用以下行时:StringfileName=((FileSplit)context.getInputSplit()).getPath().getName();System.out.println(fileName);我得到一个空的输出文件。此外,控制台的最后两行是:14/05/0612:52:53INFOmapred.JobClient:Mapoutputrecords=014/05/0612:52:53INFOmapred.JobClient:SPLIT_RAW_BYTES=2127 最佳答案 问题出在System

java - 尝试进行 hbase 批量加载作业时,reducer 使用布隆过滤器提示无序输入

我正在使用我这样设置的map-reduce作业进行大规模hbase导入。job.setMapOutputKeyClass(ImmutableBytesWritable.class);job.setMapOutputValueClass(Put.class);job.setMapperClass(BulkMapper.class);job.setOutputFormatClass(HFileOutputFormat.class);FileInputFormat.setInputPaths(job,newPath(inputPath));FileOutputFormat.setOutput

hadoop - Map Reduce Job 在一个时间窗口中找到流行的项目

我在面试中被问到这个问题,我不确定我是否给出了正确的答案,所以我想了解一些见解。问题:存在用户和项目流。每分钟,我都会收到一个元组列表(用户、项目),表示用户u消费了项目i。我需要找到过去一小时内前100个热门商品,即计算每个商品有多少用户消费并排序。这里的技巧是,在过去的一个小时内,如果同一个用户多次消费同一个商品,则只考虑消费1次。不允许同一用户重复消费。面试官说我应该想大点,每小时有几百万的消费。因此,他建议我做一个map-reduce工作或每分钟可以处理如此大量数据的工作。我想出的解决方案:我说我可以维护一个列表(或者矩阵,如果你愿意的话)消耗的用户-项目-时间戳元组,就好像有

android - ProfilePictureView to Bitmap (Facebook SDK for Android v3)

如何将ProfilePictureView转换为Bitmap?可能吗? 最佳答案 我知道了!ImageViewfbImage=((ImageView)profilePictureFB.getChildAt(0));Bitmapbitmap=((BitmapDrawable)fbImage.getDrawable()).getBitmap(); 关于android-ProfilePictureViewtoBitmap(FacebookSDKforAndroidv3),我们在StackOve

java - ImageView坐标与Bitmap像素的对应关系——Android

在我的应用程序中,我希望用户能够选择ImageView中包含的图像的某些内容。.为了选择我将ImageView子类化的内容类使其实现OnTouchListener因此要在其上绘制一个矩形,其边框由用户决定。这是绘图结果的示例(要了解其工作原理,您可以将其想象为在桌面上单击鼠标并拖动鼠标):现在我需要确定Bitmap的哪些像素图像对应于所选部分。很容易确定哪些是ImageView的点。属于矩形,但我不知道如何获得对应的像素,因为ImageView具有与原始图像不同的纵横比。我遵循了描述的方法especiallyhere,butalsohere,但我并不完全满意,因为在我看来,ImageV

Android "Trying to use recycled bitmap"错误?

我正在处理的Android应用程序上遇到位图问题。假设发生的是应用程序从网站下载图像,将它们保存到设备,将它们作为位图加载到内存中并放入数组列表中,然后将它们显示给用户。首次启动应用程序时,这一切正常。但是,我为删除图像的用户添加了一个刷新选项,并且上面概述的过程从头开始。我的问题:通过使用刷新选项,旧图像仍在内存中,我很快就会得到OutOfMemoryErrors。因此,如果正在刷新图像,我让它通过arraylist运行并回收旧图像。但是,当应用程序将新图像加载到数组列表中时,它会因“尝试使用回收的位图”错误而崩溃。据我了解,回收位图会破坏位图并释放其内存以供其他对象使用。如果我想再

memory - 为TaskTracker子进程配置内存的不同方式(Mapper和Reduce Tasks)

设置mapred.job.map.memory.mb有什么区别?和mapred.child.java.opts使用-Xmx来控制Mapper和Reduce任务使用的最大内存?哪个优先? 最佳答案 -Xmx指定分配的jvm的最大堆空间。这是为对象分配保留的空间,由garbagecollector管理。.另一方面,mapred.job.map.memory.mb指定最大值virtualmemoryHadoop任务子进程允许的。如果超过最大堆大小,JVM会抛出OutOfMemoryException。JVM可能使用比最大堆大小更多的内存,

javascript - 浏览器/JS : reduce on an object

我的javascript应用程序在firefox和chrome上运行良好。但它在InternetExplorer(IE8)上似乎会被破坏。我没有在控制台日志中收到错误消息。通过调试我注意到的代码,应用程序在以下行中断:series.reduce(visit,[]);此时整个函数退出。我知道,reduce适用于数组,但是console.info(typeof(series))告诉:对象但是这个对象看起来确实像一个数组——而且它适用于FF/Chrome。这可能是为什么IE在此时停止处理该功能的原因吗?并且:如何在IE中处理这个问题?谢谢。 最佳答案