我可以在 map 函数中使用线程吗？我的任务是让线程真正帮助我。我需要同时为每个输入行向 HashMap 中添加值。我的输入行变成了一个字符串数组，对于这个数组的每个值，我都需要将它添加到 HashMap 中。我后来在清理函数中使用了这个 hashmap。
我正在使用 for 循环执行此操作，这似乎是我项目的瓶颈。所以我想到了使用并发 HashMap 并将字符串数组拆分为几个较小的数组。所以每个线程都负责在 HashMap 中添加相应的“较小”数组。问题是我已经在本地 Java 应用程序中实现了它并且它可以工作。当我在 hadoop 中使用它时，结果不是预期的。我正在为每个线程使用 Thread.join() 以便对于每一行输入我确保线程在下一行之前完成。好吧，我就是这么想的。 hadoop 是否以特殊方式处理线程？
edits for duffymo
这是谷歌引文 http://research.google.com/pubs/pub36296.html .
算法 2 是我正在谈论的部分。如您所见，每个属性都有一个 for 循环，对于每个属性，我需要更新内存结构。他们只需要在他们的方法中预测一个值(单标签学习)，而在我的方法中我可能有很多值要预测(多标签学习)。所以谷歌所说的 y 值，对他们来说是一个 3 值数组。对我来说，它可能高达数千。聚合两个 3 维 vector 比聚合两个 10000 维 vector 快得多。
如果我在我的算法中只放置一个标签，我完全没有问题。我提到的 45 秒减少到不到 5 秒。所以是的，它只对一个标签有效。
我提到的 45 秒仅用于 for 循环。我没有计算解析和所有其他事情。 for 循环肯定是瓶颈，因为这是我唯一需要计时的事情，它大约需要 45 秒，而整个任务大约需要 1 分钟(包括任务初始化等等)。我想尝试将该 for 循环制动为 2 或 3 个更小的 for 循环并同时处理它们。尝试意味着它可能有效，也可能无效。有时像我提到的那样疯狂的东西可能是必需的。好吧，这就是一位受人尊敬的程序员在我之前关于 hadoop 的话题中告诉我的。
我之前没有提供这么多细节，因为我认为我只是想了解一下 hadoop 和 map 函数内的线程。没想到会有人这么问我:P.
最佳答案
Hadoop 本身就是为并行而构建的。但它是以非常粗粒度的方式进行的。 Hadoop并行性在数据集大的时候很好，可以分成很多个子集分别独立处理(这里我指的只是Map阶段，为了简单起见)，比如在文本中搜索一个模式。
现在，让我们考虑以下情况:我们有大量数据，我们想在该文本中搜索 1000 种不同的模式。现在我们有两种选择来使用我们的多核 CPU。
1. 在单个线程中使用单独的映射器处理每个文件，每个节点有多个映射器
2、每个节点定义一个mapper，所有核处理一个文件。
第二种方式可能对缓存更友好，因此效率更高。
归根结底——对于细粒度、多核友好的并行性被处理的性质证明是合理的情况——在映射器中使用多线程可以使我们受益。
关于java - Hadoop:在映射函数中有线程，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/9599092/
我想在一个没有Sass引擎的类中使用Sass颜色函数。我已经在项目中使用了sassgem，所以我认为搭载会像以下一样简单:classRectangleincludeSass::Script::FunctionsdefcolorSass::Script::Color.new([0x82,0x39,0x06])enddefrender#hamlengineexecutedwithcontextofself#sothatwithintemlateicouldcall#%stop{offset:'0%',stop:{color:lighten(color)}}endend更新:参见上面的#re
我真的很习惯使用Ruby编写以下代码:my_hash={}my_hash['test']=1Java中对应的数据结构是什么？ 最佳答案 HashMapmap=newHashMap();map.put("test",1);我假设？ 关于java-等价于Java中的RubyHash，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.com/questions/22737685/
我正在尝试用ruby中的gsub函数替换字符串中的某些单词，但有时效果很好，在某些情况下会出现此错误？这种格式有什么问题吗NoMethodError(undefinedmethod`gsub!'fornil:NilClass):模型.rbclassTest"replacethisID1",WAY=>"replacethisID2andID3",DELTA=>"replacethisID4"}end另一个模型.rbclassCheck 最佳答案 啊，我找到了!gsub!是一个非常奇怪的方法。首先，它替换了字符串，所以它实际上修改了
我有一些代码在几个不同的位置之一运行:作为具有调试输出的命令行工具，作为不接受任何输出的更大程序的一部分，以及在Rails环境中。有时我需要根据代码的位置对代码进行细微的更改，我意识到以下样式似乎可行:print"Testingnestedfunctionsdefined\n"CLI=trueifCLIdeftest_printprint"CommandLineVersion\n"endelsedeftest_printprint"ReleaseVersion\n"endendtest_print()这导致:TestingnestedfunctionsdefinedCommandLin
我正在尝试使用boilerpipe来自JRuby。我看过guide从JRuby调用Java，并成功地将它与另一个Java包一起使用，但无法弄清楚为什么同样的东西不能用于boilerpipe。我正在尝试基本上从JRuby中执行与此Java等效的操作:URLurl=newURL("http://www.example.com/some-location/index.html");Stringtext=ArticleExtractor.INSTANCE.getText(url);在JRuby中试过这个:require'java'url=java.net.URL.new("http://www
我只想对我一直在思考的这个问题有其他意见，例如我有classuser_controller和classuserclassUserattr_accessor:name,:usernameendclassUserController//dosomethingaboutanythingaboutusersend问题是我的User类中是否应该有逻辑user=User.newuser.do_something(user1)oritshouldbeuser_controller=UserController.newuser_controller.do_something(user1,user2)我
什么是ruby的rack或python的Java的wsgi？还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht
如何在Ruby中按名称传递函数？(我使用Ruby才几个小时，所以我还在想办法。)nums=[1,2,3,4]#Thisworks,butismoreverbosethanI'dlikenums.eachdo|i|putsiend#InJS,Icouldjustdosomethinglike:#nums.forEach(console.log)#InF#,itwouldbesomethinglike:#List.iternums(printf"%A")#InRuby,IwishIcoulddosomethinglike:nums.eachputs在Ruby中能不能做到类似的简洁？我可以只
这篇文章是继上一篇文章“Observability：从零开始创建Java微服务并监控它（一）”的续篇。在上一篇文章中，我们讲述了如何创建一个Javaweb应用，并使用Filebeat来收集应用所生成的日志。在今天的文章中，我来详述如何收集应用的指标，使用APM来监控应用并监督web服务的在线情况。源码可以在地址 https://github.com/liu-xiao-guo/java_observability 进行下载。摄入指标指标被视为可以随时更改的时间点值。当前请求的数量可以改变任何毫秒。你可能有1000个请求的峰值，然后一切都回到一个请求。这也意味着这些指标可能不准确，你还想提取最小/
HashMap中为什么引入红黑树，而不是AVL树呢1.概述开始学习这个知识点之前我们需要知道，在JDK1.8以及之前，针对HashMap有什么不同。JDK1.7的时候，HashMap的底层实现是数组+链表JDK1.8的时候，HashMap的底层实现是数组+链表+红黑树我们要思考一个问题，为什么要从链表转为红黑树呢。首先先让我们了解下链表有什么不好？？？2.链表上述的截图其实就是链表的结构，我们来看下链表的增删改查的时间复杂度增：因为链表不是线性结构，所以每次添加的时候，只需要移动一个节点，所以可以理解为复杂度是N(1)删：算法时间复杂度跟增保持一致查：既然是非线性结构，所以查询某一个节点的时候