在将 900 万行的批处理写入 12 节点的 cassandra (2.1.2) 集群时，我遇到了 spark-cassandra-connector (1.0.4, 1.1.0) 的问题。我正在以一致性 ALL 写入并以一致性 ONE 读取，但每次读取的行数都不同于 900 万(8.865.753、8.753.213 等)。
我检查了连接器的代码，没有发现任何问题。然后，我决定独立于 spark 和连接器编写自己的应用程序来调查问题(唯一的依赖项是 datastax-driver-code 版本 2.1.3)。
完整代码、启动脚本和配置文件现在可以是 found on github .
在伪代码中，我编写了两个不同版本的应用程序，同步版本:
try (Session session = cluster.connect()) {
String cql = "insert into <<a table with 9 normal fields and 2 collections>>";
PreparedStatement pstm = session.prepare(cql);
for(String partitionKey : keySource) {
// keySource is an Iterable<String> of partition keys
BoundStatement bound = pstm.bind(partitionKey /*, << plus the other parameters >> */);
bound.setConsistencyLevel(ConsistencyLevel.ALL);
session.execute(bound);
}
}
异步的:
try (Session session = cluster.connect()) {
List<ResultSetFuture> futures = new LinkedList<ResultSetFuture>();
String cql = "insert into <<a table with 9 normal fields and 2 collections>>";
PreparedStatement pstm = session.prepare(cql);
for(String partitionKey : keySource) {
// keySource is an Iterable<String> of partition keys
while(futures.size()>=10 /* Max 10 concurrent writes */) {
// Wait for the first issued write to terminate
ResultSetFuture future = futures.get(0);
future.get();
futures.remove(0);
}
BoundStatement bound = pstm.bind(partitionKey /*, << plus the other parameters >> */);
bound.setConsistencyLevel(ConsistencyLevel.ALL);
futures.add(session.executeAsync(bound));
}
while(futures.size()>0) {
// Wait for the other write requests to terminate
ResultSetFuture future = futures.get(0);
future.get();
futures.remove(0);
}
}
最后一个与非批量配置情况下连接器使用的类似。
应用程序的两个版本在所有情况下都工作相同，除非负载很高。
例如，当在 9 台机器(45 个线程)上运行具有 5 个线程的同步版本时，向集群写入 900 万行，我在后续读取中找到了所有行(使用 spark-cassandra-connector)。
如果我使用每台机器 1 个线程(9 个线程)运行异步版本，执行速度会快得多，但我无法在后续读取中找到所有行(与 spark-cassandra-connector 出现的问题相同)。
代码在执行过程中没有抛出异常。
问题的原因可能是什么？
我添加了一些其他结果(感谢评论):
问题似乎开始出现在异步写入和多个并发写入器 > 45 和 <= 90="">
最后的发现表明，大量并发编写器 (90) 并不是第一次测试中预期的问题。问题是使用同一 session 的大量异步写入。
在同一 session 上有 5 个并发异步写入时，问题不存在。如果我将并发写入数增加到 10，一些操作会在没有通知的情况下丢失。
如果您在同一 session 上同时发出多个 (>5) 写入操作，那么 Cassandra 2.1.2(或 Cassandra Java 驱动程序)中的异步写入似乎会被破坏。
最佳答案
尼古拉和我本周末通过电子邮件进行了交流，我想我会在这里提供我当前理论的更新。我看了一下 github project Nicola 分享并试验了 EC2 上的 8 节点集群。
我能够使用 2.1.2 重现该问题，但确实观察到一段时间后我可以重新执行 spark 作业并返回所有 900 万行。
我似乎注意到，当节点处于压缩状态时，我并没有得到全部 900 万行。一时兴起，我看了看 change log for 2.1并观察到一个问题 CASSANDRA-8429 - "Some keys unreadable during compaction"这或许可以解释这个问题。
看到问题已针对 2.1.3 解决，我针对 cassandra-2.1 分支重新运行测试并在压缩 Activity 发生时运行计数作业，并返回了 900 万行。
我想对此进行更多试验，因为我对 cassandra-2.1 分支的测试相当有限，而且压缩 Activity 可能纯属巧合，但我希望这可以解释这些问题。
关于java - 异步写入似乎在 Cassandra 中被破坏，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/27667228/
exe应该在我打开页面时运行。异步进程需要运行。有什么方法可以在ruby中使用两个参数异步运行exe吗？我已经尝试过ruby命令-system()、exec()但它正在等待过程完成。我需要用参数启动exe，无需等待进程完成是否有任何rubygems会支持我的问题？ 最佳答案 您可以使用Process.spawn和Process.wait2:pid=Process.spawn'your.exe','--option'#Later...pid,status=Process.wait2pid您的程序将作为解释器的子进程执行。除
好的，所以我的目标是轻松地将一些数据保存到磁盘以备后用。您如何简单地写入然后读取一个对象？所以如果我有一个简单的类classCattr_accessor:a,:bdefinitialize(a,b)@a,@b=a,bendend所以如果我从中非常快地制作一个objobj=C.new("foo","bar")#justgaveitsomerandomvalues然后我可以把它变成一个kindaidstring=obj.to_s#whichreturns""我终于可以将此字符串打印到文件或其他内容中。我的问题是，我该如何再次将这个id变回一个对象？我知道我可以自己挑选信息并制作一个接受该信
我真的很习惯使用Ruby编写以下代码:my_hash={}my_hash['test']=1Java中对应的数据结构是什么？ 最佳答案 HashMapmap=newHashMap();map.put("test",1);我假设？ 关于java-等价于Java中的RubyHash，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.com/questions/22737685/
我正在尝试使用boilerpipe来自JRuby。我看过guide从JRuby调用Java，并成功地将它与另一个Java包一起使用，但无法弄清楚为什么同样的东西不能用于boilerpipe。我正在尝试基本上从JRuby中执行与此Java等效的操作:URLurl=newURL("http://www.example.com/some-location/index.html");Stringtext=ArticleExtractor.INSTANCE.getText(url);在JRuby中试过这个:require'java'url=java.net.URL.new("http://www
我只想对我一直在思考的这个问题有其他意见，例如我有classuser_controller和classuserclassUserattr_accessor:name,:usernameendclassUserController//dosomethingaboutanythingaboutusersend问题是我的User类中是否应该有逻辑user=User.newuser.do_something(user1)oritshouldbeuser_controller=UserController.newuser_controller.do_something(user1,user2)我
什么是ruby的rack或python的Java的wsgi？还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht
这篇文章是继上一篇文章“Observability：从零开始创建Java微服务并监控它（一）”的续篇。在上一篇文章中，我们讲述了如何创建一个Javaweb应用，并使用Filebeat来收集应用所生成的日志。在今天的文章中，我来详述如何收集应用的指标，使用APM来监控应用并监督web服务的在线情况。源码可以在地址 https://github.com/liu-xiao-guo/java_observability 进行下载。摄入指标指标被视为可以随时更改的时间点值。当前请求的数量可以改变任何毫秒。你可能有1000个请求的峰值，然后一切都回到一个请求。这也意味着这些指标可能不准确，你还想提取最小/
HashMap中为什么引入红黑树，而不是AVL树呢1.概述开始学习这个知识点之前我们需要知道，在JDK1.8以及之前，针对HashMap有什么不同。JDK1.7的时候，HashMap的底层实现是数组+链表JDK1.8的时候，HashMap的底层实现是数组+链表+红黑树我们要思考一个问题，为什么要从链表转为红黑树呢。首先先让我们了解下链表有什么不好？？？2.链表上述的截图其实就是链表的结构，我们来看下链表的增删改查的时间复杂度增：因为链表不是线性结构，所以每次添加的时候，只需要移动一个节点，所以可以理解为复杂度是N(1)删：算法时间复杂度跟增保持一致查：既然是非线性结构，所以查询某一个节点的时候
Heroku支持人员告诉我，为了在我的Web应用程序中使用自定义字体(未安装在系统中，您可以在bash控制台中使用fc-list查看已安装的字体)我必须部署一个包含所有字体的.fonts文件夹里面的字体。问题是我不知道该怎么做。我的意思是，我不知道文件名是否必须遵循heroku的任何特殊模式，或者我必须在我的代码中做一些事情来考虑这种字体，或者如果我将它包含在文件夹中它是自动的......事实是，我尝试以不同的方式更改字体的文件名，但根本没有使用该字体。为了提供更多详细信息，我们使用字体的过程是将PDF转换为图像，更具体地说，使用rghostgem。并且最终图像根本不使用自定义字体。在
遍历文件夹我们通常是使用递归进行操作，这种方式比较简单，也比较容易理解。本文为大家介绍另一种不使用递归的方式，由于没有使用递归，只用到了循环和集合，所以效率更高一些！一、使用递归遍历文件夹整体思路1、使用File封装初始目录，2、打印这个目录3、获取这个目录下所有的子文件和子目录的数组。4、遍历这个数组，取出每个File对象4-1、如果File是否是一个文件，打印4-2、否则就是一个目录，递归调用代码实现publicclassSearchFile{publicstaticvoidmain(String[]args){//初始目录Filedir=newFile("d:/Dev");Datebeg