草庐IT

java - RabbitMQ 对 EC2 性能的挑战

coder 2024-03-14 原文

RabbitMQ 在 EC2 上的性能预期是什么?非常感谢在这里分享经验。

我正在尝试在 aws EC2 上对 RabbitMQ 进行一些性能测试。我为 RabbitMQ、发布者和消费者/工作人员运行了 3 个单独的 EC2 实例。

我的场景是 Publisher 推送 JSON 字符串(大约 165-200 字节)以直接交换类型并将持久设置为 true 并绑定(bind)队列并将持久设置为 true(即均处于持久模式)。消费者/ worker 在单独的盒子上运行 - 不断拉取消息。 (在 worker 中向前推进这些消息预计将保留在 MongoDB 中,Publisher 将被使用 REST easy 的 Restful 服务替换)

为简单起见,我使用多播示例代码模拟了这种情况。我将多播代码拆分为两个单独的 java 文件,即“Producer”和“Worker”,分别在单独的机器上运行。我使用“c1.mediam”EC2 和 Ubuntu 服务器 v11.4 32 位运行生产者和消费者,“m1.large”和 Ubuntu 服务器 v11.4 64 位用于 RabbitMQ。

我能够实现每秒 3-5k 消息的吞吐量,即将学习消息推送速率保持在 5K。 (这与 http://www.rabbitmq.com/faq.html#performance-latency 一致)

此外,当我将推送速率提高到每秒 10-12k 条消息时。消费者消费消息的能力下降到每秒 1-2k 条消息,并产生积压(很多时候它也低于每秒 800 条消息)。

在上述情况下,我有以下问题,希望能提出提高消费者吞吐量的想法/建议。 (注意:我的场景中的所有消息都应该是相似的类型,没有机会对它们进行分组以设置路由,因此可能需要某种负载均衡器方法)

1) 这种性能是在一台 rabbitMQ 服务器、一个交换器和一个队列上观察到的。是否可以进一步配置、微调以在持久模式下将吞吐量提高到 5k 以上。

2) 我明白,集群可能是另一种选择。但是,我需要根据传入负载设置集群,并且我可能无法获得消息分组/身份来定义路由(因为消息应该只是日志描述)。我可以在工作人员/消费者的负载平衡选项之后进行集群吗?

3) 我预计每秒处理几十万个请求。我很乐意分享一些实现这一目标的经验和方法。

最佳答案

您为 EC2 实例使用什么类型的存储? EBS 存储更可靠,但有时它的吞吐量非常低(特别是如果它是一个小规模的 EBS 卷,即 <100gb)。另一方面,实例存储具有更好的 io="" 性能(至少根据我们的经验),但只能在实例运行时“存活”。="" 此外,您使用的实例类型也大不相同。="" m1.small="" 和="" c1.medium="" 都具有中等="" io="" 性能="">

我们在 EC2 中运行 RabbitMQ,并持久保存所有消息。我们仅使用 m1.large 实例(具有高 IO 性能的 64 位)。我们从 EBS 存储开始,然后切换到实例存储,看看是否有任何改进。而实例存储实例在 IO 吞吐量方面更快。但是,缺点是所有持久化消息都会随着实例的终止/失败而丢失(尽管到目前为止我们从未经历过失败)。 在我们的场景中,我们不需要这么大的吞吐量,但我们非常关心我们的消息是否丢失:-)

总而言之,您可以尝试切换到实例存储设置,看看它的处理方式是否有任何改进。如果效果更好,那么我认为 http://www.rabbitmq.com/pacemaker.html是克服失败的解决方案。至少这是我们正在转向的方向。

干杯

关于java - RabbitMQ 对 EC2 性能的挑战,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/6939110/

有关java - RabbitMQ 对 EC2 性能的挑战的更多相关文章

  1. java - 等价于 Java 中的 Ruby Hash - 2

    我真的很习惯使用Ruby编写以下代码:my_hash={}my_hash['test']=1Java中对应的数据结构是什么? 最佳答案 HashMapmap=newHashMap();map.put("test",1);我假设? 关于java-等价于Java中的RubyHash,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/22737685/

  2. java - 从 JRuby 调用 Java 类的问题 - 2

    我正在尝试使用boilerpipe来自JRuby。我看过guide从JRuby调用Java,并成功地将它与另一个Java包一起使用,但无法弄清楚为什么同样的东西不能用于boilerpipe。我正在尝试基本上从JRuby中执行与此Java等效的操作:URLurl=newURL("http://www.example.com/some-location/index.html");Stringtext=ArticleExtractor.INSTANCE.getText(url);在JRuby中试过这个:require'java'url=java.net.URL.new("http://www

  3. java - 我的模型类或其他类中应该有逻辑吗 - 2

    我只想对我一直在思考的这个问题有其他意见,例如我有classuser_controller和classuserclassUserattr_accessor:name,:usernameendclassUserController//dosomethingaboutanythingaboutusersend问题是我的User类中是否应该有逻辑user=User.newuser.do_something(user1)oritshouldbeuser_controller=UserController.newuser_controller.do_something(user1,user2)我

  4. java - 什么相当于 ruby​​ 的 rack 或 python 的 Java wsgi? - 2

    什么是ruby​​的rack或python的Java的wsgi?还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht

  5. Observability:从零开始创建 Java 微服务并监控它 (二) - 2

    这篇文章是继上一篇文章“Observability:从零开始创建Java微服务并监控它(一)”的续篇。在上一篇文章中,我们讲述了如何创建一个Javaweb应用,并使用Filebeat来收集应用所生成的日志。在今天的文章中,我来详述如何收集应用的指标,使用APM来监控应用并监督web服务的在线情况。源码可以在地址 https://github.com/liu-xiao-guo/java_observability 进行下载。摄入指标指标被视为可以随时更改的时间点值。当前请求的数量可以改变任何毫秒。你可能有1000个请求的峰值,然后一切都回到一个请求。这也意味着这些指标可能不准确,你还想提取最小/

  6. 【Java 面试合集】HashMap中为什么引入红黑树,而不是AVL树呢 - 2

    HashMap中为什么引入红黑树,而不是AVL树呢1.概述开始学习这个知识点之前我们需要知道,在JDK1.8以及之前,针对HashMap有什么不同。JDK1.7的时候,HashMap的底层实现是数组+链表JDK1.8的时候,HashMap的底层实现是数组+链表+红黑树我们要思考一个问题,为什么要从链表转为红黑树呢。首先先让我们了解下链表有什么不好???2.链表上述的截图其实就是链表的结构,我们来看下链表的增删改查的时间复杂度增:因为链表不是线性结构,所以每次添加的时候,只需要移动一个节点,所以可以理解为复杂度是N(1)删:算法时间复杂度跟增保持一致查:既然是非线性结构,所以查询某一个节点的时候

  7. 【Java入门】使用Java实现文件夹的遍历 - 2

    遍历文件夹我们通常是使用递归进行操作,这种方式比较简单,也比较容易理解。本文为大家介绍另一种不使用递归的方式,由于没有使用递归,只用到了循环和集合,所以效率更高一些!一、使用递归遍历文件夹整体思路1、使用File封装初始目录,2、打印这个目录3、获取这个目录下所有的子文件和子目录的数组。4、遍历这个数组,取出每个File对象4-1、如果File是否是一个文件,打印4-2、否则就是一个目录,递归调用代码实现publicclassSearchFile{publicstaticvoidmain(String[]args){//初始目录Filedir=newFile("d:/Dev");Datebeg

  8. java - 为什么 ruby​​ modulo 与 java/other lang 不同? - 2

    我基本上来自Java背景并且努力理解Ruby中的模运算。(5%3)(-5%3)(5%-3)(-5%-3)Java中的上述操作产生,2个-22个-2但在Ruby中,相同的表达式会产生21个-1-2.Ruby在逻辑上有多擅长这个?模块操作在Ruby中是如何实现的?如果将同一个操作定义为一个web服务,两个服务如何匹配逻辑。 最佳答案 在Java中,模运算的结果与被除数的符号相同。在Ruby中,它与除数的符号相同。remainder()在Ruby中与被除数的符号相同。您可能还想引用modulooperation.

  9. java - Ruby 相当于 Java 的 Collections.unmodifiableList 和 Collections.unmodifiableMap - 2

    Java的Collections.unmodifiableList和Collections.unmodifiableMap在Ruby标准API中是否有等价物? 最佳答案 使用freeze应用程序接口(interface):Preventsfurthermodificationstoobj.ARuntimeErrorwillberaisedifmodificationisattempted.Thereisnowaytounfreezeafrozenobject.SeealsoObject#frozen?.Thismethodretur

  10. Ruby 的数字方法性能 - 2

    我正在使用Ruby解决一些ProjectEuler问题,特别是这里我要讨论的问题25(Fibonacci数列中包含1000位数字的第一项的索引是多少?)。起初,我使用的是Ruby2.2.3,我将问题编码为:number=3a=1b=2whileb.to_s.length但后来我发现2.4.2版本有一个名为digits的方法,这正是我需要的。我转换为代码:whileb.digits.length当我比较这两种方法时,digits慢得多。时间./025/problem025.rb0.13s用户0.02s系统80%cpu0.190总计./025/problem025.rb2.19s用户0.0

随机推荐