草庐IT

c++ - 如何为 C++ 多线程应用程序选择正确的线程数?

coder 2023-06-20 原文

我是 C++ 后端开发人员。我为实时游戏开发服务器端。因此,应用程序架构如下所示:

1) 我有一个客户端类,它处理来自游戏客户端的请求。请求示例:登录、在商店(游戏内部商店)购买东西或制作东西。此客户端还处理来自游戏客户端的用户输入事件(通常是事件,当玩家玩游戏时,它每秒从游戏客户端发送十次到服务器)。

2) 我有线程池。当游戏客户端连接到服务器时,我创建客户端实例并将它们绑定(bind)到池中的线程之一。所以,我们有一对多的关系:一个线程 - 许多客户。循环法用于选择线程进行绑定(bind)。

3) 我使用 Libev 来管理服务器内的所有事件。这意味着当客户端实例通过网络从游戏客户端接收到一些数据,或者处理一些请求,或者试图通过网络向游戏客户端发送一些数据时,他会锁定他的线程。当他制作一些东西时,共享相同线程的其他客户端将被锁定。

所以,线程池是应用的瓶颈。为了增加服务器上的并发玩家数量,他们可以无延迟地玩游戏,我需要增加线程池中的线程数量。

现在应用程序在具有 24 个逻辑 cpu 的服务器上工作(cat/proc/cpuinfo 这么说)。我将线程池大小设置为 24(1 个处理器 - 1 个线程)。这意味着,对于当前在线的 2000 名玩家,每个线程为大约 84 个客户端实例提供服务。 top 表示处理器使用了不到 10%。

现在提问。如果我增加线程池中的线程数,它会增加还是减少服务器性能(上下文切换开销与每个线程的锁定客户端)?

UPD 1) 服务器有异步 IO (libev + epoll),所以当我说客户端在发送和接收数据时锁定时我的意思是应对缓冲区。 2)服务器也有后台线程用于慢任务:数据库操作,硬计算操作,......

最佳答案

很少有问题。

2) I have thread pool. When game client connect to server I create Client instance and bind them to one of threads from pool. So, we have relationships one to many: one thread - many Clients. Round-robin used to chose thread for binding.

你在任何一点上都没有提到异步 IO,我相信你真正的瓶颈不是线程数,而是线程因为 IO 操作而被阻塞的事实。通过使用异步 IO(不是另一个线程上的 IO 操作)- 服务器的吞吐量增加了巨大的数量级。

3) I use Libev to manage all events inside server. It's mean when Client instance receive some data from game client through network, or handle some request, or trying to send some data through network to game client he lock hi's thread. While he make some stuff other Clients, which share same thread will be locked.

同样,如果没有异步 IO,这个架构非常像 90 年代的服务器端架构(a-la Apache 风格)。为了获得最佳性能,您的线程应该只执行 CPU 绑定(bind)任务,而不应该等待任何 IO 操作。

So, thread pool is bottleneck for application. To increase number concurrent players on server, who will play without lags I need increase number of threads in thread pool.

大错特错。阅读有关 10k 并发问题的信息。

Now question. If I increase number of threads in thread pool is It increase or decrease server performance (Context switching overhead vs locked Clients per thread)?

因此,关于线程数作为核心数的轶事仅在您的线程执行 cpu 绑定(bind)任务并且它们永远不会被阻塞并且它们 100% 饱和 cpu 任务时才有效。如果您的线程也被锁或 IO 操作阻塞,那么这个事实就不成立了。

如果我们看一下常见的服务器端架构,我们可以确定我们需要的最佳设计

Apache 风格架构:
有一个固定大小的线程池。为连接队列中的每个连接分配一个线程。非异步IO。
优点: 非。
缺点:吞吐量极差

NGNix/Node.js 架构:
具有单线程 - 多处理应用程序。使用异步 IO。
优点:简单的架构,消除了多线程问题。与提供静态数据的服务器配合得非常好。
缺点:如果进程必须共享数据,大量的 CPU 时间会消耗在进程之间的序列化-传递-反序列化数据上。此外,如果处理得当,多线程应用程序可以提高性能。

现代 .Net 架构:
具有多线程单声道处理的应用程序。使用异步 IO。
优点:如果操作正确,性能会非常出色!
缺点:调整多线程应用程序并在不损坏共享数据的情况下使用它有点棘手。

总而言之,我认为在您的特定情况下,您应该明确地仅使用异步 IO + 拥有一个线程数等于内核数的线程池。

如果您使用的是 Linux,Facebook 的 Proxygen可以为您管理我们讨论的所有内容(具有异步 IO 的多线程代码)。嘿,Facebook 正在使用它!

关于c++ - 如何为 C++ 多线程应用程序选择正确的线程数?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/36735272/

有关c++ - 如何为 C++ 多线程应用程序选择正确的线程数?的更多相关文章

  1. ruby - 在 Ruby 程序执行时阻止 Windows 7 PC 进入休眠状态 - 2

    我需要在客户计算机上运行Ruby应用程序。通常需要几天才能完成(复制大备份文件)。问题是如果启用sleep,它会中断应用程序。否则,计算机将持续运行数周,直到我下次访问为止。有什么方法可以防止执行期间休眠并让Windows在执行后休眠吗?欢迎任何疯狂的想法;-) 最佳答案 Here建议使用SetThreadExecutionStateWinAPI函数,使应用程序能够通知系统它正在使用中,从而防止系统在应用程序运行时进入休眠状态或关闭显示。像这样的东西:require'Win32API'ES_AWAYMODE_REQUIRED=0x0

  2. ruby - 将差异补丁应用于字符串/文件 - 2

    对于具有离线功能的智能手机应用程序,我正在为Xml文件创建单向文本同步。我希望我的服务器将增量/差异(例如GNU差异补丁)发送到目标设备。这是计划:Time=0Server:hasversion_1ofXmlfile(~800kiB)Client:hasversion_1ofXmlfile(~800kiB)Time=1Server:hasversion_1andversion_2ofXmlfile(each~800kiB)computesdeltaoftheseversions(=patch)(~10kiB)sendspatchtoClient(~10kiBtransferred)Cl

  3. ruby - 如何指定 Rack 处理程序 - 2

    Rackup通过Rack的默认处理程序成功运行任何Rack应用程序。例如:classRackAppdefcall(environment)['200',{'Content-Type'=>'text/html'},["Helloworld"]]endendrunRackApp.new但是当最后一行更改为使用Rack的内置CGI处理程序时,rackup给出“NoMethodErrorat/undefinedmethod`call'fornil:NilClass”:Rack::Handler::CGI.runRackApp.newRack的其他内置处理程序也提出了同样的反对意见。例如Rack

  4. ruby - 在 Ruby 中编写命令行实用程序 - 2

    我想用ruby​​编写一个小的命令行实用程序并将其作为gem分发。我知道安装后,Guard、Sass和Thor等某些gem可以从命令行自行运行。为了让gem像二进制文件一样可用,我需要在我的gemspec中指定什么。 最佳答案 Gem::Specification.newdo|s|...s.executable='name_of_executable'...endhttp://docs.rubygems.org/read/chapter/20 关于ruby-在Ruby中编写命令行实用程序

  5. ruby-on-rails - Rails 应用程序之间的通信 - 2

    我构建了两个需要相互通信和发送文件的Rails应用程序。例如,一个Rails应用程序会发送请求以查看其他应用程序数据库中的表。然后另一个应用程序将呈现该表的json并将其发回。我还希望一个应用程序将存储在其公共(public)目录中的文本文件发送到另一个应用程序的公共(public)目录。我从来没有做过这样的事情,所以我什至不知道从哪里开始。任何帮助,将不胜感激。谢谢! 最佳答案 无论Rails是什么,几乎所有Web应用程序都有您的要求,大多数现代Web应用程序都需要相互通信。但是有一个小小的理解需要你坚持下去,网站不应直接访问彼此

  6. ruby - 无法运行 Rails 2.x 应用程序 - 2

    我尝试运行2.x应用程序。我使用rvm并为此应用程序设置其他版本的ruby​​:$rvmuseree-1.8.7-head我尝试运行服务器,然后出现很多错误:$script/serverNOTE:Gem.source_indexisdeprecated,useSpecification.Itwillberemovedonorafter2011-11-01.Gem.source_indexcalledfrom/Users/serg/rails_projects_terminal/work_proj/spohelp/config/../vendor/rails/railties/lib/r

  7. ruby - 如何为 emacs 安装 ruby​​-mode - 2

    我刚刚为fedora安装了emacs。我想用emacs编写ruby。为ruby​​提供代码提示、代码完成类型功能所需的工具、扩展是什么? 最佳答案 ruby-mode已经包含在Emacs23之后的版本中。不过,它也可以通过ELPA获得。您可能感兴趣的其他一些事情是集成RVM、feature-mode(Cucumber)、rspec-mode、ruby-electric、inf-ruby、rinari(用于Rails)等。这是我当前用于Ruby开发的Emacs配置:https://github.com/citizen428/emacs

  8. ruby-on-rails - 如何优雅地重启 thin + nginx? - 2

    我的瘦服务器配置了nginx,我的ROR应用程序正在它们上运行。在我发布代码更新时运行thinrestart会给我的应用程序带来一些停机时间。我试图弄清楚如何优雅地重启正在运行的Thin实例,但找不到好的解决方案。有没有人能做到这一点? 最佳答案 #Restartjustthethinserverdescribedbythatconfigsudothin-C/etc/thin/mysite.ymlrestartNginx将继续运行并代理请求。如果您将Nginx设置为使用多个上游服务器,例如server{listen80;server

  9. ruby-on-rails - 如何使用 instance_variable_set 正确设置实例变量? - 2

    我正在查看instance_variable_set的文档并看到给出的示例代码是这样做的:obj.instance_variable_set(:@instnc_var,"valuefortheinstancevariable")然后允许您在类的任何实例方法中以@instnc_var的形式访问该变量。我想知道为什么在@instnc_var之前需要一个冒号:。冒号有什么作用? 最佳答案 我的第一直觉是告诉你不要使用instance_variable_set除非你真的知道你用它做什么。它本质上是一种元编程工具或绕过实例变量可见性的黑客攻击

  10. ruby-on-rails - Rails 应用程序中的 Rails : How are you using application_controller. rb 是新手吗? - 2

    刚入门rails,开始慢慢理解。有人可以解释或给我一些关于在application_controller中编码的好处或时间和原因的想法吗?有哪些用例。您如何为Rails应用程序使用应用程序Controller?我不想在那里放太多代码,因为据我了解,每个请求都会调用此Controller。这是真的? 最佳答案 ApplicationController实际上是您应用程序中的每个其他Controller都将从中继承的类(尽管这不是强制性的)。我同意不要用太多代码弄乱它并保持干净整洁的态度,尽管在某些情况下ApplicationContr

随机推荐