草庐IT

c++ - 使用异步 I/O 和 IOCP 实现回声服务器的最佳方法是什么?

coder 2024-06-04 原文

众所周知,回显服务器是从套接字读取数据并将该数据写入另一个套接字的服务器。

由于 Windows I/O Completion 端口为您提供了不同的处理方式,我想知道实现回显服务器的最佳方式(最有效)是什么。我肯定会找到一个测试过我将在这里描述的方法的人,并且可以贡献他/她的贡献。

我的类(class)是 Stream它抽象了一个套接字、命名管道或其他任何东西,以及 IoRequest它抽象了 OVERLAPPED结构和内存缓冲区来做 I/O(当然,适合读和写)。这样当我分配一个 IoRequest我只是为数据 + OVERLAPPED 的内存缓冲区分配内存一枪搞定,所以我调用malloc()只有一次。
除此之外,我还在IoRequest中实现了花哨和有用的东西。对象,例如原子引用计数器等。

说了这么多,下面我们来探讨一下做最好的echo server的方法:

------------------------------------------- 方法A。--- -------------------------------

1)“reader”套接字完成读取,IOCP回调返回,你有一个IoRequest刚刚完成了内存缓冲区。

2)让我们复制刚刚用“reader”接收到的缓冲区IoRequest致“作家”IoRequest . (这将涉及 memcpy() 或其他任何内容)。

3) 让我们用 ReadFile() 再次触发新的阅读在“阅读器”中,同IoRequest用于阅读。

4) 让我们用 WriteFile() 写一篇新文章在“作家”。

------------------------------------------- 方法B。--- -------------------------------

1)“reader”套接字完成读取,IOCP回调返回,你有一个IoRequest刚刚完成了内存缓冲区。

2) 不复制数据,而是传递 IoRequest到“writer”进行写入,无需使用 memcpy() 复制数据.

3) “读者”现在需要一个新的 IoRequest继续阅读,分配一个新的或传递之前已经分配的一个,也许在新的写入发生之前刚刚完成写入。

因此,在第一种情况下,每个 Stream对象有自己的IoRequest , 数据用 memcpy() 复制或类似的功能,一切正常。
在第二种情况下 2 Stream对象确实通过 IoRequest相互对象,不复制数据,但它有点复杂,你必须管理IoRequest的“交换” 2 Stream之间的对象对象,可能存在同步问题的缺点(那些完成在不同线程中发生的情况如何?)

我的问题是:

Q1) 避免复制数据真的值得吗!?
使用 memcpy() 复制 2 个缓冲区或类似的,非常快,也是因为 CPU 缓存就是为此目的而开发的。
让我们考虑一下,使用第一种方法,我有可能从一个“读取器”套接字回声到多个“写入器”套接字,但使用第二种方法我不能这样做,因为我应该创建 N 个新 IoRequest每个 N 个作者的对象,因为每个 WriteFile()需要自己的OVERLAPPED结构体。

Q2) 我猜当我用 WriteFile() 为 N 个不同的套接字触发一个新的 N 个写作时,我要提供N种不同的OVERLAPPED结构 AND N 个不同的缓冲区在哪里读取数据。
或者,我可以解雇 N WriteFile() N 个不同的调用 OVERLAPPED从 N 个套接字的同一个缓冲区中获取数据?

最佳答案

Is avoiding copying data really worth it!?



取决于你复制多少。 10 个字节,不多。 10MB,那么是的,值得避免复制!

在这种情况下,因为您已经有一个包含 rx 数据和一个 OVERLAPPED 块的对象,所以复制它似乎没有意义——只需将它重新发布到 WSASend() 或其他任何东西。

but with the second one I can't do that


您可以,但您需要从“缓冲区”类中抽象出“IORequest”类。缓冲区保存数据、原子整数引用计数和所有调用的任何其他管理信息、IOrequest OVERLAPPED 块以及数据指针和每个调用的任何其他管理信息。此信息可能具有缓冲区对象的原子 int 引用计数。

IOrequest 是用于每个发送调用的类。由于它只包含一个指向缓冲区的指针,因此不需要复制数据,因此它相当小,并且数据大小为 O(1)。

当 tx 完成进入时,处理程序线程获取 IOrequest,取消引用缓冲区并将其中的原子整数减至零。设法命中 0 的线程知道不再需要缓冲区对象并且可以将其删除(或者,更有可能,在高性能服务器中,将其重新池化以供以后重用)。

Or, I can fire N WriteFile() calls with N different OVERLAPPED taking the data from the same buffer for the N sockets?



是的你可以。看上面。

关于。线程 - 当然,如果可以从多个完成处理程序线程访问您的“管理数据”,那么是的,您可能希望使用临界区来保护它,但原子 int 应该为缓冲区引用计数做。

关于c++ - 使用异步 I/O 和 IOCP 实现回声服务器的最佳方法是什么?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/26430502/

有关c++ - 使用异步 I/O 和 IOCP 实现回声服务器的最佳方法是什么?的更多相关文章

  1. ruby - 如何使用 Nokogiri 的 xpath 和 at_xpath 方法 - 2

    我正在学习如何使用Nokogiri,根据这段代码我遇到了一些问题:require'rubygems'require'mechanize'post_agent=WWW::Mechanize.newpost_page=post_agent.get('http://www.vbulletin.org/forum/showthread.php?t=230708')puts"\nabsolutepathwithtbodygivesnil"putspost_page.parser.xpath('/html/body/div/div/div/div/div/table/tbody/tr/td/div

  2. ruby - 使用 RubyZip 生成 ZIP 文件时设置压缩级别 - 2

    我有一个Ruby程序,它使用rubyzip压缩XML文件的目录树。gem。我的问题是文件开始变得很重,我想提高压缩级别,因为压缩时间不是问题。我在rubyzipdocumentation中找不到一种为创建的ZIP文件指定压缩级别的方法。有人知道如何更改此设置吗?是否有另一个允许指定压缩级别的Ruby库? 最佳答案 这是我通过查看ruby​​zip内部创建的代码。level=Zlib::BEST_COMPRESSIONZip::ZipOutputStream.open(zip_file)do|zip|Dir.glob("**/*")d

  3. ruby - 为什么我可以在 Ruby 中使用 Object#send 访问私有(private)/ protected 方法? - 2

    类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc

  4. ruby-on-rails - 使用 Ruby on Rails 进行自动化测试 - 最佳实践 - 2

    很好奇,就使用ruby​​onrails自动化单元测试而言,你们正在做什么?您是否创建了一个脚本来在cron中运行rake作业并将结果邮寄给您?git中的预提交Hook?只是手动调用?我完全理解测试,但想知道在错误发生之前捕获错误的最佳实践是什么。让我们理所当然地认为测试本身是完美无缺的,并且可以正常工作。下一步是什么以确保他们在正确的时间将可能有害的结果传达给您? 最佳答案 不确定您到底想听什么,但是有几个级别的自动代码库控制:在处理某项功能时,您可以使用类似autotest的内容获得关于哪些有效,哪些无效的即时反馈。要确保您的提

  5. ruby - 在 Ruby 中使用匿名模块 - 2

    假设我做了一个模块如下:m=Module.newdoclassCendend三个问题:除了对m的引用之外,还有什么方法可以访问C和m中的其他内容?我可以在创建匿名模块后为其命名吗(就像我输入“module...”一样)?如何在使用完匿名模块后将其删除,使其定义的常量不再存在? 最佳答案 三个答案:是的,使用ObjectSpace.此代码使c引用你的类(class)C不引用m:c=nilObjectSpace.each_object{|obj|c=objif(Class===objandobj.name=~/::C$/)}当然这取决于

  6. ruby - 使用 ruby​​ 和 savon 的 SOAP 服务 - 2

    我正在尝试使用ruby​​和Savon来使用网络服务。测试服务为http://www.webservicex.net/WS/WSDetails.aspx?WSID=9&CATID=2require'rubygems'require'savon'client=Savon::Client.new"http://www.webservicex.net/stockquote.asmx?WSDL"client.get_quotedo|soap|soap.body={:symbol=>"AAPL"}end返回SOAP异常。检查soap信封,在我看来soap请求没有正确的命名空间。任何人都可以建议我

  7. python - 如何使用 Ruby 或 Python 创建一系列高音调和低音调的蜂鸣声? - 2

    关闭。这个问题是opinion-based.它目前不接受答案。想要改进这个问题?更新问题,以便editingthispost可以用事实和引用来回答它.关闭4年前。Improvethisquestion我想在固定时间创建一系列低音和高音调的哔哔声。例如:在150毫秒时发出高音调的蜂鸣声在151毫秒时发出低音调的蜂鸣声200毫秒时发出低音调的蜂鸣声250毫秒的高音调蜂鸣声有没有办法在Ruby或Python中做到这一点?我真的不在乎输出编码是什么(.wav、.mp3、.ogg等等),但我确实想创建一个输出文件。

  8. ruby-on-rails - Rails - 子类化模型的设计模式是什么? - 2

    我有一个模型:classItem项目有一个属性“商店”基于存储的值,我希望Item对象对特定方法具有不同的行为。Rails中是否有针对此的通用设计模式?如果方法中没有大的if-else语句,这是如何干净利落地完成的? 最佳答案 通常通过Single-TableInheritance. 关于ruby-on-rails-Rails-子类化模型的设计模式是什么?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.co

  9. ruby-on-rails - 'compass watch' 是如何工作的/它是如何与 rails 一起使用的 - 2

    我在我的项目目录中完成了compasscreate.和compassinitrails。几个问题:我已将我的.sass文件放在public/stylesheets中。这是放置它们的正确位置吗?当我运行compasswatch时,它不会自动编译这些.sass文件。我必须手动指定文件:compasswatchpublic/stylesheets/myfile.sass等。如何让它自动运行?文件ie.css、print.css和screen.css已放在stylesheets/compiled。如何在编译后不让它们重新出现的情况下删除它们?我自己编译的.sass文件编译成compiled/t

  10. ruby - 具有身份验证的私有(private) Ruby Gem 服务器 - 2

    我想安装一个带有一些身份验证的私有(private)Rubygem服务器。我希望能够使用公共(public)Ubuntu服务器托管内部gem。我读到了http://docs.rubygems.org/read/chapter/18.但是那个没有身份验证-如我所见。然后我读到了https://github.com/cwninja/geminabox.但是当我使用基本身份验证(他们在他们的Wiki中有)时,它会提示从我的服务器获取源。所以。如何制作带有身份验证的私有(private)Rubygem服务器?这是不可能的吗?谢谢。编辑:Geminabox问题。我尝试“捆绑”以安装新的gem..

随机推荐