草庐IT

http - net/http : request canceled (Client. 等待 header 时超时)为什么/怎么办?

coder 2023-06-27 原文

TL:DR - 查看编辑 2 的 C# 等效代码 http 客户端代码,导致〜相同的问题,因此 Go http.Client 不是真正的问题,但一旦部署到 Azure,C# Web API ......

一旦部署到 Azure Web 应用程序 [2x 标准 S3],我从 C# Web API 获得非常糟糕的性能。起初我问的是:Go 的 http.Client 超时,但是用 C# 和 NodeJs 编写类似的客户端得到了相同的结果。

这是我的 http.Client:

func getWebClient() *http.Client {
    var netTransport = &http.Transport{
        Dial: (&net.Dialer{
            Timeout: 5 * time.Second,
        }).Dial,
        TLSHandshakeTimeout:   10 * time.Second,
        MaxIdleConnsPerHost:   2000,
        ResponseHeaderTimeout: 10 * time.Second,
    }

    var netClient = &http.Client{
        Timeout:   time.Second * 10,
        Transport: netTransport,
    }

    return netClient
}

我得到的错误:

net/http:请求已取消(Client.Timeout 在等待 header 时超出)

它可以在 GET、POST、PUT 上。我遇到了这些错误,但使用 curl 运行失败的 GET 立即得到了回复。

这是我用来调用 API 的示例 Get 函数:

func get(path string, result interface{}) error {
    req, err := http.NewRequest("GET", webDALAPIURL+path, nil)
    if err != nil {
        return err
    }

    req.Header.Set("Content-Type", "application/json")

    wc := getWebClient()
    res, err := wc.Do(req)
    if err != nil {
        return err
    }
    defer res.Body.Close()

    if res.StatusCode >= 400 {
        return fmt.Errorf("[GET] %d - %s", res.StatusCode, webDALAPIURL+path)
    }

    decoder := json.NewDecoder(res.Body)
    return decoder.Decode(result)
}

有趣的是,API 在本地运行时从未遇到过这些错误。 API 是一个 C# ASP.NET Web API 应用程序。

我开始遇到很多 TLS 握手错误,所以我放弃了 Azure 应用端点的 https。现在我收到了这个错误。

我正在跟踪应用程序的日志,但没有发生任何事情 [正在调用的 API]。似乎 Go 无法对同一主机进行多次调用。我没有在一个 cmd 中使用 goroutine 而在另一个 cmd 中使用它们,两者都会导致相同的错误。

当 API 在同一网络中的 Windows 计算机上运行时,在开发过程中从未出现过该错误。

编辑 1:

请注意,80-85% 的请求都运行良好,场景是(伪代码):

for item in items {
  http get /item/{id} => works 90% of the time, 10% timeout

  change item properties

  http PUT /item/{id} => works 80% of the time
}

我在 get() 函数中添加了重试,所以如果发生超时,它会重试获取,这似乎可行。虽然,我根本不喜欢这种解决方法。

另请注意,我们正在谈论返回超时的快速 GET,当我从 curl 运行它们时,它小于 1 秒。 PUT 也是如此,它们是高度简单的数据库 SELECT * FROM TABLE WHERE ID = {id} AND UPDATE。

运行 API 的 Azure Web 应用程序是标准 S3 的 2 个实例。

事实上,GET 的重试看起来很正常,这很可能是因为 API/Azure 应用程序没有承担负载,为了简单起见,这是不可能的,我们说的是少于 10 个请求/秒。

另一点不容忽视,当在开发服务器上运行时,使用了相同的 Azure SQL 数据库,因此 SELECT/UPDATE perf 在开发和 Azure Web App 上应该完全相同。

编辑 2:

比较从本地到 Azure 的相同 C# Web API 的速度令人不安。我编写了一个类似的 C# http 客户端来测试 Azure 与本地 Web API。

class Program
{
  static int fails = 0;
  static void Main(string[] args)
  {
    for (int i = 0; i < 2000; i++)
    {
      get(i);
    }
    Console.WriteLine("completed: " + fails.ToString());
    Console.ReadLine();
  }
  static void get(int id)
  {
    id += 22700;
    var c = new HttpClient();

    var resp = c.GetAsync("http://myapphere.azurewebsites.net/api/users/" + id).Result;
    if (!resp.IsSuccessStatusCode)
    {
      Console.WriteLine("");
      fails++;
      Console.WriteLine(string.Format("error getting /users status code {0}", resp.StatusCode));
    }
    else
    {
      Console.Write(".");
    }
  }
}

针对 Azure 运行此控制台应用程序我可以清楚地看到 Go 超时的地方,它非常慢,没有返回任何错误,但是 Console.Write(".");需要很长时间才能打印,是周期性的,可以比停止打印快 3-4 秒。

再次将此更改为 localhost:1078 使用相同的数据库 没有暂停,并且 Console.Write(".") 的打印速度比 Azure 快 20 倍.

这怎么可能?

编辑 3:

刚刚在web api上添加了全局错误处理程序,可能是抛出的异常过多导致的。添加了一个 Trace.TraceError 并且我 azure site log tail 它,再次没有显示任何内容。

我什至可以说本地 Web API 的运行速度比 Azure Standard S3 实例快 25-30 倍。显然这不可能是真的,但是 Web API 太简单了,我看不出我能做些什么来让 Azure 全速运行它。

最佳答案

我认为您可能想要使用诸如上下文、例程和 channel 之类的东西来不锁定您的主程序。类似于 c# 中的任务,它还可以为您提供更高的吞吐量和性能。

https://marcofranssen.nl/tags/go/

你可以找到我写的一堆博客文章。我也有 C# 背景,这些博客是我的一些经验教训。我确实在博客中提到了 c# 与 Go 的方法,这样您就可以轻松进行比较。

查看 go 例程和优雅的网络服务器帖子。您可能会在那里找到答案。

由于调用 .Result,您的 C# 实现也被阻塞

您应该使用 async await,它可以利用 Task 提高代码效率。

我预计您的 C# 服务器可能也没有使用 Task 作为返回类型,这意味着它将无法处理大量连接。一旦您在那里使用 Task 并在新线程中旋转代码,它们也将能够处理更多并发请求并可能更频繁地成功。所以基本上在单独的线程/任务中执行数据库操作,并确保处理数据库连接以防止内存泄漏。

这只是一个假设,因为我注意到这篇文章中的客户端代码也没有正确使用它。如果我的假设有误,请原谅我。

关于http - net/http : request canceled (Client. 等待 header 时超时)为什么/怎么办?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/38557968/

有关http - net/http : request canceled (Client. 等待 header 时超时)为什么/怎么办?的更多相关文章

  1. ruby - 为什么我可以在 Ruby 中使用 Object#send 访问私有(private)/ protected 方法? - 2

    类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc

  2. ruby-on-rails - Ruby net/ldap 模块中的内存泄漏 - 2

    作为我的Rails应用程序的一部分,我编写了一个小导入程序,它从我们的LDAP系统中吸取数据并将其塞入一个用户表中。不幸的是,与LDAP相关的代码在遍历我们的32K用户时泄漏了大量内存,我一直无法弄清楚如何解决这个问题。这个问题似乎在某种程度上与LDAP库有关,因为当我删除对LDAP内容的调用时,内存使用情况会很好地稳定下来。此外,不断增加的对象是Net::BER::BerIdentifiedString和Net::BER::BerIdentifiedArray,它们都是LDAP库的一部分。当我运行导入时,内存使用量最终达到超过1GB的峰值。如果问题存在,我需要找到一些方法来更正我的代

  3. ruby-on-rails - Rails - 子类化模型的设计模式是什么? - 2

    我有一个模型:classItem项目有一个属性“商店”基于存储的值,我希望Item对象对特定方法具有不同的行为。Rails中是否有针对此的通用设计模式?如果方法中没有大的if-else语句,这是如何干净利落地完成的? 最佳答案 通常通过Single-TableInheritance. 关于ruby-on-rails-Rails-子类化模型的设计模式是什么?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.co

  4. ruby - 什么是填充的 Base64 编码字符串以及如何在 ruby​​ 中生成它们? - 2

    我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%

  5. ruby - 解析 RDFa、微数据等的最佳方式是什么,使用统一的模式/词汇(例如 schema.org)存储和显示信息 - 2

    我主要使用Ruby来执行此操作,但到目前为止我的攻击计划如下:使用gemsrdf、rdf-rdfa和rdf-microdata或mida来解析给定任何URI的数据。我认为最好映射到像schema.org这样的统一模式,例如使用这个yaml文件,它试图描述数据词汇表和opengraph到schema.org之间的转换:#SchemaXtoschema.orgconversion#data-vocabularyDV:name:namestreet-address:streetAddressregion:addressRegionlocality:addressLocalityphoto:i

  6. ruby - 为什么 4.1%2 使用 Ruby 返回 0.0999999999999996?但是 4.2%2==0.2 - 2

    为什么4.1%2返回0.0999999999999996?但是4.2%2==0.2。 最佳答案 参见此处:WhatEveryProgrammerShouldKnowAboutFloating-PointArithmetic实数是无限的。计算机使用的位数有限(今天是32位、64位)。因此计算机进行的浮点运算不能代表所有的实数。0.1是这些数字之一。请注意,这不是与Ruby相关的问题,而是与所有编程语言相关的问题,因为它来自计算机表示实数的方式。 关于ruby-为什么4.1%2使用Ruby返

  7. ruby - 如何模拟 Net::HTTP::Post? - 2

    是的,我知道最好使用webmock,但我想知道如何在RSpec中模拟此方法:defmethod_to_testurl=URI.parseurireq=Net::HTTP::Post.newurl.pathres=Net::HTTP.start(url.host,url.port)do|http|http.requestreq,foo:1endresend这是RSpec:let(:uri){'http://example.com'}specify'HTTPcall'dohttp=mock:httpNet::HTTP.stub!(:start).and_yieldhttphttp.shou

  8. ruby - ruby 中的 TOPLEVEL_BINDING 是什么? - 2

    它不等于主线程的binding,这个toplevel作用域是什么?此作用域与主线程中的binding有何不同?>ruby-e'putsTOPLEVEL_BINDING===binding'false 最佳答案 事实是,TOPLEVEL_BINDING始终引用Binding的预定义全局实例,而Kernel#binding创建的新实例>Binding每次封装当前执行上下文。在顶层,它们都包含相同的绑定(bind),但它们不是同一个对象,您无法使用==或===测试它们的绑定(bind)相等性。putsTOPLEVEL_BINDINGput

  9. ruby - Infinity 和 NaN 的类型是什么? - 2

    我可以得到Infinity和NaNn=9.0/0#=>Infinityn.class#=>Floatm=0/0.0#=>NaNm.class#=>Float但是当我想直接访问Infinity或NaN时:Infinity#=>uninitializedconstantInfinity(NameError)NaN#=>uninitializedconstantNaN(NameError)什么是Infinity和NaN?它们是对象、关键字还是其他东西? 最佳答案 您看到打印为Infinity和NaN的只是Float类的两个特殊实例的字符串

  10. ruby-on-rails - 如果 Object::try 被发送到一个 nil 对象,为什么它会起作用? - 2

    如果您尝试在Ruby中的nil对象上调用方法,则会出现NoMethodError异常并显示消息:"undefinedmethod‘...’fornil:NilClass"然而,有一个tryRails中的方法,如果它被发送到一个nil对象,它只返回nil:require'rubygems'require'active_support/all'nil.try(:nonexisting_method)#noNoMethodErrorexceptionanymore那么try如何在内部工作以防止该异常? 最佳答案 像Ruby中的所有其他对象

随机推荐