草庐IT

mysql - 去使用连接池连接mysql发生socket leak

coder 2024-07-14 原文

去verison 1.9.2

go-sql-driver/mysql git commit hash cd4cb90

mysql服务器版本:5.6.15-log MySQL Community Server

操作系统版本:CentOS release 6.7 (Final)

数据库打开配置

最大空闲连接数 = 5

max_open_conns = 30

max_life_time=600

超时=600

mysql配置

+-----------------------------+----------+
| Variable_name               | Value    |
+-----------------------------+----------+
| connect_timeout             | 60       |
| delayed_insert_timeout      | 300      |
| interactive_timeout         | 600      |
| lock_wait_timeout           | 31536000 |
| log_output                  | FILE     |
| net_read_timeout            | 30       |
| net_write_timeout           | 60       |
| wait_timeout                | 600      |
+-----------------------------+----------+

lsof 输出

srv_promo 12672 root 10u sock 0,6 0t0 63382668 无法识别协议(protocol)

srv_promo 12672 root 11u sock 0,6 0t0 63366850 无法识别协议(protocol)

srv_promo 12672 root 12u sock 0,6 0t0 63366688 无法识别协议(protocol)

srv_promo 12672 root 13u sock 0,6 0t0 63366690 无法识别协议(protocol)

mysql config

lsof output

代码如下:

打包数据库测试

import (
    "database/sql"
    "fmt"
    "github.com/golang/glog"
    "gopkg.in/gorp.v2"
    "log"
    "os"
    "sync"
    "time"
)

type DatabaseConfig struct {
    DBName               string `toml:"dbname"`
    Host                 string `toml:"host"`
    Port                 int    `toml:"port"`
    User                 string `toml:"user"`
    Password             string `toml:"password"`
    Sslmode              string `toml:"sslmode"`
    ShowLog              bool
    DataSaveDir          string
    DataFileSaveLoopSize int
    MaxIdleConns         int `toml:"max_idle_conns"`
    MaxOpenConns         int `toml:"max_open_conns"`
    MaxLifeTime          int `toml:"max_life_time"`
    Timeout              int `toml:"timeout"`
    RTimeout             int `toml:"rtimeout"`
    WTimeout             int `toml:"wtimeout"`
}

func (c DatabaseConfig) MySQLSource() string {
    params := make(map[string]string, 0)
    params["charset"] = "utf8mb4"
    cfg := mysql.Config{}
    cfg.User = c.User
    cfg.Passwd = c.Password
    cfg.DBName = c.DBName
    cfg.ParseTime = true
    cfg.Collation = "utf8mb4_unicode_ci"
    cfg.Params = params
    cfg.Loc, _ = time.LoadLocation("Asia/Chongqing")
    cfg.Timeout = time.Duration(c.Timeout) * time.Second
    cfg.MultiStatements = true
    cfg.ReadTimeout = time.Duration(c.RTimeout) * time.Second
    cfg.WriteTimeout = time.Duration(c.WTimeout) * time.Second
    return cfg.FormatDSN()
}

var (
    dbmap     *gorp.DbMap
    Dbm       *gorp.DbMap
    config    DatabaseConfig
    opened    bool
    openMutex sync.RWMutex
    DB        *sql.DB
)

//Open open the database for passport with config
func Open(cfg DatabaseConfig) {
    if !opened {
        config = cfg
        db, err := sql.Open("mysql", config.MySQLSource())
        glog.Infof("open err %v ", err)
        if err != nil {
            panic(fmt.Errorf("sql.Open failed: %v", err))
        }
        if config.MaxLifeTime > 0 {
            db.SetConnMaxLifetime(time.Duration(config.MaxLifeTime) * time.Second)
        }
        db.SetMaxIdleConns(config.MaxIdleConns)
        db.SetMaxOpenConns(config.MaxOpenConns)
        db.Ping()
        DB = db
        // construct a gorp DbMap
        dbmap = &gorp.DbMap{Db: db, Dialect: gorp.MySQLDialect{"InnoDB", "utf8mb4"}}
        Dbm = dbmap

        err = dbmap.CreateTablesIfNotExists()
        if err != nil {
            panic("create table failed " + err.Error())
        }
        openMutex.Lock()
        opened = true
        openMutex.Unlock()
        if config.ShowLog {
            dbmap.TraceOn("[gorp]", log.New(os.Stdout, schemaName+" ", log.Lmicroseconds))
        }
    }
}

//Close close the database for passport
func Close() {
    if dbmap != nil && opened {
        glog.Infof("close database %s for %s", config.DBName, schemaName)
        dbmap.Db.Close()
        openMutex.Lock()
        opened = false
        openMutex.Unlock()
    }
}

最佳答案

(不是答案,但评论太多了。)

两件事:

  1. 请尝试想出一个 MCVE —首先是为了您自己,其次(如果仅此一项不能帮助您解决问题)—为了我们。

    我的意思是,您的示例中发生了太多事情:您正在使用 gorp ,它不是 Go 标准库的一部分,而这个包——据说包装了 database/sql 机器——在使用数据库时绝对可以做任何事情

    这不是处理此类问题的方式。 相反,您应该从头开始并首先使用 纯 database/sql 层,看看它是否有效。 如果是,则问题出在 gorp 上。

    还有一个细节是你不应该使用 3rd 方包在你的 MCVE 中做一些琐碎的事情; 在这里,我说的是日志记录:在一个精简的例子中, 标准的 fmt.Print* 函数就可以了,或者, 如果您觉得不可能全面开展企业业务, 标准的 log 包将满足要求。

  2. Go 中的 SQL 数据库层明确设计用于 具有与 SQL 数据库层完全不同的语义 由其他流行语言/框架实现。

    Go 的不同之处在于它旨在处理大量 通常在服务器软件上生成的工作负载。 除其他外,这意味着

    • 数据库连接默认合并。
    • 它们根据需要重复使用,当您执行查询或 不在交易中的陈述,你不知道是否 这将创建一个新连接或重用现有连接, 如果是,那么具体是哪一个。
    • 新连接实际上并不连接,除非有什么 对它们执行(或调用它们的 Ping() 方法)。

关于mysql - 去使用连接池连接mysql发生socket leak,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/47384458/

有关mysql - 去使用连接池连接mysql发生socket leak的更多相关文章

  1. ruby - 如何使用 Nokogiri 的 xpath 和 at_xpath 方法 - 2

    我正在学习如何使用Nokogiri,根据这段代码我遇到了一些问题:require'rubygems'require'mechanize'post_agent=WWW::Mechanize.newpost_page=post_agent.get('http://www.vbulletin.org/forum/showthread.php?t=230708')puts"\nabsolutepathwithtbodygivesnil"putspost_page.parser.xpath('/html/body/div/div/div/div/div/table/tbody/tr/td/div

  2. ruby - 使用 RubyZip 生成 ZIP 文件时设置压缩级别 - 2

    我有一个Ruby程序,它使用rubyzip压缩XML文件的目录树。gem。我的问题是文件开始变得很重,我想提高压缩级别,因为压缩时间不是问题。我在rubyzipdocumentation中找不到一种为创建的ZIP文件指定压缩级别的方法。有人知道如何更改此设置吗?是否有另一个允许指定压缩级别的Ruby库? 最佳答案 这是我通过查看ruby​​zip内部创建的代码。level=Zlib::BEST_COMPRESSIONZip::ZipOutputStream.open(zip_file)do|zip|Dir.glob("**/*")d

  3. ruby - 为什么我可以在 Ruby 中使用 Object#send 访问私有(private)/ protected 方法? - 2

    类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc

  4. ruby-on-rails - 使用 Ruby on Rails 进行自动化测试 - 最佳实践 - 2

    很好奇,就使用ruby​​onrails自动化单元测试而言,你们正在做什么?您是否创建了一个脚本来在cron中运行rake作业并将结果邮寄给您?git中的预提交Hook?只是手动调用?我完全理解测试,但想知道在错误发生之前捕获错误的最佳实践是什么。让我们理所当然地认为测试本身是完美无缺的,并且可以正常工作。下一步是什么以确保他们在正确的时间将可能有害的结果传达给您? 最佳答案 不确定您到底想听什么,但是有几个级别的自动代码库控制:在处理某项功能时,您可以使用类似autotest的内容获得关于哪些有效,哪些无效的即时反馈。要确保您的提

  5. ruby - 在 Ruby 中使用匿名模块 - 2

    假设我做了一个模块如下:m=Module.newdoclassCendend三个问题:除了对m的引用之外,还有什么方法可以访问C和m中的其他内容?我可以在创建匿名模块后为其命名吗(就像我输入“module...”一样)?如何在使用完匿名模块后将其删除,使其定义的常量不再存在? 最佳答案 三个答案:是的,使用ObjectSpace.此代码使c引用你的类(class)C不引用m:c=nilObjectSpace.each_object{|obj|c=objif(Class===objandobj.name=~/::C$/)}当然这取决于

  6. ruby - 使用 ruby​​ 和 savon 的 SOAP 服务 - 2

    我正在尝试使用ruby​​和Savon来使用网络服务。测试服务为http://www.webservicex.net/WS/WSDetails.aspx?WSID=9&CATID=2require'rubygems'require'savon'client=Savon::Client.new"http://www.webservicex.net/stockquote.asmx?WSDL"client.get_quotedo|soap|soap.body={:symbol=>"AAPL"}end返回SOAP异常。检查soap信封,在我看来soap请求没有正确的命名空间。任何人都可以建议我

  7. python - 如何使用 Ruby 或 Python 创建一系列高音调和低音调的蜂鸣声? - 2

    关闭。这个问题是opinion-based.它目前不接受答案。想要改进这个问题?更新问题,以便editingthispost可以用事实和引用来回答它.关闭4年前。Improvethisquestion我想在固定时间创建一系列低音和高音调的哔哔声。例如:在150毫秒时发出高音调的蜂鸣声在151毫秒时发出低音调的蜂鸣声200毫秒时发出低音调的蜂鸣声250毫秒的高音调蜂鸣声有没有办法在Ruby或Python中做到这一点?我真的不在乎输出编码是什么(.wav、.mp3、.ogg等等),但我确实想创建一个输出文件。

  8. ruby-on-rails - 'compass watch' 是如何工作的/它是如何与 rails 一起使用的 - 2

    我在我的项目目录中完成了compasscreate.和compassinitrails。几个问题:我已将我的.sass文件放在public/stylesheets中。这是放置它们的正确位置吗?当我运行compasswatch时,它不会自动编译这些.sass文件。我必须手动指定文件:compasswatchpublic/stylesheets/myfile.sass等。如何让它自动运行?文件ie.css、print.css和screen.css已放在stylesheets/compiled。如何在编译后不让它们重新出现的情况下删除它们?我自己编译的.sass文件编译成compiled/t

  9. ruby - 使用 ruby​​ 将 HTML 转换为纯文本并维护结构/格式 - 2

    我想将html转换为纯文本。不过,我不想只删除标签,我想智能地保留尽可能多的格式。为插入换行符标签,检测段落并格式化它们等。输入非常简单,通常是格式良好的html(不是整个文档,只是一堆内容,通常没有anchor或图像)。我可以将几个正则表达式放在一起,让我达到80%,但我认为可能有一些现有的解决方案更智能。 最佳答案 首先,不要尝试为此使用正则表达式。很有可能你会想出一个脆弱/脆弱的解决方案,它会随着HTML的变化而崩溃,或者很难管理和维护。您可以使用Nokogiri快速解析HTML并提取文本:require'nokogiri'h

  10. ruby - 在 64 位 Snow Leopard 上使用 rvm、postgres 9.0、ruby 1.9.2-p136 安装 pg gem 时出现问题 - 2

    我想为Heroku构建一个Rails3应用程序。他们使用Postgres作为他们的数据库,所以我通过MacPorts安装了postgres9.0。现在我需要一个postgresgem并且共识是出于性能原因你想要pggem。但是我对我得到的错误感到非常困惑当我尝试在rvm下通过geminstall安装pg时。我已经非常明确地指定了所有postgres目录的位置可以找到但仍然无法完成安装:$envARCHFLAGS='-archx86_64'geminstallpg--\--with-pg-config=/opt/local/var/db/postgresql90/defaultdb/po

随机推荐