草庐IT

ModelLoadMutex

全部标签

go - 在 Golang 应用服务器中重新加载 tensorflow 模型

我有一个Golang应用程序服务器,其中我每15分钟重新加载一次已保存的tensorflow模型。每个使用tensorflow模型的api调用都会获取一个读互斥锁,每当我重新加载模型时,我都会获取一个写锁。在功能方面,这工作正常,但在模型加载期间,我的API响应时间随着请求线程不断等待写锁被释放而增加。您能否建议一种更好的方法来使加载的模型保持最新状态?编辑,更新代码模型加载代码:tags:=[]string{"serve"}//loadfromupdatedsavedmodelvarm*tensorflow.SavedModelvarerrerrorm,err=tensorflow.