草庐IT

tensorflow+java 内存泄漏修复

大海之中 2023-03-28 原文
前段时间java程序,内存泄漏比较严重,平均3-5天就要重启一下,赶快分析原因。从公司的监控看到,主要是对外内存泄漏,因为堆内存泄漏不是很严重。所以决定优先处理前者。因为该项目是java开发的,主要任务时加载tensorflow1.*的模型,并实时预测。其实主要JNI调用c++接口,所以很大可能是在接口调用时泄漏了,看代码:

Tensor res =null;      try { List<String> colname=IntColname; Runner rlt = sess.runner(); for(int i=0; i<intvalue[0].length; i++) { int[][] index=new int[intvalue.length][1]; for(int m=0; m<intvalue.length; m++) { index[m][0]=intvalue[m][i];      } Tensor indexTensor = Tensor.create(index);  rlt.feed(colname.get(i), indexTensor); } colname=FloatColname; for(int i=0; i<floatvalue[0].length; i++) { float[][] index=new float[floatvalue.length][1]; for(int m=0; m<floatvalue.length; m++) { index[m][0]=floatvalue[m][i];     } Tensor indexTensor = Tensor.create(index);  rlt.feed(colname.get(i), indexTensor); temp.add(indexTensor); }       res=rlt.fetch("output").run().get(0); float[][] finalRlt = new float[intvalue.length][1]; res.copyTo(finalRlt); List<Float> result=new ArrayList<Float>(); for(int i=0; i<finalRlt.length; i++) { result.add(finalRlt[i][0]); } return result; } catch (Exception e) { logger.error("",e); }finally { if (res != null) {                  res.close();             } }

虽然res调用了close方法,但是 indexTensor 却没有调用,因此调整代码。

Tensor res =null;      List<Tensor> temp=new ArrayList<>();      try { List<String> colname=IntColname; Runner rlt = sess.runner(); for(int i=0; i<intvalue[0].length; i++) { int[][] index=new int[intvalue.length][1]; for(int m=0; m<intvalue.length; m++) { index[m][0]=intvalue[m][i];      } Tensor indexTensor = Tensor.create(index);  rlt.feed(colname.get(i), indexTensor); temp.add(indexTensor); } colname=FloatColname; for(int i=0; i<floatvalue[0].length; i++) { float[][] index=new float[floatvalue.length][1]; for(int m=0; m<floatvalue.length; m++) { index[m][0]=floatvalue[m][i];     } Tensor indexTensor = Tensor.create(index);  rlt.feed(colname.get(i), indexTensor); temp.add(indexTensor); }       res=rlt.fetch("output").run().get(0); float[][] finalRlt = new float[intvalue.length][1]; res.copyTo(finalRlt); List<Float> result=new ArrayList<Float>(); for(int i=0; i<finalRlt.length; i++) { result.add(finalRlt[i][0]); } return result; } catch (Exception e) { logger.error("",e); }finally { if (res != null) {              res.close();             } for(int i=0; i<temp.size(); i++) { Tensor t=temp.get(i); if(t!=null) { t.close(); } } }

主要是增加temp队列回收临时变量。上线后发现泄漏不是很严重了,说明很有效果。不过还有,后面是java堆内存泄漏,发现每次泄漏的时间正是模型切换的时间,因此大概率是模型切换的代码有问题,上代码。

public static void clearCache() { logger.info("===model clear==="); sess=null; }这里的session就是模型解析好的session会话,由下面的代码生成。

byte[] graphBytes = IOUtils.toByteArray(inputStream); Graph graph=new Graph(); graph.importGraphDef(graphBytes);     sess = new Session(graph);立刻明白,上面的代码有问题,调整为如下:

public static void clearCache() { logger.info("===model clear==="); if(sess!=null) { logger.info("destory session"); sess.close(); sess=null; } }少了一个close,造成session关联的对象无法释放,至此内存泄漏问题算是解决了。

有关tensorflow+java 内存泄漏修复的更多相关文章

  1. ruby-on-rails - Ruby net/ldap 模块中的内存泄漏 - 2

    作为我的Rails应用程序的一部分,我编写了一个小导入程序,它从我们的LDAP系统中吸取数据并将其塞入一个用户表中。不幸的是,与LDAP相关的代码在遍历我们的32K用户时泄漏了大量内存,我一直无法弄清楚如何解决这个问题。这个问题似乎在某种程度上与LDAP库有关,因为当我删除对LDAP内容的调用时,内存使用情况会很好地稳定下来。此外,不断增加的对象是Net::BER::BerIdentifiedString和Net::BER::BerIdentifiedArray,它们都是LDAP库的一部分。当我运行导入时,内存使用量最终达到超过1GB的峰值。如果问题存在,我需要找到一些方法来更正我的代

  2. java - 等价于 Java 中的 Ruby Hash - 2

    我真的很习惯使用Ruby编写以下代码:my_hash={}my_hash['test']=1Java中对应的数据结构是什么? 最佳答案 HashMapmap=newHashMap();map.put("test",1);我假设? 关于java-等价于Java中的RubyHash,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/22737685/

  3. ruby-on-rails - Ruby 中的内存模型 - 2

    ruby如何管理内存。例如:如果我们在执行过程中采用C程序,则以下是内存模型。类似于这个ruby如何处理内存。C:__________________|||stack|||------------------||||------------------|||||Heap|||||__________________|||data|__________________|text|__________________Ruby:? 最佳答案 Ruby中没有“内存”这样的东西。Class#allocate分配一个对象并返回该对象。这就是程序

  4. java - 从 JRuby 调用 Java 类的问题 - 2

    我正在尝试使用boilerpipe来自JRuby。我看过guide从JRuby调用Java,并成功地将它与另一个Java包一起使用,但无法弄清楚为什么同样的东西不能用于boilerpipe。我正在尝试基本上从JRuby中执行与此Java等效的操作:URLurl=newURL("http://www.example.com/some-location/index.html");Stringtext=ArticleExtractor.INSTANCE.getText(url);在JRuby中试过这个:require'java'url=java.net.URL.new("http://www

  5. java - 我的模型类或其他类中应该有逻辑吗 - 2

    我只想对我一直在思考的这个问题有其他意见,例如我有classuser_controller和classuserclassUserattr_accessor:name,:usernameendclassUserController//dosomethingaboutanythingaboutusersend问题是我的User类中是否应该有逻辑user=User.newuser.do_something(user1)oritshouldbeuser_controller=UserController.newuser_controller.do_something(user1,user2)我

  6. java - 什么相当于 ruby​​ 的 rack 或 python 的 Java wsgi? - 2

    什么是ruby​​的rack或python的Java的wsgi?还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht

  7. Observability:从零开始创建 Java 微服务并监控它 (二) - 2

    这篇文章是继上一篇文章“Observability:从零开始创建Java微服务并监控它(一)”的续篇。在上一篇文章中,我们讲述了如何创建一个Javaweb应用,并使用Filebeat来收集应用所生成的日志。在今天的文章中,我来详述如何收集应用的指标,使用APM来监控应用并监督web服务的在线情况。源码可以在地址 https://github.com/liu-xiao-guo/java_observability 进行下载。摄入指标指标被视为可以随时更改的时间点值。当前请求的数量可以改变任何毫秒。你可能有1000个请求的峰值,然后一切都回到一个请求。这也意味着这些指标可能不准确,你还想提取最小/

  8. 【Java 面试合集】HashMap中为什么引入红黑树,而不是AVL树呢 - 2

    HashMap中为什么引入红黑树,而不是AVL树呢1.概述开始学习这个知识点之前我们需要知道,在JDK1.8以及之前,针对HashMap有什么不同。JDK1.7的时候,HashMap的底层实现是数组+链表JDK1.8的时候,HashMap的底层实现是数组+链表+红黑树我们要思考一个问题,为什么要从链表转为红黑树呢。首先先让我们了解下链表有什么不好???2.链表上述的截图其实就是链表的结构,我们来看下链表的增删改查的时间复杂度增:因为链表不是线性结构,所以每次添加的时候,只需要移动一个节点,所以可以理解为复杂度是N(1)删:算法时间复杂度跟增保持一致查:既然是非线性结构,所以查询某一个节点的时候

  9. 【Java入门】使用Java实现文件夹的遍历 - 2

    遍历文件夹我们通常是使用递归进行操作,这种方式比较简单,也比较容易理解。本文为大家介绍另一种不使用递归的方式,由于没有使用递归,只用到了循环和集合,所以效率更高一些!一、使用递归遍历文件夹整体思路1、使用File封装初始目录,2、打印这个目录3、获取这个目录下所有的子文件和子目录的数组。4、遍历这个数组,取出每个File对象4-1、如果File是否是一个文件,打印4-2、否则就是一个目录,递归调用代码实现publicclassSearchFile{publicstaticvoidmain(String[]args){//初始目录Filedir=newFile("d:/Dev");Datebeg

  10. java - 为什么 ruby​​ modulo 与 java/other lang 不同? - 2

    我基本上来自Java背景并且努力理解Ruby中的模运算。(5%3)(-5%3)(5%-3)(-5%-3)Java中的上述操作产生,2个-22个-2但在Ruby中,相同的表达式会产生21个-1-2.Ruby在逻辑上有多擅长这个?模块操作在Ruby中是如何实现的?如果将同一个操作定义为一个web服务,两个服务如何匹配逻辑。 最佳答案 在Java中,模运算的结果与被除数的符号相同。在Ruby中,它与除数的符号相同。remainder()在Ruby中与被除数的符号相同。您可能还想引用modulooperation.

随机推荐