草庐IT

不扒瞎，这个程序让我从300s优化到了10s

buguge - Keep it simple,stupid 2023-04-17 原文

前天晚上加班完成部门Q4KPI考核计划后，看到业务开发组的几个小伙伴在处理生产问题。我上前了解情况。

 

销管系统，客户交易明细页面，查询客户交易数据的逻辑是：调用远程数据中心接口，拿到原始交易数据集合，然后在内存里通过相关id来给客户名称、服务商名称、销售人员名称、所属部门、上级销售主管赋值。

 

 

产品经理反馈，销售主管登陆系统查询数据时，非常慢，慢到4~5分钟。

查看日志，发现后台程序处理耗时动辄高达300s。

300s是个庞大的数字！当务之急，是看能不能降低到10s以内。通过分析，其中，获取远程交易数据耗时≈6s，本地内存数据匹配竟然耗时200多秒，incredible！unbelievable！

 

 

那接下来要对各个匹配数据的程序段来分析。通过细化耗时，发现在for循环匹配销售数据为销售人员名称、所属部门、上级销售主管赋值时，异常地慢。

贴出来这段代码：

/**
 * 查询销售与部门的关联关系
 * @param saleId
 * @return
 */
public CommonRequestDTO selectSaleDepartRelation(Integer saleId){
    List<CommonRequestDTO> relationList = CacheUtil.getCache(SaleCommonConstant.SALE_DEPART_RELATION, SaleCommonConstant.EXPIRY_SECONDS, ()
            -> emaxSalerMapper.selectSaleDepartRelation()
    );
    relationList = relationList.stream().filter(o -> saleId.equals(o.getSaleId())).collect(Collectors.toList());
    if(CollectionUtils.isNotEmpty(relationList)){
        CommonRequestDTO commonRequestDTO = relationList.get(0);
        commonRequestDTO.setSaleName(commonRequestDTO.getSaleName());
        commonRequestDTO.setDepartName(commonRequestDTO.getDepartName());
        commonRequestDTO.setDepartHeaderName(commonRequestDTO.getDepartHeaderName());
        return commonRequestDTO;
    }
    return null;
}

其中，CacheUtil封装了Redis的get/set操作。
emaxSalerMapper#selectSaleDepartRelation是查数据库获取基础关系数据，共223条数据，耗时6~7ms。
CommonRequestDTO是一个pojo模型类。

 

那么，这段代码也看不出哪里慢呀！

 

仔细一分析，发现端倪。Cc同学怀疑问题出在读redis上。果不其然，for循环里频繁调用redis获取集合数据，尤其是当查询数据记录多循环次数多时，必然拉跨。
当务之急，最好的解决办法，是用本地缓存来搞，HutoolCache登场。

static TimedCache<String ,List<CommonRequestDTO>> cache= cn.hutool.cache.CacheUtil.newTimedCache(SaleCommonConstant.EXPIRY_SECONDS);
 
/**
 * 查询销售与部门的关联关系
 * @param saleId
 * @return
 */
public CommonRequestDTO selectSaleDepartRelation(Integer saleId){
    if (cache.get(SaleCommonConstant.SALE_DEPART_RELATION)==null){
        cache.put(SaleCommonConstant.SALE_DEPART_RELATION, emaxSalerMapper.selectSaleDepartRelation());
    }
 
    List<CommonRequestDTO> relationList = cache.get(SaleCommonConstant.SALE_DEPART_RELATION);
    relationList = relationList.stream().filter(o -> saleId.equals(o.getSaleId())).collect(Collectors.toList());
    if(CollectionUtils.isNotEmpty(relationList)){
        CommonRequestDTO commonRequestDTO = relationList.get(0);
        commonRequestDTO.setSaleName(commonRequestDTO.getSaleName());
        commonRequestDTO.setDepartName(commonRequestDTO.getDepartName());
        commonRequestDTO.setDepartHeaderName(commonRequestDTO.getDepartHeaderName());
        return commonRequestDTO;
    }
    return null;
}

 

改造完成，再测试，发现这段代码耗时已经到ms级了。整体方法耗时也控制在了10s以内。


那么，回过头来分析，我们看程序里redis-RedisTemplate配置，valueSerializer使用Jackson2JsonRedisSerializer，Jackson2JsonRedisSerializer序列化使用ObjectMapper。

/**
 * RedisTemplate配置
 * @param lettuceConnectionFactory
 * @return
 */
@Bean
public RedisTemplate<String, Object> redisTemplate(LettuceConnectionFactory lettuceConnectionFactory) {
    // 设置序列化
    Jackson2JsonRedisSerializer<Object> jackson2JsonRedisSerializer = new Jackson2JsonRedisSerializer<Object>(Object.class);
    ObjectMapper om = new ObjectMapper();
    om.setVisibility(PropertyAccessor.ALL, Visibility.ANY);
    om.enableDefaultTyping(DefaultTyping.NON_FINAL);
    jackson2JsonRedisSerializer.setObjectMapper(om);
    // 配置redisTemplate
    RedisTemplate<String, Object> redisTemplate = new RedisTemplate<String, Object>();
    redisTemplate.setConnectionFactory(lettuceConnectionFactory);
    RedisSerializer<?> stringSerializer = new StringRedisSerializer();
    redisTemplate.setKeySerializer(stringSerializer);// key序列化
    redisTemplate.setValueSerializer(jackson2JsonRedisSerializer);// value序列化
    redisTemplate.afterPropertiesSet();
    return redisTemplate;
}


ObjectMapper在序列化时，会将所有的字段序列化，无论这些字段是否有值（是否为null）。再看CommonRequestDTO，有多达22个属性，可见在本案List<CommonRequestDTO>中有223个元素时，数据体积无形中增大很多。通过下面对ObjectMapper的测试代码来比较一下，很明显可以看到单个对象序列化后在数据量方面的差异：

@Test
public void testObjectMapper2() throws JsonProcessingException {
    ObjectMapper om = new ObjectMapper();
    om.setVisibility(PropertyAccessor.GETTER, JsonAutoDetect.Visibility.PUBLIC_ONLY)
            .enableDefaultTyping(ObjectMapper.DefaultTyping.NON_FINAL);
    System.out.println("序列化所有字段（无论这些字段是否有值） ↓ ↓ ↓");
    System.out.println(new String(om.writeValueAsBytes(new CommonRequestDTO())));
 
    om = new ObjectMapper();
    om.setVisibility(PropertyAccessor.GETTER, JsonAutoDetect.Visibility.PUBLIC_ONLY)
            .enableDefaultTyping(ObjectMapper.DefaultTyping.NON_FINAL)
            .setSerializationInclusion(JsonInclude.Include.NON_NULL);
    System.out.println("不序列化空值字段 ↓ ↓ ↓");
    System.out.println(new String(om.writeValueAsBytes(new CommonRequestDTO())));
}
序列化所有字段（无论这些字段是否有值） ↓ ↓ ↓
["com.emax.memberaccount.restapi.vo.CommonRequestDTO",{"enterpriseId":null,"enterpriseBizId":null,"enterpriseName":null,"saleId":null,"product":null,"entStatus":null,"departId":null,"agentId":null,"levyId":null,"departHeaderId":null,"saleIds":null,"enterpriseIds":null,"productList":null,"createTimeBegin":null,"createTimeEnd":null,"saleName":null,"departName":null,"departHeaderName":null,"ifDepartHeader":null,"loginSalerId":null,"selectEnterpriseId":null,"orderEndTime":null,"enterpriseProductDTOS":null}]
不序列化空值字段 ↓ ↓ ↓
["com.emax.memberaccount.restapi.vo.CommonRequestDTO",{}]

 

    • 因此，我们的程序有必要加上这个控制，即只序列化非空字段。
      另外，就像我之前经常提到的，会 is one thing，会用 is another。本案也再一次敲响了警钟：在使用redis分布式缓存时，尤其控制缓存大对象，更要严禁高频访问大对象缓存。
300s300codeclassnbspJava

有关不扒瞎，这个程序让我从300s优化到了10s的更多相关文章

  1. ruby - 在 Ruby 程序执行时阻止 Windows 7 PC 进入休眠状态 - 2

    我需要在客户计算机上运行Ruby应用程序。通常需要几天才能完成(复制大备份文件)。问题是如果启用sleep，它会中断应用程序。否则，计算机将持续运行数周，直到我下次访问为止。有什么方法可以防止执行期间休眠并让Windows在执行后休眠吗？欢迎任何疯狂的想法;-) 最佳答案 Here建议使用SetThreadExecutionStateWinAPI函数，使应用程序能够通知系统它正在使用中，从而防止系统在应用程序运行时进入休眠状态或关闭显示。像这样的东西:require'Win32API'ES_AWAYMODE_REQUIRED=0x0

  2. ruby - 如何指定 Rack 处理程序 - 2

    Rackup通过Rack的默认处理程序成功运行任何Rack应用程序。例如:classRackAppdefcall(environment)['200',{'Content-Type'=>'text/html'},["Helloworld"]]endendrunRackApp.new但是当最后一行更改为使用Rack的内置CGI处理程序时，rackup给出“NoMethodErrorat/undefinedmethod`call'fornil:NilClass”:Rack::Handler::CGI.runRackApp.newRack的其他内置处理程序也提出了同样的反对意见。例如Rack

  3. ruby - 在 Ruby 中编写命令行实用程序 - 2

    我想用ruby​​编写一个小的命令行实用程序并将其作为gem分发。我知道安装后，Guard、Sass和Thor等某些gem可以从命令行自行运行。为了让gem像二进制文件一样可用，我需要在我的gemspec中指定什么。 最佳答案 Gem::Specification.newdo|s|...s.executable='name_of_executable'...endhttp://docs.rubygems.org/read/chapter/20 关于ruby-在Ruby中编写命令行实用程序

  4. ruby-on-rails - Rails 应用程序之间的通信 - 2

    我构建了两个需要相互通信和发送文件的Rails应用程序。例如，一个Rails应用程序会发送请求以查看其他应用程序数据库中的表。然后另一个应用程序将呈现该表的json并将其发回。我还希望一个应用程序将存储在其公共(public)目录中的文本文件发送到另一个应用程序的公共(public)目录。我从来没有做过这样的事情，所以我什至不知道从哪里开始。任何帮助，将不胜感激。谢谢! 最佳答案 无论Rails是什么，几乎所有Web应用程序都有您的要求，大多数现代Web应用程序都需要相互通信。但是有一个小小的理解需要你坚持下去，网站不应直接访问彼此

  5. ruby - 无法运行 Rails 2.x 应用程序 - 2

    我尝试运行2.x应用程序。我使用rvm并为此应用程序设置其他版本的ruby​​:$rvmuseree-1.8.7-head我尝试运行服务器，然后出现很多错误:$script/serverNOTE:Gem.source_indexisdeprecated,useSpecification.Itwillberemovedonorafter2011-11-01.Gem.source_indexcalledfrom/Users/serg/rails_projects_terminal/work_proj/spohelp/config/../vendor/rails/railties/lib/r

  6. ruby-on-rails - Rails 应用程序中的 Rails : How are you using application_controller. rb 是新手吗？ - 2

    刚入门rails，开始慢慢理解。有人可以解释或给我一些关于在application_controller中编码的好处或时间和原因的想法吗？有哪些用例。您如何为Rails应用程序使用应用程序Controller？我不想在那里放太多代码，因为据我了解，每个请求都会调用此Controller。这是真的？ 最佳答案 ApplicationController实际上是您应用程序中的每个其他Controller都将从中继承的类(尽管这不是强制性的)。我同意不要用太多代码弄乱它并保持干净整洁的态度，尽管在某些情况下ApplicationContr

  7. ruby-on-rails - 如何在我的 Rails 应用程序 View 中打印 ruby​​ 变量的内容？ - 2

    我是一个Rails初学者，但我想从我的RailsView(html.haml文件)中查看Ruby变量的内容。我试图在ruby​​中打印出变量(认为它会在终端中出现)，但没有得到任何结果。有什么建议吗？我知道Rails调试器，但更喜欢使用inspect来打印我的变量。 最佳答案 您可以在View中使用puts方法将信息输出到服务器控制台。您应该能够在View中的任何位置使用Haml执行以下操作:-puts@my_variable.inspect 关于ruby-on-rails-如何在我的R

  8. ruby - 检查是否通过 require 执行或导入了 Ruby 程序 - 2

    如何检查Ruby文件是否是通过“require”或“load”导入的，而不是简单地从命令行执行的？例如:foo.rb的内容:puts"Hello"bar.rb的内容require'foo'输出:$./foo.rbHello$./bar.rbHello基本上，我想调用bar.rb以不执行puts调用。 最佳答案 将foo.rb改为:if__FILE__==$0puts"Hello"end检查__FILE__-当前ruby​​文件的名称-与$0-正在运行的脚本的名称。 关于ruby-检查是否

  9. ruby-on-rails - 如何在 Gem 中获取 Rails 应用程序的根目录 - 2

    是否可以在应用程序中包含的gem代码中知道应用程序的Rails文件系统根目录？这是gem来源的示例:moduleMyGemdefself.included(base)putsRails.root#returnnilendendActionController::Base.send:include,MyGem谢谢，抱歉我的英语不好 最佳答案 我发现解决类似问题的解决方案是使用railtie初始化程序包含我的模块。所以，在你的/lib/mygem/railtie.rbmoduleMyGemclassRailtie使用此代码，您的模块将在

  10. 程序员如何提高代码能力？ - 2

    前言作为一名程序员，自己的本质工作就是做程序开发，那么程序开发的时候最直接的体现就是代码，检验一个程序员技术水平的一个核心环节就是开发时候的代码能力。众所周知，程序开发的水平提升是一个循序渐进的过程，每一位程序员都是从“菜鸟”变成“大神”的，所以程序员在程序开发过程中的代码能力也是根据平时开发中的业务实践来积累和提升的。提高代码能力核心要素程序员要想提高自身代码能力，尤其是新晋程序员的代码能力有很大的提升空间的时候，需要针对性的去提高自己的代码能力。提高代码能力其实有几个比较关键的点，只要把握住这些方面，就能很好的、快速的提高自己的一部分代码能力。1、多去阅读开源项目，如有机会可以亲自参与开源

随机推荐