草庐IT

Java注解实现异步导入与导出(二)

雪飘千里 2023-03-28 原文

Java注解实现异步导入与导出(一)

上一篇写完了用注解实现异步导入,这一篇实现用注解异步导出。

1.背景:

导出最容易遇到的问题就是超时了,随着我们DB数据越来越多,导出时特别容易超时,这时候通常的解决办法就是优化SQL,或者直接限制导出条数,但是这两种方法都只能解决暂时的问题,过一段时间可能就又会冒出来。所以还是使用异步导出,先存到nas中,然后让用户再去下载。

2. 流程设计:

2.1  生成一条导出记录
2.2  异步查询并写入execl
2.3  把execl上传到nfsc,并更新导出记录
2.4  下载,从nfsc下载文件

3. 代码实现:

从上面的流程中可以看出,系统中只有第二步的不同的,其余都是一样的,所有我们还是可以用注解来实现通过流程。

3.1 创建自定义注解
import java.lang.annotation.ElementType;
import java.lang.annotation.Retention;
import java.lang.annotation.RetentionPolicy;
import java.lang.annotation.Target;

/**
 */
@Retention(RetentionPolicy.RUNTIME)
@Target({ElementType.METHOD})
public @interface Export {
    //业务模块名称
    String moduleName() default "";
    //文件过期时间
    int expireTime() default 24;
    //excel解析类
    Class     clazz();
}
3.2 编写切面:

import com.alibaba.excel.EasyExcel;
import com.alibaba.fastjson.JSON;
import com.google.common.util.concurrent.ThreadFactoryBuilder;
import com.demo.cemp.framework.common.base.ResultUtil;
import com.demo.cemp.goods.common.utils.DateUtil;
import com.demo.cemp.goods.common.utils.FileUploadUtil;
import com.demo.cemp.goods.mallgoods.service.impl.ImportExportRecords;
import com.demo.framework.domain.Result;
import lombok.extern.slf4j.Slf4j;
import org.apache.commons.lang.time.DateUtils;
import org.aspectj.lang.ProceedingJoinPoint;
import org.aspectj.lang.annotation.Around;
import org.aspectj.lang.annotation.Aspect;
import org.aspectj.lang.annotation.Pointcut;
import org.aspectj.lang.reflect.MethodSignature;
import org.springframework.stereotype.Component;
import java.util.Date;
import java.util.concurrent.*;

/**
 */
@Component
@Aspect
@Slf4j
public class ExportAspect {
    public static ThreadFactory commonThreadFactory = new ThreadFactoryBuilder().setNameFormat("upload-pool-%d")
            .setPriority(Thread.NORM_PRIORITY).build();
    public static ExecutorService uploadExecuteService = new ThreadPoolExecutor(1, 20, 300L,
            TimeUnit.SECONDS, new LinkedBlockingQueue<>(1024), commonThreadFactory, new ThreadPoolExecutor.AbortPolicy());


    @Pointcut("@annotation(com.demo.cemp.goods.mallgoods.service.Export)")
    public void exportPoint() {}

    @Around(value = "exportPoint()")
    public Object uploadControl(ProceedingJoinPoint joinPoint) throws Throwable {
        // 获取方法上的注解,进而获取uploadType
        MethodSignature signature = (MethodSignature)joinPoint.getSignature();
        Export annotation = signature.getMethod().getAnnotation(Export.class);

        // 线程池启动异步线程,开始执行上传的逻辑,joinPoint.proceed()就是你实现的业务功能
        uploadExecuteService.submit(() -> {
            ImportExportRecords records = new ImportExportRecords();
            try {
                // 1、初始化导出日志,记录开始时间
                records.setModuleName(annotation.moduleName());
                records.setExpireTime(DateUtil.format(DateUtils.addHours(new Date(),annotation.expireTime()), DateUtil.DATE_TIME_PATTERN));
                records.setType(2);
                records.setStartTime(new Date());
                //  records= writeRecordsToDB(records);
                System.out.println("writeInitToDB");


                //2  执行业务方法 查询导出数据
                Object result = joinPoint.proceed();
                Result errorResult = JSON.parseObject(JSON.toJSONString(result), Result.class);

                
                if (errorResult!=null && errorResult.isSuccess()) {
                    // 3  文件上传
                    String filePath = FileUploadUtil.getDefaultSavePath("businessCoupon", "demo.xlsx","test");
                    EasyExcel.write(filePath, annotation.clazz()).sheet("sheet").doWrite(JSON.parseArray(errorResult.getObj().toString(),annotation.clazz()));
                    records.setState(1);
                    records.setNfsPath(filePath);
                } else {
                    // 失败,
                    records.setState(2);
                    records.setErrorReason(errorResult.getErrorMessage());
                }
            } catch (Throwable e) {
                // 异常,需要记录
                log.error("error",e);
                records.setState(2);
                records.setErrorReason(e.getMessage());
            }

            //4 更新导入日志结果
//            updateByRecordsId(records);
            System.out.println("updateByRecordsId");
        });
        return ResultUtil.success();
    }

}

3.3 使用:
 @Export(moduleName="test",clazz = MallOrderExcelVO.class)
    public Result<List<MallOrderExcelVO>> exportOrderList(PointMallOrderDTO orderDTO) {

        try {
            
            List<MallOrderExcelVO> excelList = Lists.newArrayList();

            int curPageNo = 1;
            int pageSize = 500;
            orderDTO.setPageSize(pageSize);
            while (orderCount > 0) {
                orderDTO.setPageNo(curPageNo++);
                List<MallOrderPO> orderList2 = pointMallOrderService.getMallOrderList2(orderDTO);
                if (orderList2 == null ) {
                    log.info("[商城订单管理]===请求失败 params={} curPageNo={}", JSON.toJSONString(orderDTO), curPageNo);
                    continue;
                }
                if (CollectionUtils.isEmpty(orderList2)) {
                    break;
                }
                excelList.addAll(orderList2.stream().map(this::getOrderExcelVO).collect(Collectors.toList()));
                orderCount = Math.max(0, orderCount - pageSize);
            }
            return SFResultUtil.success(excelList);

        } catch (Exception e) {
            log.error("[商城订单管理]===导出订单异常", e);
        }
        return SFResultUtil.error("");
    }

有关Java注解实现异步导入与导出(二)的更多相关文章

  1. ruby-on-rails - 如何在 ruby​​ 中使用两个参数异步运行 exe? - 2

    exe应该在我打开页面时运行。异步进程需要运行。有什么方法可以在ruby​​中使用两个参数异步运行exe吗?我已经尝试过ruby​​命令-system()、exec()但它正在等待过程完成。我需要用参数启动exe,无需等待进程完成是否有任何ruby​​gems会支持我的问题? 最佳答案 您可以使用Process.spawn和Process.wait2:pid=Process.spawn'your.exe','--option'#Later...pid,status=Process.wait2pid您的程序将作为解释器的子进程执行。除

  2. java - 等价于 Java 中的 Ruby Hash - 2

    我真的很习惯使用Ruby编写以下代码:my_hash={}my_hash['test']=1Java中对应的数据结构是什么? 最佳答案 HashMapmap=newHashMap();map.put("test",1);我假设? 关于java-等价于Java中的RubyHash,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/22737685/

  3. ruby - 如何根据特征实现 FactoryGirl 的条件行为 - 2

    我有一个用户工厂。我希望默认情况下确认用户。但是鉴于unconfirmed特征,我不希望它们被确认。虽然我有一个基于实现细节而不是抽象的工作实现,但我想知道如何正确地做到这一点。factory:userdoafter(:create)do|user,evaluator|#unwantedimplementationdetailshereunlessFactoryGirl.factories[:user].defined_traits.map(&:name).include?(:unconfirmed)user.confirm!endendtrait:unconfirmeddoenden

  4. java - 从 JRuby 调用 Java 类的问题 - 2

    我正在尝试使用boilerpipe来自JRuby。我看过guide从JRuby调用Java,并成功地将它与另一个Java包一起使用,但无法弄清楚为什么同样的东西不能用于boilerpipe。我正在尝试基本上从JRuby中执行与此Java等效的操作:URLurl=newURL("http://www.example.com/some-location/index.html");Stringtext=ArticleExtractor.INSTANCE.getText(url);在JRuby中试过这个:require'java'url=java.net.URL.new("http://www

  5. java - 我的模型类或其他类中应该有逻辑吗 - 2

    我只想对我一直在思考的这个问题有其他意见,例如我有classuser_controller和classuserclassUserattr_accessor:name,:usernameendclassUserController//dosomethingaboutanythingaboutusersend问题是我的User类中是否应该有逻辑user=User.newuser.do_something(user1)oritshouldbeuser_controller=UserController.newuser_controller.do_something(user1,user2)我

  6. ruby - 检查是否通过 require 执行或导入了 Ruby 程序 - 2

    如何检查Ruby文件是否是通过“require”或“load”导入的,而不是简单地从命令行执行的?例如:foo.rb的内容:puts"Hello"bar.rb的内容require'foo'输出:$./foo.rbHello$./bar.rbHello基本上,我想调用bar.rb以不执行puts调用。 最佳答案 将foo.rb改为:if__FILE__==$0puts"Hello"end检查__FILE__-当前ruby​​文件的名称-与$0-正在运行的脚本的名称。 关于ruby-检查是否

  7. java - 什么相当于 ruby​​ 的 rack 或 python 的 Java wsgi? - 2

    什么是ruby​​的rack或python的Java的wsgi?还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht

  8. 华为OD机试用Python实现 -【明明的随机数】 2023Q1A - 2

    华为OD机试题本篇题目:明明的随机数题目输入描述输出描述:示例1输入输出说明代码编写思路最近更新的博客华为od2023|什么是华为od,od薪资待遇,od机试题清单华为OD机试真题大全,用Python解华为机试题|机试宝典【华为OD机试】全流程解析+经验分享,题型分享,防作弊指南华为o

  9. Observability:从零开始创建 Java 微服务并监控它 (二) - 2

    这篇文章是继上一篇文章“Observability:从零开始创建Java微服务并监控它(一)”的续篇。在上一篇文章中,我们讲述了如何创建一个Javaweb应用,并使用Filebeat来收集应用所生成的日志。在今天的文章中,我来详述如何收集应用的指标,使用APM来监控应用并监督web服务的在线情况。源码可以在地址 https://github.com/liu-xiao-guo/java_observability 进行下载。摄入指标指标被视为可以随时更改的时间点值。当前请求的数量可以改变任何毫秒。你可能有1000个请求的峰值,然后一切都回到一个请求。这也意味着这些指标可能不准确,你还想提取最小/

  10. 【Java 面试合集】HashMap中为什么引入红黑树,而不是AVL树呢 - 2

    HashMap中为什么引入红黑树,而不是AVL树呢1.概述开始学习这个知识点之前我们需要知道,在JDK1.8以及之前,针对HashMap有什么不同。JDK1.7的时候,HashMap的底层实现是数组+链表JDK1.8的时候,HashMap的底层实现是数组+链表+红黑树我们要思考一个问题,为什么要从链表转为红黑树呢。首先先让我们了解下链表有什么不好???2.链表上述的截图其实就是链表的结构,我们来看下链表的增删改查的时间复杂度增:因为链表不是线性结构,所以每次添加的时候,只需要移动一个节点,所以可以理解为复杂度是N(1)删:算法时间复杂度跟增保持一致查:既然是非线性结构,所以查询某一个节点的时候

随机推荐