Java 异步接口运行之后会占用大量的服务器内存该怎么解决?

1 天前
 tiRolin

我的一个项目内提供了一个接口,这个接口使用异步实现,主要是做一大堆的请求并将请求到的数据更新到数据库里和记录日志,但是问题是,这个接口一旦调用并执行完毕之后,就会残留大量的字节数据在内存里且不会自动清除,大概是会产生 2G 左右的垃圾,在我的本地环境里我运行了好几次是没问题的,因为即使残留了 2G 后续也会运行会正确进行 GC 避免内存满了,我在本地环境里手动进行 GC 也是可以正确清除掉这些垃圾的

具体看下图,我运行接口之后产生了很多的字节数据没有处理

在服务器空间足够的情况下,也能够正常进行垃圾回收从而保证项目的正常运行

但是我的服务器就只有 4G ,还要运行其他的东西,这 2G 的垃圾堆在那我内存就所剩无几了,甚至都没办法正常调用其他接口,我又没办法扩充服务器,所以想要解决这个问题

我在本地是想着先用 System.gc()这个方法来让 JVM 进行 GC 的,作为一个暂时的解决方法,但是这个方法本地能正确进行 GC ,但是到服务器就压根没做这件事,内存没多出来多少

代码因为是我学校的代码,我不能全放出来,所以我就放一部分的关键的代码到下面,我个人认为问题应该也出在下面这段代码里 业务代码:

List<OrgApiManageExecuteVO> orgApiManageList = new ArrayList<>();
// 创建一个线程池
ThreadPoolExecutor tpe = new ThreadPoolExecutor(4, 10, 40, TimeUnit.SECONDS, new LinkedBlockingQueue<>(75));
//    ThreadPoolExecutor tpe = new ThreadPoolExecutor(30, 40, 40, TimeUnit.SECONDS, new LinkedBlockingQueue<>());

log.info("api 请求开始=======================");
Long startTime = System.currentTimeMillis();
for (OrgApiManage orgApiManageVo : testApiManageVos) {
    if (!StringUtils.hasText(orgApiManageVo.getFullClassName())) {
        continue;
    }
    String threadName = "org-" + orgApiManageVo.getId();
    Callable<OrgApiManageExecuteVO> c = new CallApiQueryCallable(orgApiManageVo, orgApiGroupManageMap, langTypeResult, threadName);
    // 执行任务并获取 Future 对象
    Future<OrgApiManageExecuteVO> f = tpe.submit(c);
    OrgFutureResult orgFutureResult = new OrgFutureResult();
    orgFutureResult.setOrgApiManageVo(orgApiManageVo);
    orgFutureResult.setF(f);
    orgFutureResult.setThreadName(threadName);
    results.add(orgFutureResult);
}
log.info("========= ExecuteListSize:{} ====", results.size());
// 关闭线程池
tpe.shutdown();
// 获取所有并发任务的运行结果
for (OrgFutureResult orgFutureResult : results) {
    Future<OrgApiManageExecuteVO> f = orgFutureResult.getF();
    if (f.isDone()) {
        OrgApiManageExecuteVO returnDTO = f.get();
        orgApiManageList.add(returnDTO);
    } else {
        log.info("=========== 任務未完成   最多等待 60 分钟 =======");
        try {
            OrgApiManageExecuteVO returnDTO = f.get(2, TimeUnit.MINUTES);
            orgApiManageList.add(returnDTO);
        } catch (InterruptedException | ExecutionException e) {
            errorMsg(orgApiManageList, orgFutureResult, e, "線程任務意外中斷");
            Thread.currentThread().interrupt();
        } catch (TimeoutException e) {
            errorMsg(orgApiManageList, orgFutureResult, e, "線程執行的任務超時");
        }
    }
}
log.info("======== return orgApiManageList Size:{} =====", orgApiManageList.size());
Long runTime = System.currentTimeMillis() - startTime;
log.info("======= CallApiQueryCallable runTime:{}ms", runTime);
return orgApiManageList;

这里的异步任务做的就是构造 URL 发送请求等待请求返回结果并进行相应的处理(比如记录或者更新),大概是这样的,只是请求的数量很多,每次请求过来的线程数有两百多个,我这小服务总是拖挺久才能搞定,然后积压一堆不知道哪里的 byte 数据在内存里还清除不掉

我因为这个问题已经困扰了两天了,我个人尝试了很多办法都没能解决,所以我来问问各位,希望有大佬能不吝赐教,或者告诉我一些简单的思路也可以,我会自己去尝试的,先谢谢各位了

2492 次点击
所在节点    Java
42 条回复
Plutooo
23 小时 58 分钟前
看图和描述没感觉跟内存有多大关系,可以观察下 gc 日志或者 jstat 看下 gc 频率
线程池需要放全局算一个,线程池的参数需要调大
从你的描述中一次请求需要下发 200 个请求到下游,你的代码需要等 200 个请求都执行完成一次请求才会结束
而最大只能同时执行 14 个任务,理论情况抛开 cpu 上下文切换等耗时,你的一次请求完成时间大概是 一次请求的时间*( 200/14 ),可以大概推算下跟这个值对不对
securityCoding
23 小时 45 分钟前
tpe.shutdown() 这里不对, 空闲时线程池会自己释放, 可以在进程退出时做退出, 你这个业务请求关肯定不对
securityCoding
23 小时 44 分钟前
@securityCoding 看错了,我以为你的线程池是放在 class 成员变量 ,线程池不是你这么用的,在 class 创建成员变量吧?
tiRolin
23 小时 40 分钟前
@palfortime 是启动的时候参数设置为 1G ,2G 是我的本地项目启动跑到的,本地项目没做限制所以能跑到 2G 上,我刚刚做了限制之后在 2G 的内存限制下也能正确运行该接口,但是在服务器里就会占用大量内存且无法释放,没有用 netty 、用 httpclient 请求,报文大小没看
tiRolin
23 小时 39 分钟前
@securityCoding 这个我已经修改了,现在我怀疑问题出现在配置上而不是我的代码里,因为我本地设置项目大小最大为 2G 的情况下也可以正确运行该接口,但是在服务器里却会占用大量内存且无法释放
tiRolin
23 小时 34 分钟前
@tiRolin 好吧,刚刚太着急说了,虽然能正常运行,但是执行完后也会产生大量没回收的垃圾在内存里,大概是 1G 左右,不手动回收的话就不回收了,还是跟之前一样的情况
zsj1029
23 小时 11 分钟前
曾经出现过 vcenter 的虚机执行 dotnet 程序,内存泄漏
重点是 dotnet 的程序运行完都退出了,堆内存一直不释放,进程管理器,根本找不到内存占用进程
无论是 windows 还是 linux 一样的情况
最后排查下来 vcenter 的问题,因为本地运行和 kvm 虚机都是正常的
nice2cu
22 小时 56 分钟前
线程池是每请求一次就创建一个线程池?
palfortime
22 小时 55 分钟前
@tiRolin 你不是说服务器上用了 2g 吗?你直接贴服务器的驱动命令好了。jdk 什么版本。
assiadamo
22 小时 46 分钟前
自己的小东西,服务器配置又小,可以试试 go ,相同的业务可以省很多内存
chihiro2014
21 小时 40 分钟前
写并发的时候,不是应该避免重复创建线程池这种玩意么。你这样调用一次,就创一次。。oom 不是很正常?
Dream95
21 小时 26 分钟前
JVM GC 后不一定是把内存归还给操作系统的
zoharSoul
21 小时 20 分钟前
没 oom 说明不用 gc
janus77
20 小时 47 分钟前
有几种可能
1. 代码有问题,建议丢给 AI 帮你优化
2. 没用框架,用的原始 api 手撸的,有条件的话建议用框架
3. 是很大,但是在合理范围内,没法再优化了,这种只能换语言或者升级机器
weenhall5
20 小时 40 分钟前
new ArrayList<>()指定初始化大小,看你这个数据量估计一直扩容也有影响
julyclyde
20 小时 37 分钟前
@kandaakihito 你的情况跟人家不一样啊。人家的可以 gc
hdfg159
18 小时 39 分钟前
写一个简单能运行复现问题的 demo
wwalkingg
18 小时 36 分钟前
用 Kotlin 协程
blackmamba24
18 小时 19 分钟前
@chihiro2014 在用户线程里创建线程池我是首次见
kneo
18 小时 7 分钟前
旧版本堆增长之后就是不缩小的。你可以升级到最新的 jdk 试试。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1094804

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX