Java 导出报表过慢问题

2020-07-14 11:59:06 +08:00
 6666666666666666
最近发现项目(前后端分离)导出报表过慢,后来发现导出结果集其实很快(几秒),只是查询很慢(几十秒甚至几分钟),但是报表太多了,全是大的 sql 语句
所以我在想是否可以在不修改业务代码的情况下提高导出效率,所以我准备用多线程实现。项目用的 MyBatis,我的想法:
是否可以写个对 Executor.class 的 query 方法的拦截,
@Intercepts({@Signature(type = Executor.class, method = "query",
args = {MappedStatement.class, Object.class, RowBounds.class, ResultHandler.class, CacheKey.class, BoundSql.class})
})
然后把大 sql 先 count 下计算下总数,如果超过 10 万行我就 limit 方式分解多条 sql, 然后多个线程去跑,最后把结果集合并。
老哥们觉得如何,是否有啥 bug 呢?
2563 次点击
所在节点    Java
11 条回复
siweipancc
2020-07-14 12:39:58 +08:00
ಠ_ಠ 我们是按主体个数开线程 countdown 的。
skypyb
2020-07-14 12:46:34 +08:00
异步。 点导出之后让用户去主动下载导出文件
micean
2020-07-14 12:58:12 +08:00
瓶颈在数据库的话,开几个线程都没用
如果是 OLAP 的就半夜跑任务
如果是 OLTP 的就减少查询量
一定要混着用……改成新开一个窗口,js 控制伪进度,让用户等吧
ZehaiZhang
2020-07-14 13:09:15 +08:00
之前都是半夜定时生成报表,早上他们再自己下
6666666666666666
2020-07-14 13:17:02 +08:00
@micean @ZehaiZhang 我就是凌晨定时生成的报表,只是查询报表不是查所有,是查询该账号下能查到的数据并导出,每个帐号挂多个角色,报表的每个行有个 type 然后 type in ('2','3'..该帐号下的角色),就是这样查报表的,所以每个帐号生成的数据都不一样的。
weizhen199
2020-07-14 13:37:30 +08:00
赌五毛会更慢
buzailianxi
2020-07-14 13:44:51 +08:00
不改不现实,取出所有 type 的数据 or 所有 type 的数据放 redis,思路就是预先准备数据集合,导出的时候直接取就可以。
yizmaoaa
2020-07-14 15:37:32 +08:00
- - 你开多线程去 CountDownLautch 估计速度也是差不多。主数据源放内存里吧。只要你走数据库。导出大量数据必然是慢
starcraft
2020-07-14 15:44:50 +08:00
bug 不 bug 不知道,但就你提供这个方法,大概率是变慢,而不是在优化。
greatbody
2020-07-14 15:51:22 +08:00
分析清楚报表的取数逻辑。在梳理清楚的基础上,进行 SQL 优化,能用存储过程的,用存储过程。减少和数据库的交互,提高数据库计算的效率。
lqw3030
2020-07-15 07:30:24 +08:00
应该是异步而不是多线程,这种长阻塞的场景多线程会导致线程全部挂起

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/689862

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX