V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
softgoto
V2EX  ›  问与答

关于文件上传进度显示的疑问

  •  
  •   softgoto · 2017-06-16 16:36:48 +08:00 · 3195 次点击
    这是一个创建于 2747 天前的主题,其中的信息可能已经有所发展或是发生改变。

    今天有同事反馈说系统上传稍大的文件(100MB)很慢,收到反馈之后我就去检查代码。

    上传的大体流程是这样的:

    Web -> Upload Server -> AWS S3

    Upload Server 是一个简单的 MVC 架构,提供了一个表单上传的接口,从 Controller 层拿到 InputStream 直接传到 Service 层。

    因为文件最终是存储在亚马逊云的 S3 上,正好 AWS S3 的上传方法支持直接传 InputStream,所以中间的 Upload Server 就做了个透传。

    本以为透传效率应该很高的(假设网络环境 OK ),结果在调试的时候发现了一个很奇怪的现象。

    网页上传文件时用 chrome 控制台监控网络请求,发现发出去的请求处于 pending 状态,但浏览器有进度显示,奇怪的是这个时候后台没有收到任何数据,当网页进度显示 100%时,才进入后台的上传方法中,这个时候后台才拿到 InputStream。

    接着我又用 Postman 模拟表单提交,在点击 Send 按钮的时候,后台的上传方法马上就收到请求了。

    面对这两种情况我彻底懵逼了

    网页上的表单提交和 Postman 模拟表单提交有什么区别?

    在网页进度从 0-100 这段时间里,文件被传到了哪里?客户端浏览器缓存?

    如果前端传 500M 一个文件,先要等前端从 0-100,然后后台拿到流,再给到 AWS S3,这样对于用户来说上传一个 500M 的文件,实际使用的时间相当于传了两个 500M 的文件。

    有没有其他方案可以解决这个时间问题。

    求大神指点

    前端代码:

    <!DOCTYPE html>
    <html>
    <head>
    	<title>Test</title>
    </head>
    <body>
    
    <form method="post" action="http://xxxxxxxxxx/upload" enctype="multipart/form-data">
    <input type="file" name="file">
    <button type="submit">submit</button>	
    </form>
    
    
    </body>
    </html>
    

    后台代码:

    @RequestMapping(value = "/upload", method = RequestMethod.POST)
    @ResponseBody
    public ResponseResult<String> upload(MultipartHttpServletRequestrequest, HttpServletResponse response) {
        Iterator<String> itr = request.getFileNames();
        MultipartFile mpf;
            
        while (itr.hasNext()) {
            mpf = request.getFile(itr.next());
            System.out.println("Uploading {}"+ mpf.getOriginalFilename());
        }
        
        ResponseResult<String> res = new ResponseResult<String>();
    	res.setCode(ResponseCode.Empty.getCode());
    	res.setMsg(ResponseCode.Empty.getMsg());
    	return res;
    }
    
    8 条回复    2017-06-16 19:23:09 +08:00
    kaneg
        1
    kaneg  
       2017-06-16 17:19:28 +08:00 via iPhone   ❤️ 1
    看上去你用的是 spring 框架,默认它的文件上传过程中是缓存在临时文件中,等传输完毕才调用你的方法。
    SoulSleep
        2
    SoulSleep  
       2017-06-16 18:00:27 +08:00   ❤️ 1
    好像你可以看看 tomcat 的 temp 目录下应该会暂存你上传的文件缓存
    watzds
        3
    watzds  
       2017-06-16 18:32:19 +08:00 via Android   ❤️ 1
    应该是缓存了,不过 Postman 是调同一个接口同一个文件?
    softgoto
        4
    softgoto  
    OP
       2017-06-16 18:52:26 +08:00
    @kaneg #1 是的,使用 spring 框架

    意思是在不触发方法的时候,默认先将文件缓存到临时目录?

    有没有方法能做到客户端传多少,服务端就收到处理多少?

    如果用分段读取上传的方式是否可行?
    softgoto
        5
    softgoto  
    OP
       2017-06-16 18:53:04 +08:00
    @watzds #3 恩,相同接口,同一个文件
    softgoto
        6
    softgoto  
    OP
       2017-06-16 18:53:22 +08:00
    @SoulSleep #2 好的,我测试一下
    watzds
        7
    watzds  
       2017-06-16 19:08:30 +08:00 via Android   ❤️ 1
    Postman 马上收到请求了,那收到文件了吗,表示怀疑。边收边处理肯定有,比如 Commons fileupload 的 streaming api.
    http://commons.apache.org/proper/commons-fileupload/streaming.html
    Spring 自带的应该也有
    softgoto
        8
    softgoto  
    OP
       2017-06-16 19:23:09 +08:00
    @watzds #7 Postman 发出请求后,方法就被触发了,后台控制台能看到文件正在上传到 AWS 的日志。

    感谢,我看看 streaming api
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5240 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 01:19 · PVG 09:19 · LAX 17:19 · JFK 20:19
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.