请问: 100w 个文件怎样快速合并到一起

2020-07-08 16:59:47 +08:00
 zh584728

每个文件倒是不大,几百到几千行不等

尝试使用cat 但是内存会溢出

笨办法倒是有,一个一个文件去读取...但好像也不快

所以有啥奇淫技巧吗

1101 次点击
所在节点    问与答
5 条回复
jimliang
2020-07-08 17:08:48 +08:00
cat file1 file2 > file
liprais
2020-07-08 17:09:11 +08:00
格式一样么
格式一样放在一个目录下面用 spark 完事
jimliang
2020-07-08 17:12:04 +08:00
不好意思,刚刚没看到已经尝试用过 cat 了
xupefei
2020-07-08 17:17:13 +08:00
fish:

for f in (ls)
cat $f >> combined.txt
end

bash/zsh 同理。
deppindeepin
2020-07-09 09:44:36 +08:00
何谓"快速"?指的是快速实现还是快速合并(合并速度)?
如果是前者的吧,拿一个自己熟悉的脚本语言搞一下岂不是分分钟么

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/688288

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX