难: 20G 的 txt 文本,求如何导入 Excel?

2017-05-03 15:02:57 +08:00
 curiosity

部门最近处理数据,从 IT 那里导出了 20G 的 txt 文件,但是不晓得怎么用。V 友萌给点建议撒~

6638 次点击
所在节点    数据库
89 条回复
whale
2017-05-03 17:50:38 +08:00
一个数据文件 20G,还是 txt,遇到会很头痛!
singer
2017-05-03 17:54:40 +08:00
Python 读读快的
vus520
2017-05-03 18:10:56 +08:00
不应该是放到数据库或者 hadoop 中么
Ginson
2017-05-03 18:47:36 +08:00
txt 用 shell 处理吧,比 excel 不知道高到哪里去了
wanganjun
2017-05-03 19:45:14 +08:00
导到数据库吧,excel 是可以连接,读取数据库数据的
qfdk
2017-05-03 19:48:12 +08:00
你需要用 zepplin 然后用 csv 的库 把它读进去 查询就 select
tairan2006
2017-05-03 20:01:46 +08:00
算了吧。。能导进去又怎么样,你有那么大的内存么……
lany
2017-05-03 20:21:09 +08:00
20G boom
FunctionOne
2017-05-03 20:38:38 +08:00
所以说,不要收集太多数据……
jyf007
2017-05-03 21:19:52 +08:00
我做 it 也是用 jq 处理 json 改 csv,但是之中有过滤啊。
fy
2017-05-03 22:06:41 +08:00
Excel 格式有一个限制是必须全部载入内存后才能打开。

所以说……
davidqw
2017-05-03 22:07:28 +08:00
推荐个方案:本地安装 MySQL,客户端 WorkBench 导入数据和清洗数据,Tableau 连接数据库分析出图
runntuu
2017-05-03 22:39:34 +08:00
长么大还没见过 20G 的 txt,表示想看。。
zander
2017-05-03 22:46:42 +08:00
try sql.
dexterzzz
2017-05-03 22:49:29 +08:00
说 excel 100 多 w 行限制的根本不知道 excel 现在发展到什么地步了,去看看什么是 powerpivot,power bi。
Quaintjade
2017-05-03 22:50:07 +08:00
[IT 表示不想理你,并向你扔了条裤子]
[你接住了裤子,并开始纠结如何套到头上]
hahahasnoopy
2017-05-03 23:08:59 +08:00
@dexterzzz 居然 Excel 都能这样玩了,惊了
rayray314
2017-05-04 00:05:11 +08:00
Power Query + Power Pivot 可玩,Power BI 亦可。
HuangLibo
2017-05-04 00:25:13 +08:00
还是用数据库吧...
cnkuner
2017-05-04 00:27:09 +08:00

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/358805

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX