大于5G 的 CSV 文件如何导入到Oracle数据库中

2013-10-21 23:26:31 +08:00
 ge2009
有一个 CSV 文件里面大概有40000000条数据,试过 Toad,Access,Excel,Number,plsqldev 都无法打开或导入,Oracle的sqlldr也试过都没用,只有 UltraEdit 可以打开浏览但无法导入到Oracel 里,求解,谢谢!
3130 次点击
所在节点    问与答
8 条回复
csx163
2013-10-21 23:35:51 +08:00
分割呗,这么简单
mlhorizon
2013-10-21 23:39:59 +08:00
数据干净的话,用SQL LOADER 就好了。
Muninn
2013-10-22 01:18:54 +08:00
我平时倒的文件都是几十或者几百G,从来没出过问题. 就用自带的sqlldr. 你得详细的说你出的什么问题才好解决啊. 文件大小绝对不是问题.
ge2009
2013-10-22 09:20:59 +08:00
@csx163 试过好些 csv 分割器,都有问题
10iii
2013-10-22 10:03:37 +08:00
//cut.js
var ws = WScript.CreateObject("WScript.Shell"), fso = new ActiveXObject("Scripting.FileSystemObject");
var fin = fso.OpenTextFile(".\\Very-Large.csv", 1);
var i=0,j=1;
var fout = fso.OpenTextFile(".\\part"+(i++)+".csv", 2, true);
while (!fin.AtEndOfStream) {
j++;
fout.WriteLine(fin.ReadLine());
if ((j%1000000) === 0) {
fout.Close();
fout = fso.OpenTextFile(".\\part"+(i++)+".csv", 2, true);
}
}
fin.Close();fout.Close();
ws.popup('Done');
10iii
2013-10-22 10:06:38 +08:00
提前说句,估计是你的csv中间有乱七八糟换行符啥的。
csx163
2013-10-26 22:10:03 +08:00
@ge2009 我用的是会生成一个DAV后缀文件的切割器,名字真忘了
ge2009
2013-10-27 12:16:14 +08:00
@10iii 多谢!

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/86369

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX