使用 mongoose 向数据库插入几十万条数据 cpu 直接 100%运行

2020-01-16 16:44:10 +08:00
 liulqiuyu
5732 次点击
所在节点    Node.js
2 条回复
liulqiuyu
2020-01-16 16:47:49 +08:00
-----代码如下-------
function readByfile(value,mongodb){
let readPath=path.resolve(__dirname,'json/json/'+value);
let data = fs.readFileSync(readPath,'utf-8');
mongodb.insertMany(JSON.parse(data),function(err){
console.log(err);
});
}
function readDir(dirpath){
let files = fs.readdirSync(dirpath);
_.each(files , function(value){
if(value.startsWith('authors.song')){
readByfile(value,song_author)
}else if(value.startsWith('authors.tang')){
readByfile(value,tang_author)
}else if(value.startsWith('poet.tang')){
readByfile(value,tang_poet)
}else if(value.startsWith('poet.song')){
readByfile(value,song_poet)
}
});
}
lovemegowin
2020-01-17 09:11:03 +08:00
改成流处理

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/638484

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX