[求助] Python 调用 phantomjs 老是因为 Out of memory 被 kill

2017-12-01 11:32:01 +08:00
 goodryb

代码如下

https://gist.github.com/anonymous/521c52b51e5d6c97c17790a67eeccf4a

dmesg 信息

3154 次点击
所在节点    Python
12 条回复
janxin
2017-12-01 11:41:15 +08:00
内存太小了?
goodryb
2017-12-01 11:44:16 +08:00
@janxin #1 1.6G 不算小吧,程序启动了可以运行几个小时,内存一直增加,然后就被 kill 了
neoblackcap
2017-12-01 11:45:05 +08:00
phantomjs OOM 很正常,用 chrome headless mode。作者都是这样说
wzwwzw
2017-12-01 13:01:16 +08:00
为什么不用 chrome headless 呢。
hahastudio
2017-12-01 13:05:20 +08:00
一定要用 phantomjs 的话,可以爬几个页面重启一下 phantomjs
holyghost
2017-12-01 13:09:00 +08:00
我已经换到 chrome headless 了
a7a2
2017-12-01 13:25:07 +08:00
建议使用 chromedriver,phantomjs 就很容易被识别。。。
goodryb
2017-12-01 15:07:46 +08:00
@neoblackcap #3
@wzwwzw #4
@holyghost #6
@a7a2 #7

好吧,看来我用到的工具落后了,已经更换到了 chrome headless,今天跑一跑,看看情况


@hahastudio #5 这个有点麻烦,解决方法不是太优雅
gouchaoer
2017-12-01 15:17:02 +08:00
新的就用 chrome headless,老的懒得切就继续 phantomjs 咯
Tunar
2017-12-01 15:48:01 +08:00
作者不是溜了么。。
BiggerLonger
2017-12-01 16:17:16 +08:00
chrome 沒有像 phantomjs 那樣的 web server 模塊吧?
goodryb
2017-12-01 20:35:01 +08:00
@gouchaoer #9 个人用,所以切换比较方便

@Tunar #10 不太清楚呢

@BiggerLonger #11 我感觉两种方式差不多,chrome 需要一个额外的 chromedriver

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/411058

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX