#!/usr/bin/python3
import sys
from scrapy.cmdline import execute
class main(): def run(self): argv = sys.argv argv.append('-s') argv.append('LOG_FILE=logs/' + argv[2] + '.log') argv.append('-s') argv.append('LOG_FORMAT=%(asctime)s [' + argv[2] + '][%(name)s] %(levelname)s: %(message)s') print(argv[3]) print(argv) sys.exit(execute(argv))
if name == 'main': main().run()
这是一个 main 类
下面我再有一个 supervisor 类
#!/usr/bin/python3 import sys import datetime from main import main import time from scrapy.cmdline import execute
if name == 'main': argv = sys.argv while 1: startTime = time.time() main().run() endTime = time.time() time.sleep(argv[3]) if argv[3] < endTime - startTime: logerror_path = "logs/logerror.log"
这是一个 supervisor 类,这里调用 main 类但是这里我 运行如下
scrapy crawl [options] <spider></spider>
scrapy crawl [options] <spider></spider>
crawl: error: running 'scrapy crawl' with more than one spider is no longer supported
如何才能在 main 中支持传一个 sleep 时间的参数?
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.