一个基于 scrapy 的项目

2015-07-08 22:01:16 +08:00
 junnplus

一个基于scrapy和MongoDB的项目

https://github.com/Junnplus/OnlineJudge_Crawler_Core

知道ACM的人应该知道VirtualJudge,这个项目实现跟VJ 的功能一样,能抓取各个OJ的题目,以及提交代码后的评判结果,作为自己接下去要写的新版VJ的核心组件. (_(:3 」∠ )_ VJ的作者不知道有没有逛V2EX)

Features
- Random UserAgent Support
- Simulate Login Support
- Form Submit Support

目前支持POJ/SDUT_OJ/HDU_OJ/FZU_OJ

当然代码很多地方还没完善,有错的地方可以提issue或是pr

如果有帮助的可以star

我的GitHub: https://github.com/Junnplus/

2600 次点击
所在节点    Python
6 条回复
saber000
2015-07-09 09:31:08 +08:00
问题的英文应该是Question吧,不是Problem...
hayao650
2015-07-09 09:47:21 +08:00
他的意思应该是pull request吧
junnplus
2015-07-09 11:01:13 +08:00
@saber000 你可能不知道oj的问题都叫problem吧
zanpen2000
2015-07-09 13:06:12 +08:00
好多缩写,一个都不知道,就知道一个Scrapy,一看就是高手
junnplus
2015-07-09 13:25:52 +08:00
@zanpen2000 你是说oj的缩写么
saber000
2015-07-09 16:27:49 +08:00
@junnplus 还真是,我就瞅了眼items

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/204317

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX