自己写的 python 爬虫，开源出来

[wangfengmadking]

前段时间把自己写的爬虫程序整理了一下，希望能构建一个简单易用的爬虫框架。现在已经有了基本框架. 采用的是requests + beautifulsoup。

现在的代码量还比较少，都是一些基本功能。就是把request和bf封装了一下。

https://github.com/numb3r3/crawler-python

[gaicitadie]

beautifulsoup跟pyquery有哪些区别？相对于pyquery有何优势？请有经验的大神讲讲

[wangfengmadking]

@gaicitadie 根据我的经验，pyquey基于lxml，比bf解析效率要高。本来我想直接用lxml的，但是由于比较赶，只能先用bf解析了。如果对jquery比较熟悉的话，那么可以直接可以使用pyquey来解析html

[pythoncc]

收藏、学习。。。

[wuyadong]

https://github.com/JobsDong/tigerspider

[zhwei]

上周pycoder weekly推荐的一个项目 https://github.com/jmcarp/robobrowser

也是封装了requests和 beautifulsoup, 可以试着添加写独到的功能。

[FrankFang128]

爬虫很有用吗？为什么这么多人写

[zhwei]

@FrankFang128 简化查询、聚合信息、懒人必备。

[jason52]

@gaicitadie 你要回jquery的话，强烈推荐pyquery，class选择器方便程度是bs不能比的。我误打误撞学了一下jquery，结果最有用的竟然是在爬虫的时候用上了pyquery

[qianlifeng]

bs4不是也可以使用jquery选择器语法查询的么

[alexapollo]

Scrapy?

[carlhan]

README.md 里面的 单词framework 写错了

嘿嘿

[RIcter]

@FrankFang128 我不会说过刚刚学py的时候，我写过爬h网关键词的..因为我是妹控哈哈哈！

[mongodb]

感觉python天生是为了写爬虫和代理而创造的语言= =

[FrankFang128]

@RIcter 听你这么一说，就感觉有用了

[pandada8]

@wangfengmadking beautifulsoup也可以指定使用lxml，只要在初始化的时候指定类型为lxml的就行了 http://www.crummy.com/software/BeautifulSoup/bs4/doc/#installing-a-parser

@qianlifeng 文档里有写？

————
pyquery没办法链式调用……残念……

[paulw54jrn]

@pandada8 补充下..beautifulsoup要4.0+版才能支持lxml

[fork3rt]

pyquery没beautifulsoup 强大 - -# 我最近也在写爬虫

[pandada8]

@paulw54jrn 嘛，新代码基本都用的bs4吧……

[qianlifeng]

@pandada8 http://www.crummy.com/software/BeautifulSoup/bs4/doc/index.zh.html#id37 这不是么？

[blond]

@wangfengmadking那pyquery和lxml哪个快呢