scrapy 框架中的 crawlspider 爬虫问题请教！

[xiushenbuhuihui]

创建了 scrapy 框架中的 crawlspider 抓取全网站信息时，网页源代码中的相对链接并没有被转化为绝对链接，导致抓取的整个网站信息不全，请教大神，该怎么办

[luanguang]

用自带方法拼接
```
response.urljoin()
```

[fank99]

我是这样的。。
from urllib.parse import urljoin
yield Request(url=urljoin(response.url, url), callback=)

[xiushenbuhuihui]

@luanguang 您好，我把我的问题给你详细描述一下，请您帮我解决一下。
用的是 crawlspider 爬取乐融商城全部的网站源代码，但是爬取到精选配件页面（全部分类选项里面）时，由于商品（“比如：乐视蓝牙耳机”）的链接只是相对的，结果导致无法爬取商品页面源代码

[xiushenbuhuihui]

@fank99 您好，我把我的问题给你详细描述一下，请您帮我解决一下。
用的是 crawlspider 爬取乐融商城全部的网站源代码，但是爬取到精选配件页面（全部分类选项里面）时，由于商品（“比如：乐视蓝牙耳机”）的链接只是相对的，结果导致无法爬取商品页面源代码