怎么理解 scrapy 的 xpath? xpath 字符串未像预期工作.

[chackchackGO]

我将 response 写入本地 html 文件, 然后浏览器打开, 用 xpath helper 来验证自己的 xpath 字符串能否工作.

测试结果是正常工作(匹配)的.

但是将该字符串传递给 response.xpath 就无法正常匹配.

明明是同一个 response. 为什么会这样呢?

[MarkToWin]

使用 scrapy 获得得页面内容检查了吗？有可能被检测到了，页面内容就不一致了。或者有些内容是需要 js 加载的，没有加载。

[ik]

将 response 写入本地 html 文件

打开这个文件的时候离线打开看看

[pepesii]

你可以用 scrapy shell 来调试
可以在里头 view response 来查看是否获取到了正确的界面

[luzihang]

查一下 scrapy 怎么 debug ，在 debug 的 console 尝试就行了

[vituralfuture]

因为 scrapy 下载的 HTML 和你手动下载并保存的 HTML 不一样

[chackchackGO]

@ik
@vituralfuture
op 就是用的`file.write(response.body)`, 而不是在 browser 里 ctrl+s.
以 file 协议打开这个 response 的文件, 问题依旧.

[wapptm]

这个很常见，有些内容是包裹在 js 里面的，这种肯定匹配不出来。可以将获取的源代码在 scrapy 里面打印出来看看，用正则一般可以匹配出来