请教写一个爬虫在 text 中遇<br>

写了一个爬虫，使用 lxml,然后 xpath 定位到标签 s = html.xpath("//div[@class='cont_font']/p/span")

但是 s[0].text 的时候只输出了部分内容，仔细一看，原来是遇到
，后来我干脆使用 re.sub() 替换掉所有
才正常输出。可是感觉这样好麻烦。是不是.text 用的姿势不对，还是程序遇到 < 就默认这个标签的 text 结束?

liangmishi

2016-05-03 00:37:14 +08:00

我的<br> 没显示出来

liangmishi

2016-05-03 00:38:10 +08:00

该不会有 xss 漏洞吧。。。

kindjeff

2016-05-03 00:57:59 +08:00

@liangmishi markdown 支持的 html 而已啦

SoloCompany

2016-05-03 01:36:50 +08:00

直接用 "//div[@class='cont_font']/p/span[1]” 然后 eval string 啊
你用 s[0].text 当然只能得到 span 底下第一个子节点的内容了

binux

2016-05-03 06:51:04 +08:00

`s[0].text_content()` 或 ' '.join(html.xpath("//div[@class='cont_font']/p/span//text()"))

liangmishi

2016-05-03 13:40:07 +08:00

@binux 在 py3 这两个方法都能用，在 py2 ' '.join(html.xpath("//div[@class='cont_font']/p/span//text()"))这个方法确实好用不过我是在 py3.. 好尴尬

liangmishi

2016-05-03 13:41:20 +08:00

@SoloCompany eval string 是啥意思百度的意思是执行这个字符串...

liangmishi

2016-05-03 20:05:36 +08:00

@kindjeff 谢谢，学到新姿势，前几天自己写了个站，不知道怎么换行才好，只知道<pre> 可以按原格式换行，并且不会造成 xss 漏洞

SoloCompany

2016-05-04 03:08:33 +08:00

@liangmishi 一般来说， xpath api 会提供方法允许你选择在执行（ evaluate ）之后返回得到一个 nodeset 或者是 string value ，如果没有这样的选择项，你可以用 string() 函数强制，如上例，就是
string(//div[@class='cont_font']/p/span[1])
表示返回第一个满足条件的 span tag 里面的所有文本的串接（注意 xpath 的下标是 1 base 而非 0 base 的）
去掉 [1] 下标的话，返回的是所有满足条件的 span tag 里面所有文本的串接

liangmishi

2016-05-04 17:31:07 +08:00

@SoloCompany 搞定谢谢。因为没找到 string() 但是明白原理之后我用 itertext() 就把所有子节点的文本拿出来了。我用的是 py3 ，不知道是不是跟你一样

SoloCompany

2016-05-04 21:11:25 +08:00

@liangmishi string() 不是 python 里面的函数，是 xpath 的内置函数，所以，我说的其实和 python 版本无关，严格来说，和什么语言也无关，只要是支持 xpath 遵循的都是同一个标准

参考
> echo '<body><div class="cont_font"><p><span>1 <br/> 2</span></p></div></body>' | xpath "//div[@class='cont_font']/p/span[1]/text()"
Found 2 nodes:
-- NODE --
1 -- NODE --
2

> echo '<body><div class="cont_font"><p><span>1 <br/> 2</span></p></div></body>' | xpath "string(//div[@class='cont_font']/p/span[1])"
Query didn't return a nodeset. Value: 1 2

liangmishi

2016-05-05 12:19:25 +08:00

@SoloCompany 666 完全搞懂，新姿势，谢谢！！

SlipStupig

2016-05-05 23:20:24 +08:00

@SoloCompany string 数据太多，很多都跟抓取数据无关，用 text()这样更准确
@liangmishi

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/275905

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

请教 写一个爬虫在 text 中遇<br>

请教写一个爬虫在 text 中遇<br>