[爬虫问题] 有个字段是 js 生成的,麻烦帮忙

2021-07-14 10:38:54 +08:00
 Outliver0

爬虫小白

目标网站: https://page.auctions.yahoo.co.jp/jp/auction/j744286598 目标字段:'送料 東京都は1,111 円(離島を除く)' 或者是 '配送方法と送料' 下面的的所有内容

https://sm.ms/image/79ynzYdXFiQNUkK

2142 次点击
所在节点    Python
12 条回复
myCupOfTea
2021-07-14 10:50:12 +08:00
playwright
Outliver0
2021-07-14 11:03:35 +08:00
@myCupOfTea 我用了 selenium,但是速度实在太慢了,通过渲染的方式暂时不考虑了,主要是速度问题
vone
2021-07-14 11:07:23 +08:00
myCupOfTea
2021-07-14 11:18:40 +08:00
直接向楼上扒接口肯定是最快的
Outliver0
2021-07-14 11:24:57 +08:00
@vone 感谢 我看看
RockShake
2021-07-14 11:39:03 +08:00
能不用`selenium`就不用,只有实在跳不过去的时候才考虑
Kinnice
2021-07-14 11:57:48 +08:00
Outliver0
2021-07-15 10:35:35 +08:00
@vone pref_code 这个参数怎么来了 我今天测试没找到这个参数怎么生成的
vone
2021-07-15 10:49:27 +08:00
@Outliver0 八北
Outliver0
2021-07-15 10:56:50 +08:00
@vone 八北什么意思。。。。
vone
2021-07-15 11:16:45 +08:00
<option value="1">北海道</option>
<option value="2">青森県</option>
<option value="3">岩手県</option>
<option value="4">宮城県</option>
<option value="5">秋田県</option>
<option value="6">山形県</option>
<option value="7">福島県</option>
<option value="8">茨城県</option>
<option value="9">栃木県</option>
<option value="10">群馬県</option>
<option value="11">埼玉県</option>
<option value="12">千葉県</option>
<option value="13">東京都</option>
<option value="14">神奈川県</option>
<option value="15">新潟県</option>
<option value="16">富山県</option>
<option value="17">石川県</option>
<option value="18">福井県</option>
<option value="19">山梨県</option>
<option value="20">長野県</option>
<option value="21">岐阜県</option>
<option value="22">静岡県</option>
<option value="23">愛知県</option>
<option value="24">三重県</option>
<option value="25">滋賀県</option>
<option value="26">京都府</option>
<option value="27">大阪府</option>
<option value="28">兵庫県</option>
<option value="29">奈良県</option>
<option value="30">和歌山県</option>
<option value="31">鳥取県</option>
<option value="32">島根県</option>
<option value="33">岡山県</option>
<option value="34">広島県</option>
<option value="35">山口県</option>
<option value="36">徳島県</option>
<option value="37">香川県</option>
<option value="38">愛媛県</option>
<option value="39">高知県</option>
<option value="40">福岡県</option>
<option value="41">佐賀県</option>
<option value="42">長崎県</option>
<option value="43">熊本県</option>
<option value="44">大分県</option>
<option value="45">宮崎県</option>
<option value="46">鹿児島県</option>
<option value="47">沖縄県</option>
Outliver0
2021-07-15 11:25:09 +08:00
@vone 这个我找到了 但是那个请求要传的是 prefcode 从哪里获得,麻烦了,不怎么会反反爬

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/789426

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX