Selenium 框架做爬虫进行页面跳转时报 stale element not found

2023-07-27 16:11:28 +08:00
 tiRolin

我想要爬取这个网址的日报周报月报信息: http://zdscxx.moa.gov.cn:8080/nyb/pc/messageList.jsp?item=%E6%9C%80%E6%96%B0%E5%8F%91%E5%B8%83&isLatestMessage=true

我打算先爬取一个日报的内容来看看有什么问题,为此构建了下面的代码

public class Crawler {
    public static void main(String[] args) {
        System.getProperties().setProperty("webdriver.chrome.driver", "D:\\pachong\\new\\chromedriver.exe");
        ChromeOptions options = new ChromeOptions();
        options.addArguments("--remote-allow-origins=*");
        ChromeDriver chromeDriver = new ChromeDriver(options);
        try {
            Thread.sleep(3000);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        String originUrl = "http://zdscxx.moa.gov.cn:8080/nyb/pc/messageList.jsp?item=%E6%9C%80%E6%96%B0%E5%8F%91%E5%B8%83&isLatestMessage=true";
        chromeDriver.get(originUrl);

        try {
            Thread.sleep(3000);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }

        WebElement button = chromeDriver.findElement(By.xpath("/html/body/div[1]/div[2]/div[1]/div[2]/ul/li[3]"));
        button.click(); //此处可以正确跳转

        try {
            Thread.sleep(3000);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }

        WebElement element = chromeDriver.findElement(By.xpath("//*[@id=\"dataTable\"]/li[1]")); //用 xpath 获取第一条日报数据
        System.out.println(element.getText()); //有数据,说明正确获取到了元素
//        element.click(); 此处报 stale element not found 异常
        System.out.println();
        WebElement a = element.findElement(By.cssSelector("a")); //获取元素内部的元素
        System.out.println(a.getText()); //有数据,正确获取到了元素
        System.out.println();
        System.out.println(a.getAttribute("href"));
//        a.click(); 此处还是报 stale element not found 异常

        try {
            Thread.sleep(3000);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }

        chromeDriver.quit();
    }
}

我上面的代码的逻辑是先获取到分析报告日报的元素,然后执行点击操作,然后获取到第一条数据执行点击,但是在获取第一条数据点击那里就会一直报 stale element not found 的问题,我找不到网址没法通过网址直接跳转,因为这个网址的 href 属性里没有网址,而是 javascript:void(0);

分析报告日报这个元素里的 href 也是 javascript:void(0);,但是在这个元素里是调用 click()是可以正确跳转的,但是在日报数据里的元素却不行

我试了很多方法了,仍然没有进展,我真没办法了所以来问问个各位,麻烦懂得大佬能不吝赐教,小弟先谢过了

1054 次点击
所在节点    Java
7 条回复
kanchi240
2023-07-27 16:42:57 +08:00
// element.click(); 此处报 stale element not found 异常
我这正常没报错,用的是 python
deplivesb
2023-07-27 16:49:45 +08:00
每日一遍:gov 的也敢
pierswu
2023-07-27 16:53:10 +08:00
说明这个 a 标签是通过绑定事件实现的页面跳转,不是 href 属性
godspeedyou
2023-07-27 16:53:48 +08:00
用 selenium IDE 模拟下,直接帮你生成代码
kuan
2023-07-28 09:01:06 +08:00
你通过"//*[@id=\"dataTable\"]/li[1]"获取的元素是 li 可以拿到下面的文字信息,但是跳转是点击下面的 a 标签,所以你"//*[@id=\"dataTable\"]/li[1]/a"这样就好了
duan602728596
2023-07-28 10:53:54 +08:00
讲道理,这个网站还没复杂到需要上 Selenium 的程度,上 Selenium 那是已经和反爬对抗的程度了。
kachu673
2023-07-29 13:16:11 +08:00
gov 的新手还是别爬了,控制不好频率,容易进去。工作几年的老手都轻易不碰这种项目。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/960265

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX