草庐IT

seleinum

全部标签

seleinum调用chrome长时间运行后出现崩溃

一、场景leader安排了爬虫的任务;代码采用了selenium调用谷歌浏览器模拟登录,登录后有模拟鼠标点击菜单,最后模拟点击进行翻页;代码写好了就一直跑啊跑啊。一共4W多页数据,每次差不多爬取了1千多页就会出现chrome崩溃的情况;如图:(网上找的图,当时的具体报错找不到了,其实可以重现;)后来排查到,在运行一段时间后,内存明显被吃满了。到这里可以判断肯定是浏览器把我内存吃了,最后导致自己崩溃了,哈哈;二、尝试的解决办法1、代码中使用try检测异常我把爬取翻页的代码放在了try内,试图在浏览器崩溃时被try检测到,从而重新发送请求(相当于刷新),开始爬取数据;但是…我想错了;当浏览器崩溃时