qq：800819103
在线客服，实时响应
qq群
在线客服，实时响应
客服电话
133188739611. 设置背景
在使用selenium浏览器渲染技术，当我们爬取某个网站的信息的时候，在一般情况下速度都不是特别的快。而且需要利用selenium浏览器渲染技术爬取的网站，反爬虫的应对技术都比较厉害，对IP访问频率有很高程度的限制。所以，如果想提升selenium抓取数据的速度，可以从两个方面出发：
第一方面， 抓取频率要提高，破解出现的验证信息，一般都是验证码或者是用户登陆 。
第二方面，使用多线程 + 代理IP， 这种方式，需要电脑有足够的内存和充足稳定的代理IP 。
2. 为chrome设置代理IP
注意事项：
第一，选择稳定的固定的代理IP。不要选择动态代理IP。我们常用的爬虫IP代理通常都是具有高度保密性质的高匿名动态IP，是通过拨号动态产生的，时效性非常的短，一般都是在3分钟左右。对于scrapy这种并发度很高，又不需要登录的爬虫来说，非常合适，但是在浏览器渲染类爬虫中并不适用。
第二，选择速度较快的代理IP。因为selenium爬虫采用的是浏览器渲染技术，这种浏览器渲染技术速度就本身就很慢。如果选择的代理IP速度较慢，爬取的时间就会进一步增加。
第三，要有足够大的电脑内存。因为chrome占内存较大，在并发度很高的情况下，容易造成浏览器崩溃，也就是程序崩溃。
第四，在程序结束时，调用 browser.quit( ) 清除浏览器缓存。
3. 需要用户名密码验证的代理
相关文章内容简介
1 selenium+python设置爬虫代理IP的方法
selenium+python设置爬虫代理IP的方法 ∵ ∵ ∵ 1.∵设置背景 在使用selenium浏览器渲染技术，当我们爬取某个网站的信息的时候，在一般情况下速度都不是特别的快。而且需要利用selenium浏览器渲染技术爬取的网站，反爬虫的应对技术都比较厉害，对IP访问频率有很高程度的限制。所以，如果想提升selenium抓取数据的速度，可以从两个方面出发： 第一方... [阅读全文]
最新标签
推荐阅读
17
2019-04
换ip软件后网络无法连接怎么办?
如今使用换ip软件的人逐渐增多，不可避免的会碰上换ip软件账号无法正常连接的情况。
19
2019-01
为什么要对IP进行动态管理？用动态IP地址有什么好处？
大部分人都是知道关于IP的，一个设备没有IP地址是无法上网的，不管是手机还是电脑、平板或是其他的设备要想连接网络，那必须有要个IP地址。全球几十亿的人上网，哪里来这么多的IP地址？
30
2019-06
哪儿能找到速度快的上海代理IP？
当我们使用代理IP的时候，无非是这几种情况，一是网络业务的需要，如数据采集，效果补量需要大量的代理IP;二是一些网站有访问权限，如国外的网站，这个时候就需要国外的代理IP了;三是自
19
2019-09
代理IP软件哪家好?
代理IP软件按哪家好?代理ip应用于人们的生活和工作中，所以选择一款好的代理ip已成为一件非常重要的事。可能大家会问市面上那么多代理ip软件商家,我们该如何选择好的代理ip软件呢?代理IP软
热门文章
