
qq:800819103
在线客服,实时响应
qq群
在线客服,实时响应
客服电话
13318873961一、设置User-Agent
1、创建Request对象时指定headers
url = 'http://ip.zdaye.com/'
head = {}
head['User-Agent'] = 'Mozilla/5.0 (Linux; Android 4.1.1; Nexus 7 Build/JRO03D) AppleWebKit/535.19 (KHTML, like Gecko) Chrome/18.0.1025.166 Safari/535.19'
req = request.Request(url, headers=head)
#传入创建好的Request对象
response = request.urlopen(req)
html = response.read().decode('utf-8')
print(html)
2、创建Request对象后使用add_header
req.add_header('User-Agent', 'Mozilla/5.0 (Linux; Android 4.1.1; Nexus 7 Build/JRO03D) AppleWebKit/535.19 (KHTML, like Gecko) Chrome/18.0.1025.166 Safari/535.19')
# 参数为 (key, value)
二、代理IP设置
使用install_opener方法之后,会将程序默认的urlopen方法替换掉。也就是说,如果使用install_opener之后,在该文件中,再次调用urlopen会使用自己创建好的opener。如果不想替换掉,只是想临时使用一下,可以使用opener.open(url),这样就不会对程序默认的urlopen有影响。
from urllib import request
if __name__ == "__main__":
url = www.16yun.cn'
#这是代理IP
proxy = {'http':'168.68.8.88:66666'}
#创建ProxyHandler
proxy_support = request.ProxyHandler(proxy)
#创建Opener
opener = request.build_opener(proxy_support)
#添加User Angent
opener.addheaders = [('User-Agent','Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/56.0.2924.87 Safari/537.36')]
#安装OPener
request.install_opener(opener)
#使用自己安装好的Opener
response = request.urlopen(url)
html = response.read().decode("utf-8")
print(html)
相关文章内容简介
1 ua和代理ip在爬虫代理中如何被设置
一、设置User-Agent 1、创建Request对象时指定headers url∵=∵'http://ip.zdaye.com/' head∵=∵{} head['User-Agent']∵=∵'Mozilla/5.0∵(Linux;∵Android∵4.1.1;∵Nexus∵7∵Build/JRO03D)∵AppleWebKit/535.19∵(KHTML, ∵like∵Gecko)∵Chrome/18.0.1025.166 ∵Safari/535.19' req∵=∵request.Request(url,∵headers=head) #传入创建好的Request对象 response∵=∵request.urlopen(req)... [阅读全文]
最新标签
推荐阅读
08
2019-08
怎么搭建IP代理服务器和ip代理地址设置方法
随着网路的发展,人们对网络资源和服务的需求是日渐增长,连入的网络的计算机越来越多,我们的生活正随着网络而改变。网络的高速发展同时也伴随着一些问题,如IP地址耗尽,海量的主机
03
2019-01
一张图让你看懂动态IP和外网IP的含义
我们都了解我国是1个IPV4地址严重欠缺的发展中国家,因此我们的拨号光纤宽带一直全是动态IP,都没有固定IP,之后更过分的是许多中小城市出现了内网IP,还有我们所有的二级光纤宽带ISP提供
17
2019-01
常见两种搭建代理IP池的方法
每个项目需要使用的代理IP数量不同,一般来说像做营销推广的,换IP换账号发帖,或者问答等,这些需要的IP量相对来说是比较少,而类似于刷票,刷单这些,需求的IP又会更多些。如果是使用
12
2018-11
socks5代理设置:Socks5动态ip怎么使用?
今天和大家分享一下Socks5动态ip如何使用,这是一款使用游览器刷单利器,配置使用游览器全局代理(意思是游览器所有数据都通过代理ip出去),其他应用程序还是通过本地出去。
热门文章