python爬虫之User Agent
2021-06-29 20:05
标签:3.5 51cto log RoCE python3.5 数据 port 完成 use 下面来做个试验: python2 python3 我们开启fiddler,运行完成代码,然后在fiddler上面查看下我们的数据 下面我们在代码上加入一个头 抓包的结果如下: python爬虫之User Agent 标签:3.5 51cto log RoCE python3.5 数据 port 完成 use 原文地址:http://blog.51cto.com/853056088/2174764
python代码如下:import urllib2
url = "http://www.baidu.com/"
request = urllib2.Request(url)
response = urllib2.urlopen(request)
print(response.read())
from urllib import request
url = "http://www.baidu.com/"
req = request.Request(url)
response = request.urlopen(req)
print(response.read().decode()
很明显就是python的版本,
因此我们在学习爬虫的时候无论爬什么,代码最好都要加上这个头信息from urllib import request
headers = {
"User-Agent":"Mozilla/5.0 (Windows NT 10.0; WOW64"
}
url = "http://www.baidu.com/"
req = request.Request(url,headers=headers)
response = request.urlopen(req)
print(response.read().decode())
上一篇:PHP之数组函数