python+fastapi自建HTTP爬虫IP池接口
2021-03-13 22:36
标签:return 直接 ges head -o http代理 pre beautiful 很多 网络上搜索一下有很多提供HTTP代理的网站,直接使用BeautifulSoup将IP爬下来。 如果验证成功写入数据库。 使用fastapi 演示地址:找IP python+fastapi自建HTTP爬虫IP池接口 标签:return 直接 ges head -o http代理 pre beautiful 很多 原文地址:https://www.cnblogs.com/aosky/p/14048149.html使用的库
爬取ip
html =requests.get(url).text
bs =BeautifulSoup(html,‘html.perser‘)
#findAll()
#select()
验证ip
res = requests.get(url,headers=headers,proxies=proxies)
#判断res.status_code是否等于200
#db.insert_one()
接口
@app.get(‘/api‘)
def api():
data = 查询数据库随机返回一条
return data
效果展示
文章标题:python+fastapi自建HTTP爬虫IP池接口
文章链接:http://soscw.com/index.php/essay/64305.html