python+fastapi自建HTTP爬虫IP池接口

2021-03-13 22:36

阅读:516

标签:return   直接   ges   head   -o   http代理   pre   beautiful   很多   

使用的库

  • bs4
  • requests
  • pymongo
  • fastapi
  • uvicorn

爬取ip

网络上搜索一下有很多提供HTTP代理的网站,直接使用BeautifulSoup将IP爬下来。

html =requests.get(url).text
bs =BeautifulSoup(html,‘html.perser‘)
#findAll()
#select()

验证ip

res = requests.get(url,headers=headers,proxies=proxies)
#判断res.status_code是否等于200
#db.insert_one()

如果验证成功写入数据库。

接口

使用fastapi

@app.get(‘/api‘)
def api():
	data = 查询数据库随机返回一条
	return data

效果展示

技术图片
技术图片

演示地址:找IP

python+fastapi自建HTTP爬虫IP池接口

标签:return   直接   ges   head   -o   http代理   pre   beautiful   很多   

原文地址:https://www.cnblogs.com/aosky/p/14048149.html


评论


亲,登录后才可以留言!