selenium3 + python - page_source页面源码
2020-12-05 14:03
标签:findall 获取 包括 sel 匹配 博客 url 表达 取出 前言: 有时候通过元素的属性的查找页面上的某个元素,可能不太好找,这时候可以从源码中爬出想要的信息。selenium的page_source方法可以获取到页面源码。 本次以博客园为例,先爬取页面源码,通过re正则表达式爬取出url,再进行筛选出http 协议的 url -- 用if做判断。 源码整理如下 selenium3 + python - page_source页面源码 标签:findall 获取 包括 sel 匹配 博客 url 表达 取出 原文地址:https://www.cnblogs.com/Teachertao/p/10989353.htmlfrom selenium import webdriver
import re
driver = webdriver.Chrome()
driver.get("https://www.cnblogs.com/Teachertao/")
page = driver.page_source
# print(page)
# "非贪婪匹配,re.S(‘.‘匹配字符,包括换行符)"
url_list = re.findall(‘href=\"(.*?)\"‘, page)
#url_list = re.findall(‘href=\"(.*?)\"‘, page,re.S)
url_all = []
for url in url_list:
if "http" in url:
print(url)
url_all.append(url)
#打印出页面url
print(url_all)
上一篇:Python3 循环语句
文章标题:selenium3 + python - page_source页面源码
文章链接:http://soscw.com/index.php/essay/23353.html