C#爬虫例子

2021-05-31 15:01

阅读:495

标签:pack   ade   括号   syn   res   with   span   reac   设置   

公司需要抓取新闻,每次手动复制粘贴新闻,太麻烦了,业务人员就提出了要求,需要程序实现自动抓取新闻,因此就写了这个简单的爬虫程序。

 Html Agility Pack库

这是一个.NET下的HTML解析类库,它可以读/写DOM并支持普通的XPATH或XSLT。

 AngleSharp库

AngleSharp是一个.NET库,可以操作基于的超文本,如HTML,SVG,MathML,XML,CSS等。AngleSharp根据官方HTML5规范构建DOM。这也意味着最终的模型是完全交互式的,可以用于简单的操作。

··· 用AngleSharp做的简单爬虫
//1.设置配置
var config = Configuration.Default.WithDefaultLoader();
var context = BrowsingContext.New(config);
//2.打开连接
var address = "https://www.sina.com.cn/";
var document = await context.OpenAsync(address);
//3.选择内容范围
var cellSelector = ".newslist li";
var cells = document.QuerySelectorAll(cellSelector);
//4.获取内容
var titles = cells.Select(m => m.TextContent);

foreach (var title in titles) {
    Console.WriteLine(title);
}
···

 

C#爬虫例子

标签:pack   ade   括号   syn   res   with   span   reac   设置   

原文地址:https://www.cnblogs.com/zhao123/p/11017406.html


评论


亲,登录后才可以留言!