Python爬虫框架scrapy实现的文件下载功能示例

2018-10-15 18:08

阅读：660

本文实例讲述了Python爬虫框架scrapy实现的文件下载功能。分享给大家供大家参考，具体如下：

我们在写普通脚本的时候，从一个网站拿到一个文件的下载url，然后下载，直接将数据写入文件或者保存下来，但是这个需要我们自己一点一点的写出来，而且反复利用率并不高，为了不重复造轮子，scrapy提供很流畅的下载文件方式，只需要随便写写便可用了。

mat.py文件

pipelines.py

class MyFilePlipeline(FilesPipeline): def file_path(self, request, response=None, info=None): path = urlparse(request.url).path return join(basename(dirname(path)),basename(path))

settings.py

ITEM_PIPELINES = { weidashang.pipelines.MyFilePlipeline: 1, } FILES_STORE = examples_src

items.py

class matplotlib(Item): file_urls = Field() files = Field()

run.py

from scrapy.cmdline import execute execute([scrapy, crawl, mat,-o,example.json])

更多关于Python相关内容可查看本站专题：《Python Socket编程技巧总结》、《Python正则表达式用法总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》、《Python入门与进阶经典教程》及《Python文件与目录操作技巧汇总》

希望本文所述对大家Python程序设计有所帮助。

上一篇：Python3基于sax解析xml操作示例

下一篇：Python带动态参数功能的sqlite工具类

文章来自：搜素材网的编程语言模块，转载请注明文章出处。
文章标题：Python爬虫框架scrapy实现的文件下载功能示例
文章链接：http://soscw.com/index.php/essay/19096.html

亲，登录后才可以留言！

Python爬虫框架scrapy实现的文件下载功能示例

评论

热门文章

推荐文章

最新文章

置顶文章