发布日期:2025-01-04 17:55 点击次数:98
|
Scrapy下载图片项目介绍
Scrapy是一个适用爬取网站数据、提取结构性数据的应用程序框架,它可以通过定制化的修改来满足不同的爬虫需求。
使用Scrapy下载图片
项目创建
首先在终端创建项目
该命令将创建下述项目目录。
项目预览
查看项目目录
win4000
win4000
spiders
__init__.py
__init__.py
items.py
middlewares.py
pipelines.py
settings.py
scrapy.cfg
创建爬虫文件
进入spiders文件夹,根据模板文件创建爬虫文件
项目组件介绍
1.引擎(Scrapy):核心组件,处理系统的数据流处理,触发事务。
2.调度器(Scheduler):用来接受引擎发出的请求, 压入队列中, 并在引擎再次请求的时候返回。由URL组成的优先队列, 由它来决定下一个要抓取的网址是什么,同时去除重复的网址。
3.下载器(Downloader):用于下载网页内容, 并将网页内容返回给Spiders。
4.爬虫(Spiders):用于从特定的网页中提取自己需要的信息, 并用于构建实体(Item),也可以从中提取出链接,让Scrapy继续抓取下一个页面
5.管道(Pipeline):负责处理Spiders从网页中抽取的实体,主要的功能是持久化实体、验证实体的有效性、清除不需要的信息。当页面被Spiders解析后,将被发送到项目管道。
6.下载器中间件(Downloader Middlewares):位于Scrapy引擎和下载器之间的框架,主要是处理Scrapy引擎与下载器之间的请求及响应。
7.爬虫中间件(Spider Middlewares):介于Scrapy引擎和爬虫之间的框架,主要工作是处理Spiders的响应输入和请求输出。
8.调度中间件(Scheduler Middewares):介于Scrapy引擎和调度之间的中间件,从Scrapy引擎发送到调度的请求和响应。
Scrapy爬虫流程介绍
Scrapy基本爬取流程可以描述为UR2IM(URL-Request-Response-Item-More URL):
1.引擎从调度器中取出一个链接(URL)用于接下来的抓取;
2.引擎把URL封装成一个请求(Request)传给下载器;
3.下载器把资源下载下来,并封装成应答包(Response);
4.爬虫解析Response;
5.解析出实体(Item),则交给实体管道进行进一步的处理;
6.解析出的是链接(URL),则把URL交给调度器等待抓取。
页面结构分析
首先查看目标页面,可以看到包含多个主题,选取感兴趣主题,本项目以“风景”为例(作为练习,也可以通过简单修改,来爬取所有模块内图片)。
在“风景”分类页面,可以看到每页包含多个专题,利用开发者工具,可以查看每个专题的URL,拷贝相应XPath,利用Xpath的规律性,构建循环,用于爬取每个专题内容。
利用上述结果,可以看到li[index]中index为专题序列。因此可以构建Xpath列表如下:
利用开发者工具,可以查看下一页的URL,拷贝相应XPath用于爬取下一页内容。
因此可以构建如下XPath:
点击进入专题,可以看到具体图片,通过查看图片XPath,用于获取图片地址。
可以通过标题和图片序列构建图片名。
同时可以看到,在专题页面下,包含了多张图片,可以通过点击“下一张”按钮来获取下一页面URL,此处为了简化爬取过程,可以通过观察URL规律来构建每一图片详情页的URL,来下载图片。
因此可以通过首页地址和图片序号来构建每一张图片详情页地址。
定义Item字段(Items.py)
本项目用于下载图片,因此可以仅构建图片名和图片地址字段。
编写爬虫文件(pictures.py)
代码详解见代码注释。
修改配置文件settings.py
修改win4000/win4000/settings.py中的以下项。
修改管道文件pipelines.py用于下载图片
修改win4000/win4000/pipelines.py文件。
编写爬虫启动文件begin.py
在win4000目录下创建begin.py
最终目录树
win4000
begin.py
win4000
spiders
__init__.py
pictures.py
__init__.py
items.py
middlewares.py
pipelines.py
settings.py
scrapy.cfg
项目运行
进入begin.py所在目录,运行程序,启动scrapy进行爬虫。
爬取结果
后记
本项目仅用于测试用途。
Enjoy coding.
到此这篇关于Python爬虫之教你利用Scrapy爬取图片的文章就介绍到这了,更多相关python中用Scrapy爬取图片内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!