Python爬虫框架之Scrapy中Spider的用法


Posted in Python onJune 28, 2021

Spider类定义了如何爬取某个(或某些)网站。包括了爬取的动作(例如:是否跟进链接)以及如何从网页的内容中提取结构化数据(爬取item)。换句话说,Spider就是您定义爬取的动作及分析某个网页(或者是有些网页)的地方。

对spider来说,爬取的循环类似下文:

1.以初始的URL初始化Request,并设置回调函数。当该request下载完毕并返回时,将生成response,并作为参数传给该回调函数。spider中初始的request是通过调用start_requests()来获取的。start_requests()读取start_urls中的URL,并以parse为回调函数生成Request。

2.在回调函数内分析返回的(网页)内容,返回ltem对象或者Request或者一个包括二者的可迭代容器。返回的Request对象之后会经过Scrapy处理,下载相应的内容,并调用设置的callback函数(函数可相同)。

3.在回调函数内,您可以使用选择器(Selectors)(您也可以使用BeautifulSoup, Ixml或者您想用的任何解析器)来分析网页内容,并根据分析的数据生成item。

4.最后,由spider返回的item将被存到数据库(由某些ltem Pipeline处理)或使用Feed exports存入到文件中。

虽然该循环对任何类型的spider都(多少)适用,但Scrapy仍然为了不同的需求提供了多种默认spider。之后将讨论这些spider。

Spider

scrapy.spider.Spider是最简单的spider。每个其他的spider必须继承自该类(包括Scrapy自带的其他spider以及您自己编写的spider)。其仅仅请求给定的start_urls / start_requests,并根据返回的结果(resulting responses)调用spider的 parse方法。

name

定义spider名字的字符串(string)。spider的名字定义了Scrapy如何定位(并初始化) spider,所以其必须是唯一的。不过您可以生成多个相同的spider实例(instance),这没有任何限制。name是spider最重要的属性,而且是必须的。

如果该spider爬取单个网站(single domain),一个常见的做法是以该网站(domain)(加或不加后缀)来命名spider。例如,如果spider爬取 mywebsite.com,该spider通常会被命名为mywebsite。

allowed_domains

可选。包含了spider允许爬取的域名(domain)列表(list)。当OffsiteMiddleware启用时,域名不在列表中的URL不会被跟进。

start_urls

URL列表。当没有制定特定的URL时,spider将从该列表中开始进行爬取。因此,第一个被获取到的页面的URL将是该列表之一。后续的URL将会从获取到的数据中提取。

start_requests()

该方法必须返回一个可迭代对象(iterable)。该对象包含了spider用于爬取的第一个Request。

当spider启动爬取并且未制定URL时,该方法被调用。当指定了URL时,make_requests_from_url()将被调用来创建Request对象。该方法仅仅会被Scrapy调用一次,因此您可以将其实现为生成器。

该方法的默认实现是使用start_urls的url生成Request。

如果您想要修改最初爬取某个网站的Request对象,您可以重写(override)该方法。例如,如果您需要在启动时以POST登录某个网站,你可以这么写:

def start_requests(self) :
    return [scrapy.FormRequest("http : / /ww. example.com/login",
        formdata={ 'user' : 'john', ' pass ' : 'secret'},
        ca77back=se1f.1ogged_in)]
 
def logged_in(self,response) :
## here you would extract links to follow and return Requests for
## each of them,with another ca77back
pass

parse

当response没有指定回调函数时,该方法是Scrapy处理下载的response的默认方法。

parse负责处理response并返回处理的数据以及(/或)跟进的URL。Spider对其他的Request的回调函数也有相同的要求。

该方法及其他的Request回调函数必须返回一个包含Request 及(或) ltem的可迭代的对象。

参数: response-用于分析的response

启动方式

start_urls

start_urls是一个列表

start_requests

使用start_requests()重写start_ur1s,要使用Request()方法自己发送请求:

def start_requests(se7f):
    """重写start_urls 规则"""
    yield scrapy.Request(ur1='http://quotes.toscrape.com/page/1/'cal1back=self.parse)

scrapy.Request

scrapy.Request是一个请求对象,创建时必须制定回调函数。

数据保存

可以使用-o将数据保存为常见的格式(根据后缀名保存)
支持的格式有下面几种:

  • json
  • jsonlines
  • jl
  • csv
  • xml
  • marshal
  • pickle

使用方式:

scrapy crawl quotes2 -o a.json

案例: Spider样例

##一*- coding: utf-8 -*-
 
import scrapy
 
clTass Quotes2spider(scrapy.spider):
    name = 'quotes2'
    a7lowed_domains = [ 'toscrape.com ' ]
    start_urls = [ ' http: //quotes.toscrape.com/ page/2/ ']
 
    def parse(self,response):
        quotes = response.css('.quote ' )
        for quote in quotes:
            text = quote.css( '.text: : text ' ).extract_first()
            auth = quote.css( '.author : :text ').extract_first()
            tages = quote.css('.tags a: :text' ).extract()
            yield dict(text=text , auth=auth, tages=tages)

到此这篇关于Python爬虫框架之Scrapy中Spider的用法的文章就介绍到这了,更多相关Spider的用法内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python过滤函数filter()使用自定义函数过滤序列实例
Aug 26 Python
Django中传递参数到URLconf的视图函数中的方法
Jul 18 Python
Django Admin 实现外键过滤的方法
Sep 29 Python
python 打印直角三角形,等边三角形,菱形,正方形的代码
Nov 21 Python
Ubuntu下使用python读取doc和docx文档的内容方法
May 08 Python
Python代码块批量添加Tab缩进的方法
Jun 25 Python
OpenCV+python手势识别框架和实例讲解
Aug 03 Python
windows下cx_Freeze生成Python可执行程序的详细步骤
Oct 09 Python
Python 进程之间共享数据(全局变量)的方法
Jul 16 Python
Python之虚拟环境virtualenv,pipreqs生成项目依赖第三方包的方法
Jul 23 Python
python实现横向拼接图片
Mar 23 Python
Pytorch 扩展Tensor维度、压缩Tensor维度的方法
Sep 09 Python
简单谈谈Python面向对象的相关知识
Jun 28 #Python
Python利用机器学习算法实现垃圾邮件的识别
浅谈Python中的正则表达式
Jun 28 #Python
python中subplot大小的设置步骤
手把手教你实现PyTorch的MNIST数据集
PyMongo 查询数据的实现
Jun 28 #Python
浅谈哪个Python库才最适合做数据可视化
You might like
php 字符串中是否包含指定字符串的多种方法
2018/04/12 PHP
新老版本juqery获取radio对象的方法
2010/03/01 Javascript
javascript实现动态侧边栏代码
2014/02/19 Javascript
jQuery替换textarea中换行的方法
2015/06/10 Javascript
详解JavaScript的AngularJS框架中的表达式与指令
2016/03/05 Javascript
Bootstrap表单布局
2016/07/19 Javascript
浅谈javascript中的事件冒泡和事件捕获
2016/12/28 Javascript
微信小程序如何获取用户信息
2018/01/26 Javascript
vue-cli3.0 特性解读
2018/04/22 Javascript
深入浅析Node环境和浏览器的区别
2018/08/14 Javascript
nodejs检测因特网是否断开的解决方案
2019/04/17 NodeJs
Easyui 去除jquery-easui tab页div自带滚动条的方法
2019/05/10 jQuery
vue中的过滤器实例代码详解
2019/06/06 Javascript
layui 表单标签的校验方法
2019/09/04 Javascript
vue学习笔记之作用域插槽实例分析
2020/02/01 Javascript
vue-路由精讲 二级路由和三级路由的作用
2020/08/06 Javascript
原生JavaScript实现换肤
2021/02/19 Javascript
[12:51]71泪洒现场!是DOTA2让经典重现
2014/03/24 DOTA
python实现的一个火车票转让信息采集器
2014/07/09 Python
CentOS6.5设置Django开发环境
2016/10/13 Python
Python基于回溯法子集树模板解决全排列问题示例
2017/09/07 Python
浅谈python 里面的单下划线与双下划线的区别
2017/12/01 Python
详谈在flask中使用jsonify和json.dumps的区别
2018/03/26 Python
Python中flatten( )函数及函数用法详解
2018/11/02 Python
pytorch GAN生成对抗网络实例
2020/01/10 Python
django执行原始查询sql,并返回Dict字典例子
2020/04/01 Python
利用Python实现最小二乘法与梯度下降算法
2021/02/21 Python
Python3自带工具2to3.py 转换 Python2.x 代码到Python3的操作
2021/03/03 Python
简述synchronized和java.util.concurrent.locks.Lock的异同
2014/12/08 面试题
个人对照检查材料
2014/02/12 职场文书
医疗纠纷协议书
2014/04/16 职场文书
房屋出租协议书范本(标准版)
2014/09/24 职场文书
2015年乡镇卫生院工作总结
2015/04/22 职场文书
妈妈再爱我一次观后感
2015/06/08 职场文书
2015暑期工社会实践报告
2015/07/13 职场文书
董事长致辞
2015/07/29 职场文书