2.piplines
2018-10-31 本文已影响0人
学飞的小鸡
# -*- coding: utf-8 -*-
# Define your item pipelines here
#
# Don't forget to add your pipeline to the ITEM_PIPELINES setting
# See: https://doc.scrapy.org/en/latest/topics/item-pipeline.html
class MyfirstscrapyPipeline(object):
# 这个类是一个管道类,继承自基本类,我们在settings文件中如果把这个类设置成了管道类,这个类就具备管道的所有的功能
def open_spider(self,spider):
# 当爬虫开启的时候会回调这个方法
print("爬虫被开启了!")
pass
def process_item(self, item, spider):
# 爬虫在对parse方法中的可迭代对象进行迭代的时候,每迭代一次就会调用一次这个方法
print("hello,我是管道,我被调了!")
return item
def close_spider(self,spider):
print("爬虫被关闭了!")