前言

几天没用scrapy爬网站了，正好最近在刷电影，就想着把自己常用的一个电影分享网站给爬取下来保存到本地mongodb中

项目开始

第一步仍然是创建scrapy项目与spider文件

切换到工作目录两条命令依次输入

scrapy startproject xunleidianying
scrapy genspider xunleiBT https://www.xl720.com/thunder/years/2019

内容分析

打开目标网站（分类是2019年上映的电影），分析我们需要的数据

进入页面是列表的形式就像豆瓣电影一样，然后我们点进去具体页面看看

这个页面就是我们需要拿到的内容页面，我们来看我们需要哪些数据(某些数据从第一个页面就可以获得，但是下载地址必须到第二个页面)

电影名称
电影信息
电影内容剧情
电影下载地址

分析完成之后就可以首先编写 items.py文件

import scrapy

class XunleidianyingItem(scrapy.Item):

    # define the fields for your item here like:

    # name = scrapy.Field()

    name = scrapy.Field()

    information = scrapy.Field()

    content = scrapy.Field()

    downloadurl = scrapy.Field()

    pass

另外别忘了去settings.py中开启 ITEM_PIPELINES 选项

爬虫文件编写

老样子，为了方便测试我们的爬虫，首先编写一个main.py的文件方便IDE调用

main.py：

import scrapy.cmdline

scrapy.cmdline.execute('scrapy crawl xunleiBT'.split())

首先我们先测试直接向目标发送请求是否可以得到响应

爬虫文件 xunleiBT.py编写如下：

# -*- coding: utf-8 -*-

import scrapy

class XunleibtSpider(scrapy.Spider):

    name = 'xunleiBT'

    allowed_domains = ['https://www.xl720.com/thunder/years/2019']

    start_urls = ['https://www.xl720.com/thunder/years/2019/']

    def parse(self, response):

        print(response.text)

        pass

运行 main.py 看看会出现什么

好的，发现直接返回正常的网页也就是我们要的网页，说明该网站没有反爬机制，这样我们就更容易爬取了

然后通过xpath定位页面元素，具体就不再赘述，之前的scarpy教程中都有继续编写爬虫文件

# -*- coding: utf-8 -*-

import scrapy

#导入编写的 item

from xunleidianying.items import XunleidianyingItem

class XunleibtSpider(scrapy.Spider):

    name = 'xunleiBT'

    allowed_domains = ['www.xl720.com']

    start_urls = ['https://www.xl720.com/thunder/years/2019/']

    def parse(self, response):

        url_list = response.xpath('//h3//@href').getall()

        for url in url_list:

            yield scrapy.Request(url,callback=self.detail_page)

        nextpage_link = response.xpath('//a[@class="nextpostslink"]/@href').get()

        if nextpage_link:

            yield scrapy.Request(nextpage_link, callback=self.parse)

    def detail_page(self,response):

        # 切记item带括号

        BT_item = XunleidianyingItem()

        BT_item['name'] = response.xpath('//h1/text()').get()

        BT_item['information'] = ''.join(response.xpath('//div[@id="info"]//text()').getall())

        BT_item['content'] = response.xpath('//div[@id="link-report"]/text()').get()

        BT_item['downloadurl'] = response.xpath('//div[@class="download-link"]/a/text() | //div[@class="download-link"]/a/@href').getall()

        yield BT_item

ITEM爬取完成后该干什么？当然是入库保存了，编写pipelines.py文件进行入库保存

再次提醒别忘了去settings.py中开启 ITEM_PIPELINES 选项

pipelines.py文件代码如下：

import pymongo

#连接本地数据库

myclient = pymongo.MongoClient("mongodb://localhost:27017/")

#数据库名称

mydb = myclient["movie_BT"]

#数据表名称

mysheet = mydb["movie"]

class XunleidianyingPipeline(object):

    def process_item(self, item, spider):

        data = dict(item)

        mysheet.insert(data)

        return item

再次运行main.py 等待运行完成后打开数据库查询

数据保存完成，这次我们一共导入了380个数据，可以愉快的查看电影了

巴特西

scrapy爬取迅雷电影天堂最新电影ed2k

前言

项目开始

内容分析

爬虫文件编写

最新文章

热门文章