电影天堂迅雷(Python爬虫框架：scrapy爬取迅雷电影天堂最新电影ed2k)

Python爬虫框架：scrapy爬取迅雷影戏天国最新影戏ed2k

项目开头

第一步仍旧是创建scrapy项目与spider文件

切换到事情目次两条下令依次输入

scrapy startproject xunleidianying scrapy genspider xunleiBT https://www.xl720.com/thunder/years/2019

内容分析

掀开目标网站（分类是2019年上映的影戏），分析我们必要的数据

进入页面是列表的情势就像豆瓣影戏一样，然后我们点进入具体页面看看

这个页面就是我们必要拿到的内容页面，我们来看我们必要哪些数据(某些数据从第一个页面就可以取得，但是下载地点必需到第二个页面)

• 影戏称呼
• 影戏信息
• 影戏内容剧情
• 影戏下载地点

分析完成之后就可以起首编写 items.py文件

import scrapy ''' 更多Python学习材料以及源码教程材料，可以在群821460695 无偿获取 ''' class XunleidianyingItem(scrapy.Item): # define the fields for your item here like: # name = scrapy.Field() name = scrapy.Field() information = scrapy.Field() content = scrapy.Field() downloadurl = scrapy.Field() pass

别的别忘了去settings.py中开启 ITEM_PIPELINES 选项

爬虫文件编写

老样子，为了便利测试我们的爬虫，起首编写一个main.py的文件便利IDE调用

main.py：

import scrapy.cmdline scrapy.cmdline.execute('scrapy crawl xunleiBT'.split())

起首我们先测试直接向目标发送哀求对否可以取得呼应

爬虫文件 xunleiBT.py编写如下：

# -*- coding: utf-8 -*- import scrapy class XunleibtSpider(scrapy.Spider): name = 'xunleiBT' allowed_domains = ['https://www.xl720.com/thunder/years/2019'] start_urls = ['https://www.xl720.com/thunder/years/2019/'] def parse(self, response): print(response.text) pass

运转 main.py 看看会显现什么

好的，发觉直接前往正常的网页也就是我们要的网页，分析该网站没有反爬机制，如此我们就更容易爬取了

然后经过xpath定位页面元素，具体就不再赘述，之前的scarpy教程中都有 持续编写爬虫文件

import scrapy #导入编写的 item from xunleidianying.items import XunleidianyingItem ''' 更多Python学习材料以及源码教程材料，可以在群821460695 无偿获取 ''' class XunleibtSpider(scrapy.Spider): name = 'xunleiBT' allowed_domains = ['www.xl720.com'] start_urls = ['https://www.xl720.com/thunder/years/2019/'] def parse(self, response): url_list = response.xpath('//h3//@href').getall() for url in url_list: yield scrapy.Request(url,callback=self.detail_page) nextpage_link = response.xpath('//a[@class="nextpostslink"]/@href').get() if nextpage_link: yield scrapy.Request(nextpage_link, callback=self.parse) def detail_page(self,response): # 牢记item带括号 BT_item = XunleidianyingItem() BT_item['name'] = response.xpath('//h1/text()').get() BT_item['information'] = ''.join(response.xpath('//div[@id="info"]//text()').getall()) BT_item['content'] = response.xpath('//div[@id="link-report"]/text()').get() BT_item['downloadurl'] = response.xpath('//div[@class="download-link"]/a/text() | //div[@class="download-link"]/a/@href').getall() yield BT_item

ITEM爬取完成后该干什么？固然是入库保存了，编写pipelines.py文件举行入库保存

再次提示别忘了去settings.py中开启 ITEM_PIPELINES 选项

pipelines.py文件代码如下：

import pymongo #毗连当地数据库 myclient = pymongo.MongoClient("mongodb://localhost:27017/") #数据库称呼 mydb = myclient["movie_BT"] #数据表称呼 mysheet = mydb["movie"] ''' 更多Python学习材料以及源码教程材料，可以在群821460695 无偿获取 ''' class XunleidianyingPipeline(object): def process_item(self, item, spider): data = dict(item) mysheet.insert(data) return item

再次运转main.py 等候运转完成后掀开数据库查询

数据保存完成，这次我们一共导入了380个数据，可以愉快的查察影戏了