手把手教你进行Scrapy中item类的实例化操作
2024-09-07 11:57:42
接下来我们将在爬虫主体文件中对Item的值进行填充。
1、首先在爬虫主体文件中将Item模块导入进来,如下图所示。
2、第一步的意思是说将items.py中的ArticleItem类导入到爬虫主体文件中去,将两个文件串联起来,其中items.py的部分内容如下图所示。
3、将这个ArticleItem类导入之后,接下来我们就可以对这个类进行初始化,并对其进行相应值的填充。首先去parse_detail函数下对其进行实例化,实例化的方法也十分简单,如下图所示。
4、接下来,我们将填充对应的值。实际上我们在之前通过Xpath或者CSS选择器已经获取到了目标数据,如下图所示,现在要做的就是依次填充目标字段的值。
5、我们可以像字典一样来给目标字段传值,例如item[“title”]= title,其他的目标字段的填充也是形如该格式,填充完成之后如下图所示。
其中,目标字段可以参考items.py中定义的item,这样可以加快填充的速度。
6、到这里,我们已经将需要填充的字段全部填充完成了,之后我们需要调用yield,这点十分重要。再调用yield之后,实例化后的item就会自动传递到pipeline当中去。可以看到下图中的pipelines.py中默认给出的代码,说明pipeline其实是可以接收item的。
7、到这里,关于实例化item的步骤就已经完成了,是不是比较简单呢?我们后面把pipeline配置起来,一步一步的将Scrapy串起来。
看完本文有收获?请转发分享给更多的人
IT共享之家
入群请在微信后台回复【入群】
想学习更多Python网络爬虫与数据挖掘知识,可前往专业网站:http://pdcfighting.com/
最新文章
- struts2使用Convention Plugin在weblogic上以war包部署时,找不到Action的解决办法
- [转载] ORMs under the hood
- comet4j文档
- [Flex] ButtonBar系列——flex3 ButtonBar样式之颜色的填充
- .net 面试问题 汇总
- easyui 页签
- POJ2069 最小球体覆盖, 模拟退火
- 快速构建Windows 8风格应用10-设备方向
- Delphi的时间与字符串函数代码示例
- sscanf( )函数初体验
- 文本处理三剑客之grep
- java创建线程的几种方式,了解一下
- 安利一下workflowy和Dynalist
- Day 5-6 反射和内置方法之item系列
- 多目标遗传算法 ------ NSGA-II (部分源码解析)父、子种群合并 merge.c
- P3144 关闭农场 并查集 反向
- TensorFlow入门案例
- Maximum Subarray leetcode java
- CRC16
- c#基础 第八讲
热门文章
- Salesforce 学习 | 官方总结最实用的Spring '20新功能
- 深入浅出node.js游戏服务器开发1——基础架构与框架介绍
- 今天探究的CSS属性是box-sizing;
- python selenium模块 xpath定位
- Java 集合框架总结--导图
- C/C++,被誉为“最经典的编程语言”,不仅是因为编程入门需要学?
- 使用pthread进行编程
- 【编程之美】超时重传,滑动窗口,可靠性传输原理C语言实现
- Thymeleaf入门入门入门入门入门入门入门入门入门入门入门
- Spring Cloud 系列之 Stream 消息驱动(一)