Java爬虫学习(1)之爬取新浪微博博文
2024-09-06 16:49:23
本次学习采用了webmagic框架,完成的是一个简单的小demo
package com.mieba.spiader; import us.codecraft.webmagic.Page;
import us.codecraft.webmagic.Site;
import us.codecraft.webmagic.Spider;
import us.codecraft.webmagic.pipeline.FilePipeline;
import us.codecraft.webmagic.processor.PageProcessor; public class SinaPageProcessor implements PageProcessor
{
public static final String URL_LIST = "http://blog\\.sina\\.com\\.cn/s/articlelist_1487828712_0_\\d+\\.html"; public static final String URL_POST = "http://blog\\.sina\\.com\\.cn/s/blog_\\w+\\.html"; private Site site = Site.me().setDomain("blog.sina.com.cn").setRetryTimes(3).setSleepTime(3000).setUserAgent( "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_2) AppleWebKit/537.31 (KHTML, like Gecko) Chrome/26.0.1410.65 Safari/537.31"); @Override public void process(Page page)
{ // 列表页 if (page.getUrl().regex(URL_LIST).match())
{
// 从页面发现后续的url地址来抓取
page.addTargetRequests(page.getHtml().xpath("//div[@class=\"articleList\"]").links().regex(URL_POST).all()); page.addTargetRequests(page.getHtml().links().regex(URL_LIST).all()); // 文章页 } else
{
// 定义如何抽取页面信息,并保存下来
page.putField("title", page.getHtml().xpath("//div[@class='articalTitle']/h2")); page.putField("content", page.getHtml().xpath("//div[@id='articlebody']//div[@class='articalContent']")); page.putField("date", page.getHtml().xpath("//div[@id='articlebody']//span[@class='time SG_txtc']").regex("\\((.*)\\)")); } } @Override public Site getSite()
{ return site; } public static void main(String[] args)
{ Spider.create(new SinaPageProcessor())
//从"http://blog.sina.com.cn/s/articlelist_1487828712_0_1.html"开始抓
.addUrl("http://blog.sina.com.cn/s/articlelist_1487828712_0_1.html")
//结果用文件的格式保存下来
.addPipeline(new FilePipeline("E:\\webmagic\\"))
//开启5个线程抓取
.thread(5)
//启动爬虫
.run(); }
}
运行截图
爬取的网页
最新文章
- 使用struct处理二进制
- maven配置
- IoC和DI的理解
- 三层架构下的EntityFramework codefirst
- 微软BI 之SSRS 系列 - 巧用 RunningValue 函数在分组中排序并设置 RANK 排名
- BZOJ4340 : BJOI2015 隐身术
- if条件
- AngularJS 整理资料
- VMware: linux起步提示 memory for crashkernel(0*0 to 0*0)not within permissible
- JavaScript里的依赖注入
- ggplot2 scale相关设置-坐标转换
- MongoDB副本集的常用操作及原理
- springboot学习(二)——springmvc配置使用
- 【NPR】铅笔画
- 2016蓝桥杯";取球博弈";问题
- Oracle会话超时退出设置
- HTML框架标签的使用-&;lt;frameset&;gt;
- Java中的代码块:局部代码块、构造代码块和静态代码块
- scrapy抓取拉勾网职位信息(七)——实现分布式
- Mysql中字段类型之时间戳大坑2