年前这两天稍微闲一点了,琢磨了一点js脚本,功能是把当前网页页面上的所有图片一次性保存到本地,免得每次都要对图片右键保存. 测试环境:Chrome开发者模式下(启动Chrome,按F12即可) 测试网页:知乎某问题 原理很简单,用到了a标签的href及download属性和点击事件. 直接贴代码吧: //一个对象,存储页面图片数量和下载的数量var monitorObj = { imgTotal: 0, imgLoaded: 0 } //创建a标签,赋予图片对象相关属性,并插入body var

这里的断点续传不是文件下载时的断点续传,而是指在爬行页面时有时会遇到各种网络中断而从中断前的页面及其数据继续爬行的过程,这个过程和断点续传原理上相似故以此命名.我的具体做法是:在下载出现故障或是图片已经全部获得时,将存储目录,当前爬行页面和已经获取的图片地址以json形式存储到数据文件中,而用户选择断点续传模式时提取数据文件中的这三条信息,继而从上次中断之处重新运行. 数据文件示例: {"url":"http://m.03122.com/gaoqing/9353/27.htm

这个爬虫在Referer设置上和其它爬虫相比有特殊性.代码: //====================================================== // mimimn图片批量下载Node.js爬虫1.00 // 2017年11月15日 //====================================================== // 内置http模块 var https=require("https"); // 内置文件处理模块,用于创建

即使是https网页,解析的方式也不是一致的,需要多试试. 代码: //====================================================== // aitaotu图片批量下载Node.js爬虫1.00 // 2017年11月14日 //====================================================== // 内置http模块 var https=require("https"); // 内置文件处理模块,

这个爬虫在abaike爬虫的基础上改改图片路径和下一页路径就出来了,代码如下: //====================================================== // umei图片批量下载Node.js爬虫1.00 // 2017年11月13日 //====================================================== // 内置http模块 var http=require("http"); // 内置文件处理模块

//====================================================== // abaike图片批量下载Node.js爬虫1.01 // 1.01 修正了输出目录,增加了log. // 2017年11月11日 //====================================================== // 内置http模块 var http=require("http"); // 内置文件处理模块,用于创建目录和图片文件 v

这个与前作的差别在于地址的不规律性,需要找到下一页的地址再爬过去找. //====================================================== // abaike图片批量下载Node.js爬虫1.00 // 2017年11月9日 //====================================================== // 内置http模块 var http=require("http"); // 内置文件处理模块,用于创

//====================================================== // www.nvshens.com图片批量下载Node.js爬虫1.00 // 此程序与meitulu爬虫类似,先写个架子在这里 // 2017年11月9日 //====================================================== // 内置https模块 var https=require("https"); // 内置文件处理模

//====================================================== // https://www.meitulu.com图片批量下载Node.js爬虫1.06 // 1.00 完成图片爬虫,手动输入页数和目录 // 1.01 改写. // 1.02 手动输入页面url,然后自动解析 // 1.03 从命令行获得页面url,然后自动解析 // 1.04 解决数量节点位置不固定bug和输入状态不退出bug // 1.05 增加自动模式和手动模式 // 1

//====================================================== // https://www.meitulu.com图片批量下载Node.js爬虫1.05 // 1.00 完成图片爬虫,手动输入页数和目录 // 1.01 改写. // 1.02 手动输入页面url,然后自动解析 // 1.03 从命令行获得页面url,然后自动解析 // 1.04 解决数量节点位置不固定bug和输入状态不退出bug // 1.05 增加自动模式和手动模式 // 2

//====================================================== // https://www.meitulu.com图片批量下载Node.js爬虫1.04 // 1.00 完成图片爬虫,手动输入页数和目录 // 1.01 改写. // 1.02 手动输入页面url,然后自动解析 // 1.03 从命令行获得页面url,然后自动解析 // 1.04 解决数量节点位置不固定bug和输入状态不退出bug // 2017年11月7日 //========

//====================================================== // https://www.meitulu.com图片批量下载Node.js爬虫1.03 // 1.00 完成图片爬虫,手动输入页数和目录 // 1.01 改写. // 1.02 手动输入页面url,然后自动解析 // 1.03 从命令行获得页面url,然后自动解析 // 2017年11月6日 //==========================================

以前版本需要先查看网页源码,然后肉眼找到图片数量和子目录,虽说不费事,但多少有点不方便. 于是修改了一下,用cheerio自己去找找到图片数量和子目录,只要修改页面地址就行了.至此社会又前进了一步. //====================================================== // https://www.meitulu.com图片批量下载Node.js爬虫1.02 // 2017年11月6日 //===============================

在 http://www.cnblogs.com/xiandedanteng/p/7614051.html 一文我曾经书写过一个图片下载爬虫,但原有程序不是为下载图片而设计故有些绕,于是稍微改写了一下,可读性应该稍好些.功能上和原程序差不多,只是输出目录不是固定在test目录了.代码如下: //================================================ // https://www.meitulu.com图片批量下载Node.js爬虫1.01 // 2017

//====================================================== // abaike图片批量下载爬虫1.02 // 用最近的断点续传框架改写原有1.01版程序 // 2017年11月21日 //====================================================== // 内置https模块 var https=require("https"); // 内置http模块 var http=require

//====================================================== // nvshens图片批量下载爬虫1.01 // 用最近的断点续传框架改写原有1.00版程序 // 2017年11月21日 //====================================================== // 内置https模块 var https=require("https"); // 内置http模块 var http=requir

原有1.05版程序没有断点续传模式,现在在最近程序基础上改写一版1.051. //====================================================== // meitulu图片批量下载爬虫1.051 // 用最近的断点续传框架改写原有1.05版程序 // 2017年11月21日 //====================================================== // 内置https模块 var https=require("h

又攻下一座山头. //====================================================== // mzitu图片批量下载爬虫1.00 // 2017年11月19日 //====================================================== // 内置https模块 //var https=require("https"); // 内置http模块 var http=require("http&quo

这个爬虫依然需要iconv转码,想不到如今非utf8的网页还这么多.另外此网页找下一页的方式比较异常,又再次借助了正则表达式. 代码如下: //====================================================== // 4493图片批量下载爬虫1.00 // 2017年11月19日 //====================================================== // 内置https模块 var https=require(

此爬虫又用到了iconv转码,代码如下: //====================================================== // mmonly图片批量下载爬虫1.00 // 2017年11月19日 //====================================================== // 内置http模块 var http=require("http"); // 内置文件处理模块,用于创建目录和图片文件 var fs=requ

//====================================================== // m03122图片批量下载爬虫1.00 // 2017年11月18日 //====================================================== // 内置http模块 var http=require("http"); // 内置文件处理模块,用于创建目录和图片文件 var fs=require('fs'); // cheerio