amazon爬取流程与思路

2024-08-29 23:27:55

第一步:访问分类页面

https://www.amazon.in//gp/site-directory?ref=nav_em_ajax_fail  #抓包获得

第二步:获取分类页面下各个分类的url

如 :https://www.amazon.in/gp/browse.html?node=1389401031&ref_=nav_em_T1_0_4_NaN_1_sbc_mobcomp_all_mobiles

 由于对方网站也是迭代的出来的这里有很多信息需要自己过滤排查

第三步:翻页的处理

import time

https://www.amazon.in/gp/browse.html?node=1389401031&ref_=nav_em_T1_0_4_NaN_1_sbc_mobcomp_all_mobiles&page=1&qid={int(time.time())}&ref=sr_pg_1

翻页主要2个参数控制

#page=页码

#qid=十位的当前时间戳

#如果页码超过最大页码不会报错就是现实最后一页内容

第四步:详情页内容获取

#内容都在

#正则匹配格式

jQuery.parseJSON\('(.*?)'\);

最新文章

热门文章