python下读取一个页面的数据可以通过urllib2轻松实现请求

import urllib2
print urllib2.urlopen('http://www.baidu.com').read()

涉及到页面的POST请求操作的话需要提供头信息,提交的post数据和请求页面。

其中的post数据需要urllib.encode()一下,其实就是将字典转换成“data1=value1&data2=value2”的格式。

import urllib
import urllib2 HEADER = {
'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101 Firefox/31.0',
'Referer' : 'http://202.206.1.163/logout.do'
} POSTDATA = {
'data1': 'value1',
'data2': 'value2'
} HOSTURL = 'http://xxx.com' enpostdata = urllib.urlencode(POSTDATA)
urlrequest = urllib2.Request(hosturl,enpostdata,HEADER)
urlresponse = urllib2.urlopen(urlrequest) print urlresponse.read()

请求之后浏览器会有一个会话保持的过程,会话都是保存在一个cookie里面的,下一次页面的请求会把cookie放到请求头,如果cookie丢失会话也就断开了。

在python下面需要设置一下cookie的保持

# cookie set
# 用来保持会话
cj = cookielib.LWPCookieJar()
cookie_support = urllib2.HTTPCookieProcessor(cj)
opener = urllib2.build_opener(cookie_support, urllib2.HTTPHandler)
urllib2.install_opener(opener)

下面是将以上知识点汇总写的一个库文件,方便使用:

# filename: analogop.py

#!/usr/bin/python
# -*-coding:UTF-8 -*- # author: 初行
# qq: 121866673
# mail: zxbd1016@163.com
# message: I need a python job
# time: 2014/10/5 import urllib
import urllib2
import cookielib # cookie set
# 用来保持会话
cj = cookielib.LWPCookieJar()
cookie_support = urllib2.HTTPCookieProcessor(cj)
opener = urllib2.build_opener(cookie_support, urllib2.HTTPHandler)
urllib2.install_opener(opener) # default header
HEADER = {
'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101 Firefox/31.0',
'Referer' : 'http://202.206.1.163/logout.do'
} # operate method
def geturlopen(hosturl, postdata = {}, headers = HEADER):
# encode postdata
enpostdata = urllib.urlencode(postdata)
# request url
urlrequest = urllib2.Request(hosturl, enpostdata, headers)
# open url
urlresponse = urllib2.urlopen(urlrequest)
# return url
return urlresponse

这个是测试文件,因为读者没有测试环境,需要自己搭建或者找个网站测试:

#filename: test.py

from analogop import geturlopen

postd = {
'usernum': '',
'upw': '',
'userip': '192.168.10.1',
'token': 'xxx'
} urlread = geturlopen('http://127.0.0.1:8000/login/', postd)
print urlread.read().decode('utf-8')
urlread = geturlopen('http://127.0.0.1:8000/chafen/', {})
print urlread.read().decode('utf-8')

最新文章

  1. ios App与网页交互
  2. 自己搭建了一个简单实用的Web版记事本
  3. sql查找最后一个字符匹配
  4. Vim 常见操作
  5. 【Unix环境编程】select、poll、epoll机制的联系与区别
  6. 关于this指向思考
  7. Duilib学习笔记《03》— 控件使用
  8. Python学习日志(六)
  9. event对象具有的方法
  10. 将php分页类YII绑定框架,就需要改变风格的基础
  11. 乐在其中设计模式(C#) - 解释器模式(Interpreter Pattern)
  12. windows 驱动开发入门——驱动中的数据结构
  13. unity getcomponentsinchildren 翻船
  14. jquery首页图片轮播
  15. 《转》vue 常用ui组件
  16. Legal or Not (判断是否存在环)
  17. 结构体中string成员的问题
  18. Ubuntu显示实时网速CPU内存等参数
  19. 背水一战 Windows 10 (47) - 控件(ScrollViewer 特性): Chaining, Rail, Inertia, Snap, Zoom
  20. curl_multi_select解决curl_multi网页假死问题

热门文章

  1. Mac在Finder中显示/usr、/tmp、/var等隐藏目录
  2. 浅析notifyDataSetChanged内部工作流程
  3. IOS 地图移动中心点获取
  4. 机器学习集成算法--- 朴素贝叶斯,k-近邻算法,决策树,支持向量机(SVM),Logistic回归
  5. wamp升级php5.3.10到php5.6.13版本
  6. java获取上周任意一天的日期
  7. 【转】15个最受欢迎的Python开源框架
  8. Excel数据批量导入到SqlServer的方法
  9. webbrowser获取无ID无Name控件并模拟点击
  10. spring boot微服务改造冲突