[Python]网络爬虫（四）:Opener与Handler的介绍和实例应用

lb971216008

在开始后面的内容之前，先来解释一下urllib2中的两个个方法：info and geturl

urlopen返回的应答对象response(或者HTTPError实例)有两个很有用的方法info()和geturl()
file:///C:/Users/lb/AppData/Local/Temp/msohtmlclip1/01/clip_image002.png

下面来说一说urllib2中的两个重要概念：Openers和Handlers。

1.Openers：

当你获取一个URL你使用一个opener(一个urllib2.OpenerDirector的实例)。

正常情况下，我们使用默认opener：通过urlopen。

但你能够创建个性的openers。

2.Handles：

Openers使用处理器handlers，所有的“繁重”工作由handlers处理。

每个handlers知道如何通过特定协议打开URLs，或者如何处理URL打开时的各个方面。

例如HTTP重定向或者HTTPcookies。

如果你希望用特定处理器获取URLs你会想创建一个openers，例如获取一个能处理cookie的opener，或者获取一个不重定向的opener。

要创建一个 opener，可以实例化一个OpenerDirector，

然后调用.add_handler(some_handler_instance)。

同样，可以使用build_opener，这是一个更加方便的函数，用来创建opener对象，他只需要一次函数调用。
build_opener默认添加几个处理器，但提供快捷的方法来添加或更新默认处理器。

其他的处理器handlers你或许会希望处理代理，验证，和其他常用但有点特殊的情况。

install_opener 用来创建（全局）默认opener。这个表示调用urlopen将使用你安装的opener。

Opener对象有一个open方法。

该方法可以像urlopen函数那样直接用来获取urls：通常不必调用install_opener，除了为了方便。

说完了上面两个内容，下面我们来看一下基本认证的内容，这里会用到上面提及的Opener和Handler。

BasicAuthentication 基本验证

为了展示创建和安装一个handler，我们将使用HTTPBasicAuthHandler。

当需要基础验证时，服务器发送一个header(401错误码) 请求验证。这个指定了scheme 和一个‘realm’，看起来像这样：Www-authenticate: SCHEMErealm="REALM".

例如
Www-authenticate: Basic realm="cPanel Users"

客户端必须使用新的请求，并在请求头里包含正确的姓名和密码。

这是“基础验证”，为了简化这个过程，我们可以创建一个HTTPBasicAuthHandler的实例，并让opener使用这个handler就可以啦。

HTTPBasicAuthHandler使用一个密码管理的对象来处理URLs和realms来映射用户名和密码。

如果你知道realm(从服务器发送来的头里)是什么，你就能使用HTTPPasswordMgr。

通常人们不关心realm是什么。那样的话，就能用方便的HTTPPasswordMgrWithDefaultRealm。

这个将在你为URL指定一个默认的用户名和密码。

这将在你为特定realm提供一个其他组合时得到提供。

我们通过给realm参数指定None提供给add_password来指示这种情况。

最高层次的URL是第一个要求验证的URL。你传给.add_password()更深层次的URLs将同样合适。

说了这么多废话，下面来用一个例子演示一下上面说到的内容。

我们建一个urllib2_test12.py来测试一下info的应用：

1.  # -*- coding: utf-8 -*-  

2.  import urllib2  

3.    

4.  # 创建一个密码管理者  

5.  password_mgr = urllib2.HTTPPasswordMgrWithDefaultRealm()  

6.    

7.  # 添加用户名和密码  

8.    

9.  top_level_url = "http://example.com/foo/"  

10.   

11. # 如果知道 realm, 我们可以使用他代替 ``None``.  

12. # password_mgr.add_password(None, top_level_url, username, password)  

13. password_mgr.add_password(None, top_level_url,'why', '1223')  

14.   

15. # 创建了一个新的handler  

16. handler = urllib2.HTTPBasicAuthHandler(password_mgr)  

17.   

18. # 创建 "opener" (OpenerDirector 实例)  

19. opener = urllib2.build_opener(handler)  

20.   

21. a_url = 'http://www.baidu.com/'  

22.   

23. # 使用 opener 获取一个URL  

24. opener.open(a_url)  

25.   

26. # 安装 opener.  

27. # 现在所有调用 urllib2.urlopen 将用我们的 opener.  

28. urllib2.install_opener(opener)  

29.   

30.    

注意：以上的例子我们仅仅提供我们的HHTPBasicAuthHandler给build_opener。

默认的openers有正常状况的handlers：ProxyHandler，UnknownHandler，HTTPHandler，HTTPDefaultErrorHandler， HTTPRedirectHandler，FTPHandler， FileHandler， HTTPErrorProcessor。

代码中的top_level_url 实际上可以是完整URL(包含"http:"，以及主机名及可选的端口号)。

例如：http://example.com/。

也可以是一个“authority”(即主机名和可选的包含端口号)。

例如：“example.com”or “example.com:8080”。

后者包含了端口号。_level_url 实际上可以是完整URL(包含"http:"，以及主机名及可选的端口号)。

例如：http://example.com/。

也可以是一个“authority”(即主机名和可选的包含端口号)。

例如：“example.com”or “example.com:8080”。

后者包含了端口号。

更好的学习网址：http://www.voidspace.org.uk/python/articles/urllib2.shtml#openers-and-handlers

lb971216008

@SixPy每次都改我的

SixPy

lb971216008 发表于 2016-8-22 19:16
@SixPy每次都改我的

你再给我添乱，倒是很想禁烟你了~

你转贴别人的文章，就选转载类的
如果是你自己写的实例，即使再挫，我都会给你加鱼币，
但是，你写过一个例子吗？

lb971216008

SixPy 发表于 2016-8-22 19:28
你再给我添乱，倒是很想禁烟你了~

你转贴别人的文章，就选转载类的

没有，你也没加币

lb971216008

lb971216008 发表于 2016-8-22 21:46
没有，你也没加币

哎，好艰难

liwanpeng

这是低版本的吧？

派森小侠

学习一下

lb971216008

派森小侠 发表于 2016-8-26 18:01
学习一下

欢迎

xyzeng2016

学习下

谦虚求学

五五66

学习学习