urllib2库的介绍
所谓网页抓取，就是把URL地址中指定的网络资源从网络流中读取出来，保存到本地。 在Python中有很多库可以用来抓取网页，我们先学习urllib2。
urllib2 是 Python2.7 自带的模块(不需要下载，导入即可使用)urllib2 官方文档：/2/library/urllib2.htmlurllib2 源码：/cpython/file/2.7/Lib/urllib2.py
urllib2 在 python3.x 中被改为urllib.request
urllib2库的基本使用
1. urlopen
我们先来段代码：
# urllib2_urlopen.py# 导入urllib2 库import urllib2# 向指定的url发送请求，并返回服务器响应的类文件对象response = urllib2.urlopen("")# 类文件对象支持 文件对象的操作方法，如read()方法读取文件全部内容，返回字符串html = response.read()# 打印字符串print html
执行写的python代码，将打印结果
Power@PowerMac ~$: python urllib2_urlopen.py
实际上，如果我们在浏览器上打开百度主页， 右键选择“查看源代码”，你会发现，跟我们刚才打印出来的是一模一样。也就是说，上面的4行代码就已经帮我们把百度的首页的全部代码爬了下来。
一个基本的url请求对应的python代码真的非常简单。
2. Request
在我们第一个例子里，urlopen()的参数就是一个url地址；
但是如果需要执行更复杂的操作，比如增加HTTP报头，必须创建一个 Request 实例来作为urlopen()的参数；而需要访问的url地址则作为 Request 实例的参数。
我们编辑urllib2_request.py
# urllib2_request.pyimport urllib2# url 作为Request()方法的参数，构造并返回一个Request对象request = urllib2.Request("")# Request对象作为urlopen()方法的参数，发送给服务器并接收响应response = urllib2.urlopen(request)html = response.read()print html
运行结果是完全一样的
新建Request实例，除了必须要有 url 参数之外，还可以设置另外两个参数：
data（默认空）：是伴随 url 提交的数据（比如要post的数据），同时 HTTP 请求将从 "GET"方式 改为 "POST"方式。headers（默认空）：是一个字典，包含了需要发送的HTTP报头的键值对。
这两个参数下面会说到。
3. User-Agent
但是这样直接用urllib2给一个网站发送请求的话，确实略有些唐突了，就好比，人家每家都有门，你以一个路人的身份直接闯进去显然不是很礼貌。而且有一些站点不喜欢被程序（非人为访问）访问，有可能会拒绝你的访问请求。
但是如果我们用一个合法的身份去请求别人网站，显然人家就是欢迎的，所以我们就应该给我们的这个代码加上一个身份，就是所谓的User-Agent头。浏览器 就是互联网世界上公认被允许的身份，如果我们希望我们的爬虫程序更像一个真实用户，那我们第一步，就是需要伪装成一个被公认的浏览器。用不同的浏览器在发送请求的时候，会有不同的User-Agent头。 urllib2默认的User-Agent头为：Python-urllib/x.y（x和y是Python主版本和次版本号,例如 Python-urllib/2.7）
#urllib2_useragent.pyimport urllib2url = ""#IE 9.0 的 User-Agent，包含在 ua_header里ua_header = {"User-Agent" : "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0;"} # url 连同 headers，一起构造Request请求，这个请求将附带 IE9.0 浏览器的User-Agentrequest = urllib2.Request(url, headers = ua_header)# 向服务器发送这个请求response = urllib2.urlopen(request)html = response.read()print html
4. 添加更多的Header信息
在 HTTP Request 中加入特定的 Header，来构造一个完整的HTTP请求消息。
可以通过调用Request.add_header() 添加/修改一个特定的header 也可以通过调用Request.get_header()来查看已有的header。添加一个特定的header
# urllib2_headers.pyimport urllib2url = ""#IE 9.0 的 User-Agentheader = {"User-Agent" : "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0;"} request = urllib2.Request(url, headers = header)#也可以通过调用Request.add_header() 添加/修改一个特定的headerrequest.add_header("Connection", "keep-alive")# 也可以通过调用Request.get_header()来查看header信息# request.get_header(header_name="Connection")response = urllib2.urlopen(req)print response.code#可以查看响应状态码html = response.read()print html
随机添加/修改User-Agent
# urllib2_add_headers.pyimport urllib2import randomurl = ""ua_list = ["Mozilla/5.0 (Windows NT 6.1; ) Apple.... ","Mozilla/5.0 (X11; CrOS i686 2268.111.0)... ","Mozilla/5.0 (Macintosh; U; PPC Mac OS X.... ","Mozilla/5.0 (Macintosh; Intel Mac OS... "]user_agent = random.choice(ua_list)request = urllib2.Request(url)#也可以通过调用Request.add_header() 添加/修改一个特定的headerrequest.add_header("User-Agent", user_agent)# 第一个字母大写，后面的全部小写request.get_header("User-agent")response = urllib2.urlopen(req)html = response.read()print html
urllib2默认只支持HTTP/HTTPS的GET和POST方法
urllib.urlencode()
urllib 和 urllib2 都是接受URL请求的相关模块，但是提供了不同的功能。两个最显著的不同如下
urllib 仅可以接受URL，不能创建 设置了headers 的Request 类实例；但是 urllib 提供 urlencode 方法用来GET查询字符串的产生，而 urllib2 则没有。（这是 urllib 和 urllib2 经常一起使用的主要原因）编码工作使用urllib的urlencode()函数，帮我们将key:value这样的键值对转换成"key=value"这样的字符串，解码工作可以使用urllib的unquote()函数。（注意，不是urllib2.urlencode() )
# IPython2 中的测试结果In [1]: import urllibIn [2]: word = {"wd" : "传智播客"}# 通过urllib.urlencode()方法，将字典键值对按URL编码转换，从而能被web服务器接受。In [3]: urllib.urlencode(word) Out[3]: "wd=%E4%BC%A0%E6%99%BA%E6%92%AD%E5%AE%A2"# 通过urllib.unquote()方法，把 URL编码字符串，转换回原先字符串。In [4]: print urllib.unquote("wd=%E4%BC%A0%E6%99%BA%E6%92%AD%E5%AE%A2")wd=传智播客
一般HTTP请求提交数据，需要编码成 URL编码格式，然后做为url的一部分，或者作为参数传到Request对象中。
Get方式
GET请求一般用于我们向服务器获取数据，比如说，我们用百度搜索传智播客：/s?wd=传智播客
浏览器的url会跳转成如图所示:
/s?wd=传智播客
在其中我们可以看到在请求部分里，/s? 之后出现一个长长的字符串，其中就包含我们要查询的关键词传智播客，于是我们可以尝试用默认的Get方式来发送请求。
# urllib2_get.pyimport urllib#负责url编码处理import urllib2url = "/s"word = {"wd":"传智播客"}word = urllib.urlencode(word) #转换成url编码格式（字符串）newurl = url + "?" + word # url首个分隔符就是 ?headers={ "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36"}request = urllib2.Request(newurl, headers=headers)response = urllib2.urlopen(request)print response.read()
批量爬取贴吧页面数据
首先我们创建一个python文件, tiebaSpider.py，我们要完成的是，输入一个百度贴吧的地址，比如：
百度贴吧LOL吧第一页：/f?kw=lol&ie=utf-8&pn=0
第二页： /f?kw=lol&ie=utf-8&pn=50
第三页： /f?kw=lol&ie=utf-8&pn=100
发现规律了吧，贴吧中每个页面不同之处，就是url最后的pn的值，其余的都是一样的，我们可以抓住这个规律。
简单写一个小爬虫程序，来爬取百度LOL吧的所有网页。
先写一个main，提示用户输入要爬取的贴吧名，并用urllib.urlencode()进行转码，然后组合url，假设是lol吧，那么组合后的url就是：/f?kw=lol
# 模拟 main 函数if __name__ == "__main__":kw = raw_input("请输入需要爬取的贴吧:")# 输入起始页和终止页，str转成int类型beginPage = int(raw_input("请输入起始页："))endPage = int(raw_input("请输入终止页："))url = "/f?"key = urllib.urlencode({"kw" : kw})# 组合后的url示例：/f?kw=lolurl = url + keytiebaSpider(url, beginPage, endPage)
接下来，我们写一个百度贴吧爬虫接口，我们需要传递3个参数给这个接口， 一个是main里组合的url地址，以及起始页码和终止页码，表示要爬取页码的范围。
def tiebaSpider(url, beginPage, endPage):"""作用：负责处理url，分配每个url去发送请求url：需要处理的第一个urlbeginPage: 爬虫执行的起始页面endPage: 爬虫执行的截止页面"""for page in range(beginPage, endPage + 1):pn = (page - 1) * 50filename = "第" + str(page) + "页.html"# 组合为完整的 url，并且pn值每次增加50fullurl = url + "&pn=" + str(pn)#print fullurl# 调用loadPage()发送请求获取HTML页面html = loadPage(fullurl, filename)# 将获取到的HTML页面写入本地磁盘文件writeFile(html, filename)
我们已经之前写出一个爬取一个网页的代码。现在，我们可以将它封装成一个小函数loadPage，供我们使用。
def loadPage(url, filename):'''作用：根据url发送请求，获取服务器响应文件url：需要爬取的url地址filename: 文件名'''print "正在下载" + filenameheaders = {"User-Agent": "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0;"}request = urllib2.Request(url, headers = headers)response = urllib2.urlopen(request)return response.read()
最后如果我们希望将爬取到了每页的信息存储在本地磁盘上，我们可以简单写一个存储文件的接口。
def writeFile(html, filename):"""作用：保存服务器响应文件到本地磁盘文件里html: 服务器响应文件filename: 本地磁盘文件名"""print "正在存储" + filenamewith open(filename, 'w') as f:f.write(html)print "-" * 20
其实很多网站都是这样的，同类网站下的html页面编号，分别对应网址后的网页序号，只要发现规律就可以批量爬取页面了。
POST方式：
上面我们说了Request请求对象的里有data参数，它就是用在POST里的，我们要传送的数据就是这个参数data，data是一个字典，里面要匹配键值对。
有道词典翻译网站
输入测试数据，再通过使用Fiddler观察，其中有一条是POST请求，而向服务器发送的请求数据并不是在url里，那么我们可以试着模拟这个POST请求。
于是，我们可以尝试用POST方式发送请求。
import urllibimport urllib2# POST请求的目标URLurl = "/translate?smartresult=dict&smartresult=rule&smartresult=ugc&sessionFrom=null"headers={"User-Agent": "Mozilla...."}formdata = {"type":"AUTO","i":"i love python","doctype":"json","xmlVersion":"1.8","keyfrom":"fanyi.web","ue":"UTF-8","action":"FY_BY_ENTER","typoResult":"true"}data = urllib.urlencode(formdata)request = urllib2.Request(url, data = data, headers = headers)response = urllib2.urlopen(request)print response.read()
发送POST请求时，需要特别注意headers的一些属性：
Content-Length: 144： 是指发送的表单数据长度为144，也就是字符个数是144个。X-Requested-With: XMLHttpRequest ：表示Ajax异步请求。Content-Type: application/x-www-form-urlencoded ： 表示浏览器提交 Web 表单时使用，表单数据会按照 name1=value1&name2=value2 键值对形式进行编码。
获取AJAX加载的内容
有些网页内容使用AJAX加载，只要记得，AJAX一般返回的是JSON,直接对AJAX地址进行post或get，就返回JSON数据了。
“作为一名爬虫工程师，你最需要关注的，是数据的来源”
import urllibimport urllib2# demo1url = "/j/chart/top_list?type=11&interval_id=100%3A90&action"headers={"User-Agent": "Mozilla...."}# 变动的是这两个参数，从start开始往后显示limit个formdata = {'start':'0','limit':'10'}data = urllib.urlencode(formdata)request = urllib2.Request(url, data = data, headers = headers)response = urllib2.urlopen(request)print response.read()# demo2url = "/j/chart/top_list?"headers={"User-Agent": "Mozilla...."}# 处理所有参数formdata = {'type':'11','interval_id':'100:90','action':'','start':'0','limit':'10'}data = urllib.urlencode(formdata)request = urllib2.Request(url, data = data, headers = headers)response = urllib2.urlopen(request)print response.read()
问题：为什么有时候POST也能在URL内看到数据？
GET方式是直接以链接形式访问，链接中包含了所有的参数，服务器端用Request.QueryString获取变量的值。如果包含了密码的话是一种不安全的选择，不过你可以直观地看到自己提交了什么内容。
POST则不会在网址上显示所有的参数，服务器端用Request.Form获取提交的数据，在Form提交的时候。但是HTML代码里如果不指定 method 属性，则默认为GET请求，Form中提交的数据将会附加在url之后，以?分开与url分开。
表单数据可以作为 URL 字段（method=“get”）或者 HTTP POST （method=“post”）的方式来发送。比如在下面的HTML代码中，表单数据将因为 （method=“get”） 而附加到 URL 上：
<form action="form_action.asp" method="get"><p>First name: <input type="text" name="fname" /></p><p>Last name: <input type="text" name="lname" /></p><input type="submit" value="Submit" /></form>
处理HTTPS请求 SSL证书验证
现在随处可见 https 开头的网站，urllib2可以为 HTTPS 请求验证SSL证书，就像web浏览器一样，如果网站的SSL证书是经过CA认证的，则能够正常访问，如：/等…
如果SSL证书验证不通过，或者操作系统不信任服务器的安全证书，比如浏览器在访问12306网站如：/mormhweb/的时候，会警告用户证书不受信任。（据说 12306 网站证书是自己做的，没有通过CA认证）
urllib2在访问的时候则会报出SSLError：
import urllib2url = "/mormhweb/"headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36"}request = urllib2.Request(url, headers = headers)response = urllib2.urlopen(request)print response.read()
运行结果：
urllib2.URLError: <urlopen error [SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed (_ssl.c:590)>
所以，如果以后遇到这种网站，我们需要单独处理SSL证书，让程序忽略SSL证书验证错误，即可正常访问。
import urllibimport urllib2# 1. 导入Python SSL处理模块import ssl# 2. 表示忽略未经核实的SSL证书认证context = ssl._create_unverified_context()url = "/mormhweb/"headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36"}request = urllib2.Request(url, headers = headers)# 3. 在urlopen()方法里 指明添加 context 参数response = urllib2.urlopen(request, context = context)print response.read()
关于CA
CA(Certificate Authority)是数字证书认证中心的简称，是指发放、管理、废除数字证书的受信任的第三方机构，如北京数字认证股份有限公司、上海市数字证书认证中心有限公司等…
CA的作用是检查证书持有者身份的合法性，并签发证书，以防证书被伪造或篡改，以及对证书和密钥进行管理。
现实生活中可以用身份证来证明身份， 那么在网络世界里，数字证书就是身份证。和现实生活不同的是，并不是每个上网的用户都有数字证书的，往往只有当一个人需要证明自己的身份的时候才需要用到数字证书。
普通用户一般是不需要，因为网站并不关心是谁访问了网站，现在的网站只关心流量。但是反过来，网站就需要证明自己的身份了。
比如说现在钓鱼网站很多的，比如你想访问的是，但其实你访问的是”，所以在提交自己的隐私信息之前需要验证一下网站的身份，要求网站出示数字证书。
一般正常的网站都会主动出示自己的数字证书，来确保客户端和网站服务器之间的通信数据是加密安全的。
