学习 北京理工大学嵩天课程笔记
课程体系结构：
1、Requests框架：自动爬取HTML页面与自动网络请求提交
2、robots.txt:网络爬虫排除标准
3、BeautifulSoup框架：解析HTML页面
4、Re框架：正则框架，提取页面关键信息
5、Scrapy框架：网络爬虫原理介绍，专业爬虫框架介绍
理念：The Website is the API ...
Python语言常用的IDE工具
文本工具类IDE：
IDLE、Notepad++、Sublime Text、Vim & Emacs、Atom、Komodo Edit
集成工具IDE：
PyCharm、Wing、PyDev & Eclipse、Visual Studio、Anaconda & Spyder、Canopy
·IDLE是Python自带的默认的常用的入门级编写工具，它包含交互式文件式两种方式。适用于较短的程序。
·Sublime Text是专为程序员开发的第三方专用编程工具，可以提高编程体验，具有多种编程风格。
·Wing是Wingware公司提供的收费IDE，调试功能丰富，具有版本控制，版本同步功能，适合于多人共同开发。适用于编写大型程序。
·Visual Studio是微软公司维护的，可以通过配置PTVS编写Python，主要以Windows环境为主，调试功能丰富。
·Eclipse是一款开源的IDE开发工具，可以通过配置PyDev来编写Python，但是配置过程复杂，需要有一定的开发经验。
·PyCharm分为社区版和专业版，社区版免费，具有简单、集成度高的特点，适用于编写较复杂的工程。
适用于科学计算、数据分析的IDE：
·Canopy是由Enthought公司维护的收费工具，支持近500个第三方库，适合科学计算领域应用开发。
·Anaconda是开源免费的，支持近800个第三方库。
Requests库入门
Requests的安装：
Requests库是目前公认的爬取网页最好的Python第三方库，具有简单、简捷的特点。
官方网站：http://www.python-
在"C:\Windows\System32"中找到"cmd.exe"，使用管理员身份运行，在命令行中输入：“pip install requests”运行。
使用IDLE测试Requests库：
>>> import requests
>>> r = requests.get("")#抓取百度页面
>>> r.status_code
200
>>> r.encoding = 'utf-8'
>>> r.text
Requests库的7个主要方法
方法
说明
requests.request()
构造一个请求，支撑以下各方法的基础方法
requests.get()
获取HTML网页的主要方法，对应于HTTP的GET
requests.head()
获取HTML网页头信息的方法，对应于HTTP的HEAD
requests.post()
向HTML网页提交POST请求的方法，对应于HTTP的POST
requests.put()
向HTML网页提交PUT请求的方法，对应于HTTP的PUT
requests.patch()
向HTML网页提交局部修改请求，对应于HTTP的PATCH
requests.delete()
向HTML页面提交删除请求，对应于HTTP的DELET
get()方法
r = requests.get(url)
get()方法构造一个向服务器请求资源的Request对象，返回一个包含服务器资源的Response对象。
requests.get(url, params=None, **kwargs)
url：拟获取页面的url链接
params：url中的额外参数，字典或字节流格式，可选
**kwargs：12个控制访问参数
Requests库的2个重要对象
·Request
·Response:Response对象包含爬虫返回的内容
Response对象的属性
r.status_code ：HTTP请求的返回状态，200表示连接成功，404表示失败
r.text ：HTTP响应内容的字符串形式，即，url对应的页面内容
r.encoding ： 从HTTP header中猜测的相应内容编码方式
r.apparent_encoding ： 从内容中分析出的相应内容编码方式(备选编码方式)
r.content ： HTTP响应内容的二进制形式
r.encoding ：如果header中不存在charset，则认为编码为ISO-8859-1 。
r.apparent_encoding ：根据网页内容分析出的编码方式可以 看作是r.encoding的备选。
Response的编码：
r.encoding : 从HTTP header中猜测的响应内容的编码方式；如果header中不存在charset，则认为编码为ISO-8859-1，r.text根据r.encoding显示网页内容
r.apparent_encoding : 根据网页内容分析出的编码方式，可以看作r.encoding的备选
爬取网页的通用代码框架
Requests库的异常
异常
说明
requests.ConnectionError
网络连接错误异常，如DNS查询失败拒绝连接等
requests.HTTPError
HTTP错误异常
requests.URLRequired
URL缺失异常
requests.ToolManyRedirects
超过最大重定向次数，产生重定向异常
requests.ConnectTimeout
连接远程服务器超时异常
requests.Timeout
请求URL超时，尝试超时异常
Response的异常
r.raise_for_status() :如果不是200，产生异常requests.HTTPError；
在方法内部判断r.status_code是否等于200，不需要增加额外的if语句，该语句便于利用try-except进行异常处理
import requests
def getHTMLText(url):
try:
r = requests.get(url, timeout=30)
r.raise_for_status() # 如果状态不是200，引发HTTPError异常
r.encoding = r.apparent_encoding
return r.text
except:
return "产生异常"
if __name__ == "__main__":
url = ""
print(getHTMLText(url))
通用代码框架，可以使用户爬取网页变得更有效，更稳定、可靠。
HTTP协议
HTTP,Hypertext Transfer Protocol，超文本传输协议。
HTTP是一个基于“请求与响应”模式的、无状态的应用层协议。
HTTP协议采用URL作为定位网络资源的标识。
URL格式：http://host[:port][path]
· host：合法的Internet主机域名或IP地址
· port：端口号，缺省端口号为80
· path：请求资源的路径
HTTP URL的理解：
URL是通过HTTP协议存取资源的Internet路径，一个URL对应一个数据资源。
HTTP协议对资源的操作
方法
说明
GET
请求获取URL位置的资源
HEAD
请求获取URL位置资源的响应消息报告，即获得该资源的头部信息
POST
请求向URL位置的资源后附加新的数据
PUT
请求向URL位置存储一个资源，覆盖原URL位置资源
PATCH
请求局部更新URL位置的资源，即改变该处资源的部分内容
DELETE
请求删除URL位置存储的资源
理解PATCH和PUT的区别
假设URL位置有一组数据UserInfo，包括UserID、UserName等20个字段。
需求：用户修改了UserName，其他不变。
· 采用PATCH，仅向URL提交UserName的局部更新请求。
· 采用PUT，必须将所有20个字段一并提交到URL，未提交字段被删除。
PATCH的主要好处：节省网络带宽
Requests库主要方法解析
requests.request(method, url, **kwargs)
· method：请求方式，对应get/put/post等7种
例：r = requests.request('OPTIONS', url, **kwargs)
· url：拟获取页面的url链接
·**kwargs：控制访问的参数，共13个，均为可选项
params：字典或字节序列，作为参数增加到url中；
kv = {'key1':'value1', 'key2':'value2'}
r = requests.request('GET', 'http://python123.io/ws',params=kv)
print(r.url)
'''
http://python123.io/ws?key1=value1&key2=value2
'''
data：字典、字节序列或文件对象，作为Request的内容；
json：JSON格式的数据，作为Request的内容；
headers：字典，HTTP定制头；
hd = {'user-agent':'Chrome/10'}
r = requests.request('POST','http://www.yanlei.shop',headers=hd)
cookies：字典或CookieJar，Request中的cookie；
auth：元组，支持HTTP认证功能；
files：字典类型，传输文件；
fs = {'file':open('data.xls', 'rb')}
r = requests.request('POST','http://python123.io/ws',files=fs)
timeout：设定超时时间，秒为单位；
proxies：字典类型，设定访问代理服务器，可以增加登录认证
allow_redirects：True/False，默认为True，重定向开关；
stream：True/False，默认为True，获取内容立即下载开关；
verify：True/False，默认为True，认证SSL证书开关；
cert：本地SSL证书路径
#方法及参数
requests.get(url, params=None, **kwargs)
requests.head(url, **kwargs)
requests.post(url, data=None, json=None, **kwargs)
requests.put(url, data=None, **kwargs)
requests.patch(url, data=None, **kwargs)
requests.delete(url, **kwargs)
网络爬虫引发的问题
性能骚扰：
受限于编写水平和目的，网络爬虫将会为web服务器带来巨大的资源开销
法律风险：
服务器上的数据有产权归属，网路爬虫获取数据后牟利将带来法律风险。
隐私泄露：
网络爬虫可能具备突破简单访问控制的能力，获得被保护数据从而泄露个人隐私。
网络爬虫的限制
·来源审查：判断User-Agent进行限制
检查来访HTTP协议头的User-Agent域，值响应浏览器或友好爬虫的访问。
· 发布公告：Roots协议
告知所有爬虫网站的爬取策咯，要求爬虫遵守。
Robots协议
Robots Exclusion Standard 网络爬虫排除标准
作用：网站告知网络爬虫哪些页面可以抓取，哪些不行。
形式：在网站根目录下的robots.txt文件。
案例：京东的Robots协议
/robots.txt
# 注释：*代表所有，/代表根目录
User-agent: *
Disallow: /?*
Disallow: /pop/*.html
Disallow: /pinpai/*.html?*
User-agent: EtaoSpider
Disallow: /
User-agent: HuihuiSpider
Disallow: /
User-agent: GwdangSpider
Disallow: /
User-agent: WochachaSpider
Disallow: /
Robots协议的使用
网络爬虫：自动或人工识别robots.txt，再进行内容爬取。
约束性：Robots协议是建议但非约束性，网络爬虫可以不遵守，但存在法律风险。
Requests库网络爬虫实战
1、京东商品
import requests
url = "/5145492.html"
try:
r = requests.get(url)
r.raise_for_status()
r.encoding = r.apparent_encoding
print(r.text[:1000])
except:
print("爬取失败")
2、亚马逊商品
# 直接爬取亚马逊商品是会被拒绝访问，所以需要添加'user-agent'字段
import requests
url = "/gp/product/B01M8L5Z3Y"
try:
kv = {'user-agent':'Mozilla/5.0'} # 使用代理访问
r = requests.get(url, headers = kv)
r.raise_for_status()
r.encoding = r.apparent_encoding
print(t.text[1000:2000])
except:
print("爬取失败")
3、百度/360搜索关键词提交
搜索引擎关键词提交接口
· 百度的关键词接口：
/s?wd=keyword
· 360的关键词接口：
/s?q=keyword
# 百度
import requests
keyword = "Python"
try:
kv = {'wd':keyword}
r = requests.get("/s",params=kv)
print(r.request.url)
r.raise_for_status()
print(len(r.text))
except:
print("爬取失败")
#
import requests
keyword = "Python"
try:
kv = {'q':keyword}
r = requests.get("/s",params=kv)
print(r.request.url)
r.raise_for_status()
print(len(r.text))
except:
print("爬取失败")
4、网络图片的爬取和存储
网络图片链接的格式：
/picture.jpg
国家地理：
/
选择一张图片链接：
//0704/0704030835566.jpg
图片爬取全代码
import requests
import os
url = "//0704/0704030835566.jpg"
root = "D://pics//"
path = root + url.split('/')[-1]
try:
if not os.path.exists(root):
os.mkdir(root)
if not os.path.exists(path):
r = requests.get(url)
with open(path,'wb') as f:
f.write(r.content)
f.close()
print("文件保存成功")
else:
print("文件已存在")
except:
print("爬取失败")
5、IP地址归属地的自动查询
IP查询
/ips138.asp?ip=ipaddress
/ip.asp?ip=ipaddress
import requests
url = "/ip.asp?ip="
ip = "220.204.80.112"
try:
r = requests.get(url + ip)
r.raise_for_status()
r.encoding = r.apparent_encoding
print(r.text[1900:])
except:
print("爬取失败")
# 使用IDLE
>>> import requests
>>> url ="/ip.asp?ip="
>>> ip = "220.204.80.112"
>>> r = requests.get(url + ip)
>>> r.status_code
200
>>> r.text
Python网络爬虫与信息提取
1.Requests库入门 Requests安装 用管理员身份打开命令提示符: pip install requests 测试:打开IDLE: >>> import requests ...
第3次作业-MOOC学习笔记：Python网络爬虫与信息提取
1.注册中国大学MOOC 2.选择北京理工大学嵩天老师的MOOC课程 3.学习完成第0周至第4周的课程内容,并完成各周作业 4.提供图片或网站显示的学习进 ...
第三次作业-Python网络爬虫与信息提取
1.注册中国大学MOOC 2.选择北京理工大学嵩天老师的MOOC课程 3.学习完成第0周至第4周的课程内容,并完成各周作业 过程. 5.写一篇不少于100 ...
第三次作业-MOOC学习笔记：Python网络爬虫与信息提取
1.注册中国大学MOOC 2.选择北京理工大学嵩天老师的MOOC课程 3.学习完成第0周至第4周的课程内容,并完成各周作业 第一周 Requests库的爬 ...
Python网络爬虫与信息提取笔记
直接复制粘贴笔记发现有问题 文档下载地址///download/hide_on_rush/12266493 掌握定向网络数据爬取和网页解析的基本能力常用的 Pytho ...
【学习笔记】PYTHON网络爬虫与信息提取(北理工 嵩天)
学习目的:掌握定向网络数据爬取和网页解析的基本能力the Website is the API- 1 python ide 文本ide:IDLE,Sublime Text集成ide:Pychar ...
Python网络爬虫与信息提取(二)—— BeautifulSoup
BeautifulSoup官方介绍: Beautiful Soup 是一个可以从HTML或XML文件中提取数据的Python库.它能够通过你喜欢的转换器实现惯用的文档导航,查找,修改文档的方式. 官方 ...
python网络爬虫与信息提取 学习笔记day2
Day2: 查看robots协议: 查看京东的robots协议 查看百度的robots协议,可以看到百度拒绝了搜狗的爬虫233 爬取京东商品页面相关信息: import requests url = ...
PYTHON网络爬虫与信息提取[信息的组织与提取](单元五)
1 三种信息类型的简介 xml : extensible markup language 与html非常相似 现有html后有xml xml是html发展来的 扩展 通用 json 类型 javas ...
随机推荐
[USACO1.1]坏掉的项链Broken Necklace
题目描述 你有一条由N个红色的,白色的,或蓝色的珠子组成的项链(3<=N<=350),珠子是随意安排的. 这里是 n=29 的二个例子: 第一和第二个珠子在图片中已经被作记号. 图片 A ...
vim 树形目录插件NERDTree安装及简单用法
转自: /love__coder/article/details/6659103 1,安装NERDTree插件 先下载,官网:http://www.vim.or ...
P6 EPPM 安装与配置指南 16 R1 .4
关于安装和 配置P6 EPPM 本指南告诉你如何自动 安装和配置您的应用程序. 在您开始之前,阅读先决条件 P6 EPPM配置(7页). 安装P6 EPPM 您将使用安装程序(窗口). ...
windows 7 + vs sp1编译 x64位版qt4
由于qt官方没有发布预编译的64位版qt4,要使用64位版qt4,只能自己编译,编译过程如下: 1,下载源码并解压到D:\qt-src\qt-everywhere-opensource-src-4.8 ...
win10 + gtx1060 + cuda8.0 + caffe + vs
1. 安装cuda8.0 1)先去官网下载cuda8.0 /cuda-toolkit 2)下载完之后进行安装,安装时间有点长,请耐心等待,默认 ...
添加mongodb支持
最近花了些时间,将引擎的存储换成了mongodb. 私下,我觉得现有的存储机制极为落后.现在写数据的操作交由单独的进程完成,该进程兼当数据缓冲与持续化数据的责任.此次引擎的更换,只是简单的利用mong ...
bzoj2467: [中山市选]生成树
Description 有一种图形叫做五角形圈.一个五角形圈的中心有1个由n个顶点和n条边组成的圈.在中心的这个n边圈的每一条边同时也是某一个五角形的一条边,一共有n个不同的五角形.这些五角形只在五角 ...
MediaCodec文档翻译
MediaCodec|文档翻译 classoverView mediacodec类可以用来调用系统底层的编码/解码软件. mediacodec一般是这么用的: MediaCodec codec = M ...
vi 编辑器跳转到指定行数
如:跳转到25行 :set number :23
使用EntityFramework中DbSet.Set(Type entityType)方法碰到的问题
使用的是EntityFramework, Version=6.0.0.0,项目原本直接使用将EntityFramework的Entity拿到UI使用,后面想使用dto对象将数据库的Entity与前台分 ...
