python 网页解析器

　　1、常见的python网页解析工具有：re正则匹配、python自带的html.parser模块、第三方库BeautifulSoup(重点学习)以及lxm库。

　　2、常见网页解析器分类

　　（1）模糊匹配 ：re正则表达式即为字符串式的模糊匹配模式；

　　（2）结构化解析： BeatufiulSoup、html.parser与lxml，他们都以DOM树结构为标准，进行标签结构信息的提取。

　　3.DOM树解释：即文档对象模型（Document Object Model），其树形标签结构，请见下图。

　　所谓结构化解析，就是网页解析器它会将下载的整个HTML文档当成一个Doucment对象，然后在利用其上下结构的标签形式，对这个对象进行上下级的标签进行遍历和信息提取操作。

# 引入相关的包，urllib与bs4，是获取和解析网页最常用的库from urllib.request import urlopenfrom bs4 import BeautifulSoup# 打开链接html=urlopen("https:///' #'User-Agent':请求方式 #'referer':从哪个链接跳转进来的start_html = requests.get(all_url, headers=headers) #all_url：起始的地址，也就是访问的第一个页面 #headers：请求头，告诉服务器是谁来了。 #requests.get：一个方法能获取all_url的页面内容并且返回内容。Soup = BeautifulSoup(start_html.text, 'lxml') #BeautifulSoup：解析页面 #lxml：解析器 #start_html.text：页面的内容

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持。