python爬虫 正则表达式解析

时间:2021-05-22

这篇文章主要介绍了python爬虫 正则表达式解析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下

-re.I # 忽略大小写
- re.M # 多行匹配,将正则作用到源数据的每一行
- re.S # 单行匹配,将正则作用到整个源数据,输出一个整体字符串(包括换行符也打印)

string = '''fall in love with youi love you very muchi love shei love her'''# 去除以i开头的每一行数据re.findall('^i.*',string,re.M)

['i love you very much', 'i love she', 'i love her']

#匹配全部行string1 = """细思极恐你的队友在看书你的敌人在磨刀你的闺蜜在减肥隔壁老王在练腰"""re.findall('.*',string1,re.S)

['细思极恐\n你的队友在看书\n你的敌人在磨刀\n你的闺蜜在减肥\n隔壁老王在练腰\n', '']

爬取糗事百科中所有的图片进行保存

import requestsimport reimport urllibimport osurl = 'https:///pic/page/%d/?s=5170552'# 自定义请求头信息headers = { 'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.119 Safari/537.36'}# 判断是否存在名为qiutu的文件夹,如果不存在则创建文件夹if not os.path.exists('./qiutu'): os.mkdir('./qiutu')# 手动输入开始页,结束页start_page = int(input('start>>>'))end_page = int(input('end>>>'))for page in range(start_page,end_page+1):  # 按照每页url形式拼接指定url new_url = format(url%page)  # 发起请求 page_text = requests.get(url=new_url,headers=headers).text  # 使用正则找出page_text页面中所有图片url img_url_list = re.findall('<div class="thumb">.*?<img src="(.*?)" alt=.*?</div>',page_text,re.S)  # 给每一个图片url添加https协议头 for img_url in img_url_list: img_url = 'https:' + img_url     # 将图片url切割去除图片名称,作为存储时图片的名称 img_name = img_url.split('/')[-1] img_path = 'qiutu/' + img_name、     # 对图片做持久化存储 urllib.request.urlretrieve(url=img_url,filename=img_path) print(img_path,'下载成功')print('over')

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。

声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。

相关文章