时间:2021-05-22
本次小编向大家介绍的是根据用户的需求输入想爬取的内容及页数。
主要步骤:
1.提示用户输入爬取的内容及页码。
2.根据用户输入,获取网址列表。
3.模拟浏览器向服务器发送请求,获取响应。
4.利用xpath方法找到图片的标签。
5.保存数据。
代码用面向过程的形式编写的。
关键字:requests库,xpath,面向过程
现在就来讲解代码书写的过程:
1.导入模块
import parsel # 该模块主要用来将请求后的字符串格式解析成re,xpath,css进行内容的匹配import requests # 爬虫主要的包from urllib.request import urlretrieve # 本文用来下载图片import os # 标准库,本文用来新建文件夹每个模块的作用都已经备注了。
2.提示用户输入内容和页数
if not os.path.exists("王一博图片"): os.mkdir("王一博图片") # 判断有没有该文件夹,如果没有就创建改文件夹k = input("请输入你想搜索的关键字:")num = int(input("请输入你想搜索的页数:"))3.准备好url和header
header = {"user-agent": "Mozilla/5.0 (Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.89 Mobile Safari/537.36" }base_url = "https:///search/?kw=" + k + "&type=feed#!s-p"title_url = []n = 0for i in range(num): title_url = base_url + str(i) respons = requests.get(title_url, headers=header).text html = parsel.Selector(respons) pic_url = html.xpath('//div[@class="mbpho"]/a/img/@src').extract() # print(pic_url) for url in pic_url: n = n + 1 file_path = "王一博图片" + '/' + str(n)+".jpg" urlretrieve(url, file_path) # 下载图片,具体的用法可以去搜索下,很简单的 print("第%d张图片下载成功" % n)来看看运行的结果,以搜索王一博,搜索5页为例。
然后你就发信多了一个王一博的文件夹了,点开就可以看见王一博的帅照了。
到此这篇关于python根据用户需求输入想爬取的内容及页数爬取图片方法详解的文章就介绍到这了,更多相关python爬取图片方法内容请搜索以前的文章或继续浏览下面的相关文章希望大家以后多多支持!
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
Python是很好的爬虫工具不用再说了,它可以满足我们爬取网络内容的需求,那最简单的爬取网络上的图片,可以通过很简单的方法实现。只需导入正则表达式模块,并利用s
Python爬取网页信息的步骤以爬取英文名字网站(https://nameberry.com/)中每个名字的评论内容,包括英文名,用户名,评论的时间和评论的内容
Python爬取网页数据。网页中的数据大多是非结构性数据。爬取网页非结构性文本数据的首要任务是去掉网页噪声。网页噪声包括为了增强用户交互性而加入的各种脚本标记,
本文实例讲述了Python实现爬虫爬取NBA数据功能。分享给大家供大家参考,具体如下:爬取的网站为:stat-nba.com,这里爬取的是NBA2016-201
在学习Python爬虫的时候,经常会遇见所要爬取的网站采取了反爬取技术,高强度、高效率地爬取网页信息常常会给网站服务器带来巨大压力,所以同一个IP反复爬取同一个