时间:2021-05-22
本文实例主要实现的是使用urllib和BeautifulSoup爬取维基百科的词条,具体如下。
简洁代码:
#引入开发包from urllib.request import urlopenfrom bs4 import BeautifulSoupimport re#请求URL并把结果用UTF-8编码resp=urlopen("https://zh.wikipedia.org/wiki/Wikipedia:%E9%A6%96%E9%A1%B5").read().decode("utf-8")#使用BeautifulSoup去解析soup=BeautifulSoup(resp,"html.parser")#print(soup)#获取所有以/wiki/开头的a标签的href属性listUrl=soup.findAll("a",href=re.compile("^/wiki/"))#输出所有词条对应的名称和URLfor link in listUrl: if not re.search("\.(jpg|JPG)$",link["href"]): print(link.get_text(),"<----->","https://zh.wikipedia.org"+link["href"])运行结果:
总结
总的来说,Python是简洁而又强大的,调用几个库,就能实现其他语言一大堆代码才能实现的功能。
以上就是本文关于urllib和BeautifulSoup爬取维基百科的词条简单实例的全部内容,希望对大家有所帮助。感兴趣的朋友可以继续参阅本站其他相关专题,如有不足之处,欢迎留言指出。感谢朋友们对本站的支持!
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
百度百科最近对外发出通知表示,百度对百度百科词条又进行了一波清理,百度百科这次共封停1042个违规建立百度百科的词条的账号,接下来,预测百度百科词条更新会涨价啊
百科词条是怎么创建的,百科是怎么操作的?其实很多人都不明白百科词条是怎么创建的,百科是怎么操作的?还是有专业的技术呢?还是每个人都可以创建呢?百科词条是人人都可
本文实例讲述了Python爬虫实现爬取百度百科词条功能。分享给大家供大家参考,具体如下:爬虫是一个自动提取网页的程序,它为搜索引擎从万维网上下载网页,是搜索引擎
1、选择合适的百科平台 现在比较常用而权威百科平台一般就这几个:百度百科,互动百科、维基百科,搜搜百科,站长百科等等。可以选择里面用户常用而又权威的两个百
python爬虫主要用两个库:Urllib和BeautifulSoup4。一个用来爬取网页,一个用来解析网页。 Urllib是Python内置的HTTP请