python爬取酷狗音乐排行榜

时间:2021-05-22

本文为大家分享了python爬取酷狗音乐排行榜的具体代码,供大家参考,具体内容如下

#coding=utf-8from pymongo import MongoClientimport time import requests from lxml import etree client = MongoClient() #连接mongohello = client.hello #连接数据库user = hello.song #连接表 headers = { 'User-Agent': 'Mozilla/5.0 (Android 6.0; Nexus 5 Build/MRA58N)\ AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.181 Mobile Safari/537.36'} def get_info(url): ''' get源码,encode,解析,xpath,保存 ''' response = requests.get(url, headers=headers) response = response.text.encode('utf-8') selector = etree.HTML(response) soup = selector.xpath('//*[@class="pc_temp_songlist "]/ul//li/a/text()') #保存到本地 # with open('aa.txt','a') as f: # for i in soup: # f.write(i.encode('utf-8') + '\n') #存入数据库 for i in soup: user.insert({'song': i}) if __name__ == '__main__': urls = ['http:///yy/rank/home/{}-8888.html?from=rank'.format(str(i)) for i in range(1, 24)] for url in urls: print(url) get_info(url)

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。

声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。

相关文章