时间:2021-05-22
网络爬虫(又被称为网页蜘蛛,网络机器人,在FOAF社区中间,更经常的称为网页追逐者),是一种按照一定的规则,自动的抓取万维网信息的程序或者脚本。
下面有一个示例代码,分享给大家:
#! /usr/bin/env python#encoding = 'utf-8'#Filename: spider_58center_sth.pyfrom bs4import BeautifulSoupimport timeimport requestsurl_58 = 'http://nj.58.com/?PGTID=0d000000-0000-0c5c-ffba-71f8f3f7039e&ClickID=1''''用于爬取电商售卖信息: 例为58同城电脑售卖信息 '''def get_url_list(url): web_data = requests.get(url)soup = BeautifulSoup(web_data.text, 'lxml')url = soup.select('td.t > a[class="t"]')url_list = ''for link in url: link_n = link.get('href')if 'zhuanzhuan' in link_n: passelse : if 'jump' in link_n: passelse : url_list = url_list + '\n' + link_nprint('url_list: %s' % url_list)return url_list# 分类获取目标信息def get_url_info(): url_list = get_url_list(url_58)for url in url_list.split(): time.sleep(1)web_datas = requests.get(url)soup = BeautifulSoup(web_datas.text, 'lxml')type = soup.select('#head > div.breadCrumb.f12 > span:nth-of-type(3) > a')title = soup.select(' div.col_sub.mainTitle > h1')date = soup.select('li.time')price = soup.select('div.person_add_top.no_ident_top > div.per_ad_left > div.col_sub.summary > ul > ' 'li:nth-of-type(1) > div.su_con > span.price.c_f50')fineness = soup.select('div.col_sub.summary > u1 > li:nth-of-type(2) > div.su_con > span')area = soup.select('div.col_sub.summary > u1 > li:nth-of-type(3) > div.su_con > span')for typei, titlei, datei, pricei, finenessi, areai in zip(type, title, date, price, fineness, area): #做字典data = { 'type': typei.get_text(), 'title': titlei.get_text(), 'date': datei.get_text(), 'price': pricei.get_text(), 'fineness': (finenessi.get_text()).strip(), 'area': list(areai.stripped_strings)}print(data)get_url_info()爬取商城商品售卖信息
总结
以上就是本文关于Python探索之爬取电商售卖信息代码示例的全部内容,希望对大家有所帮助。感兴趣的朋友可以继续参阅本站:Python探索之自定义实现线程池、Python探索之ModelForm代码详解等,如有不足之处,欢迎留言指出。感谢朋友们对本站的支持!
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
python爬虫-梨视频短视频爬取(线程池)示例代码importrequestsfromlxmlimportetreeimportrandomfrommulti
这篇文章主要介绍了Python爬取豆瓣视频信息代码实例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下这里是爬
本文实例讲述了Python进阶之使用selenium爬取淘宝商品信息功能。分享给大家供大家参考,具体如下:#encoding=utf-8__author__='
这篇文章主要介绍了Python爬取爱奇艺电影信息代码实例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下一,使
本文实例讲述了Python爬取个人微信朋友信息操作。分享给大家供大家参考,具体如下:利用Python的itchat包爬取个人微信号的朋友信息,并将信息保存在本地