前几天，杨超越编程大赛火了，大家都在报名参加，而我也是其中的一员。

在我们的项目中，我负责的是数据爬取这块，我主要是把对于杨超越的每一条评论的相关信息。

数据格式：{"name":评论人姓名,"comment_time":评论时间,"comment_info":评论内容,"comment_url":评论人的主页}

以上就是我们需要的信息。

爬虫前的分析：

以上是杨超越的微博主页，这是我们首先需要获取到的内容。

因为我们需要等到这个主页内这些微博详情页的链接，但是我们向下刷新，会发现微博的主页信息是ajax动态加载出来的，

这张图片就是我们向下刷新获取到的新的链接，这个就是我们需要获取到的信息页面信息。

接下来就是获取详情页面的信息，详情页中含有评论的相关信息，通过向下刷新，我们也会发现，相关的评论信息也是通过ajax加载出来的 ，

ok，以上就是我们针对整个流程大致的一个分析过程。

具体操作流程：

我们首相将主页获取完成以后，我们就会发现，其中的内容带有相关的反爬措施，获取到的源码中的信息含有很多的转义符“\”，并且其中的相关“<”和“>”是通过html的语言直接编写的，这样会导致我们的页面解析出现一定的问题，我们可以用replace方法直接将这些转义符全部去掉，然后我们就可以对这个页面进行正则处理，同时我也尝试过用其他的解析方法，但是其中遇到了很多的问题，所以我就不过多的介绍了。

当我们获取到了每一篇微博的链接以后，还需要获取一个很关键的值 id ，这个值有什么用呢，其主要的作用就是在评论页面的ajax页面的拼接地址上需要使用到。接下来就是需要寻找出我们找到的这两个ajax的url有什么特点或者是规律：

当我们从这些ajax中找到规律以后，不难发现，这个爬虫差不多大功告成了。

下面我就展示一下我的代码：

注意：请在headers中添加自己的cookie

# -*- coding: utf-8 -*-# Created : 2018/8/26 18:33# author ：GuoLi import requestsimport jsonimport timefrom lxml import etreeimport htmlimport refrom bs4 import BeautifulSoup class Weibospider: def __init__(self): # 获取首页的相关信息： self.start_url = 'https://weibo.com/u/5644764907?page=1&is_all=1' self.headers = { "accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8", "accept-encoding": "gzip, deflate, br", "accept-language": "zh-CN,zh;q=0.9,en;q=0.8", "cache-control": "max-age=0", "cookie": 使用自己本机的cookie, "referer": "https://ment_info_list) del count time.sleep(0.2) print("第{}微博信息获取完成！".format(i * 45 + j + 1)) if __name__ == '__main__': weibo = Weibospider() weibo.run()

以上所述是小编给大家介绍的python爬虫爬取微博评论详解整合，希望对大家有所帮助，如果大家有任何疑问请给我留言，小编会及时回复大家的。在此也非常感谢大家对网站的支持！