python爬虫入门教程--利用requests构建知乎API(三)


Posted in Python onMay 25, 2017

前言

在爬虫系列文章 优雅的HTTP库requests 中介绍了 requests 的使用方式,这一次我们用 requests 构建一个知乎 API,功能包括:私信发送、文章点赞、用户关注等,因为任何涉及用户操作的功能都需要登录后才操作,所以在阅读这篇文章前建议先了解Python模拟知乎登录 。现在假设你已经知道如何用 requests 模拟知乎登录了。

思路分析

发送私信的过程就是浏览器向服务器发送一个 HTTP 请求,请求报文包括请求 URL、请求头 Header、还有请求体 Body,只要把这些信息弄清楚,那么就很容易用 requests 来模拟浏览器发送私信了。

打开 Chrome 浏览器,随便找一个用户,点击发送私信,追踪一下私信的网络请求过程。

先看下请求头信息

python爬虫入门教程--利用requests构建知乎API(三)

请求头 Header 中有 cookies 登录信息,此外还有一个 authorization 字段,该字段是用于用户认证的,同时这个字段也存在 cookies 中(为了防止 cookie 信息泄露,我打了马赛克), requests 请求时这些信息都必须携带上。

再来看看请求的URL和请求体

python爬虫入门教程--利用requests构建知乎API(三)

请求URL是 https://www.zhihu.com/api/v4/messages ,请求方法是 POST,请求体

{"type":"common","content":"你好,我是pythoner","receiver_hash":"1da75b85900e00adb072e91c56fd9149"}

请求体是一个 json 字符串,type 和 content 很好理解,但 receiver_hash 是什么并不知道,需要进一步确定,不过你应该猜得出这是类似于用户 id 的字段。

那么现在问题来了,如何通过用户主页的URL找到用户的 id 呢?为了完整的模拟私信的整个流程,我特地注册了一个知乎小号。

如果你手头没有多余的手机号,可以用 Google 搜「receive sms online」,网上很多提供免费在线接收短信的手机号码,我注册的小号主页:https://www.zhihu.com/people/xiaoxiaodouzi

先尝试关注小号,然后在我关注的列表中找到该小号,把鼠标移到小号的头像处时,发现有一个 HTTP 网络请求。

python爬虫入门教程--利用requests构建知乎API(三)

请求 url 是 https://www.zhihu.com/api/v4/members/xiaoxiaodouzi ,这个URL的后面部分「xiaoxiaodouzi」对应小号主页URL的后面部分,这部分我们称之为 url_token。

接口的返回数据是该用户的个人公开信息。

{ 
 ...
 "id":"1da75b85900e00adb072e91c56fd9149",
 "favorite_count":0,
 "voteup_count":0,
 "commercial_question_count":0,
 "url_token":"xiaoxiaodouzi",
 "type":"people",
 "avatar_url":"https://pic1.zhimg.com/v2-ca13758626bd7367febde704c66249ec_is.jpg",
 "is_active":1492224390,
 "name":"\u6211\u662f\u5c0f\u53f7",
 "url":"http://www.zhihu.com/api/v4/people/1da75b85900e00adb072e91c56fd9149",
 "gender":-1
 ...
}

我们可以很清楚的看到有个id的字段,跟我们之前猜测的一样,私信里面的 receiver_hash 字段就是用户的id。

代码实现

到此我们把私信功能的思路理清楚了,代码实现就是水到渠成的事情了。

用户信息

为了得到私信接口需要的 receiver_hash 字典,我们先要获取用户信息,该信息里面含有用于的id值。

@need_login
def user(self, url_token):
 """
 获取用户信息,
 :param url_token:
 url_token 是用户主页url中后面部分
 例如: https://www.zhihu.com/people/xiaoxiaodouzi
 url_token 是 xiaoxiaodouzi
 :return:dict
 """
 response = self._session.get(URL.profile(url_token))
 return response.json()

发送私信

@need_login
def send_message(self, user_id, content):
 """
 给指定的用户发私信
 :param user_id: 用户ID
 :param content: 私信内容
 """
 data = {"type": "common", "content": content, "receiver_hash": user_id}
 response = self._session.post(URL.message(), json=data)
 data = response.json()
 if data.get("error"):
 self.logger.info("私信发送失败, %s" % data.get("error").get("message"))
 else:
 self.logger.info("发送成功")
 return data

上面两个方法放在一个叫Zhihu的类里面,我只列出了关键代码,涉及到的 @need_login 是一个用户认证的装饰器,表示该方法需要登录后才能操作。细心的你可能发现,每个请求中我并没有显示地指定 Header 字段,那时因为我把它放在 __init__.py 方法中初始化了。

def __init__(self):
 self._session = requests.session()
 self._session.verify = False
 self._session.headers = {"Host": "www.zhihu.com",
    "Referer": "https://www.zhihu.com/",
    'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_10_5) AppleWebKit/537.36'
      ' (KHTML, like Gecko) Chrome/56.0.2924.87',
    }
 self._session.cookies = cookiejar.LWPCookieJar(filename=cookie_filename)
 try:
 self._session.cookies.load(ignore_discard=True)
 except:
 pass

调用执行

from zhihu import Zhihu

if __name__ == '__main__':
 zhihu = Zhihu()
 profile = zhihu.user("xiaoxiaodouzi")
 _id = profile.get("id")
 zhihu.send_message(_id, "你好,这是来自Python之禅的问候")

执行完成后,小号成功收到我发送的私信。

python爬虫入门教程--利用requests构建知乎API(三)

最后,我们可以按照类似的思路把关注用户,点赞等功能实现了。

源码地址:https://github.com/lzjun567/zhihu-api 

在线下载:http://xiazai.3water.com/201705/yuanma/zhihu-api(3water.com).rar

总结

以上就是关于这篇文章的全部内容,希望本文的内容对大家学习或者使用python能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对三水点靠木的支持。

Python 相关文章推荐
Python用GET方法上传文件
Mar 10 Python
python使用urlparse分析网址中域名的方法
Apr 15 Python
详解Python的单元测试
Apr 28 Python
Windows和Linux下Python输出彩色文字的方法教程
May 02 Python
Django学习笔记之ORM基础教程
Mar 27 Python
Django框架视图介绍与使用详解
Jul 18 Python
PyCharm+PyQt5+QtDesigner配置详解
Aug 12 Python
python性能测试工具locust的使用
Dec 28 Python
Python字符串对齐、删除字符串不需要的内容以及格式化打印字符
Jan 23 Python
Python爬虫获取op.gg英雄联盟英雄对位胜率的源码
Jan 29 Python
使用Python制作一个数据预处理小工具(多种操作一键完成)
Feb 07 Python
PyQt5 显示超清高分辨率图片的方法
Apr 11 Python
Python正则表达式完全指南
May 25 #Python
Tensorflow简单验证码识别应用
May 25 #Python
Python 编码Basic Auth使用方法简单实例
May 25 #Python
Python 含参构造函数实例详解
May 25 #Python
Python爬虫之模拟知乎登录的方法教程
May 25 #Python
python爬虫入门教程--优雅的HTTP库requests(二)
May 25 #Python
Python操作使用MySQL数据库的实例代码
May 25 #Python
You might like
PHP判断IP并转跳到相应城市分站的方法
2015/03/25 PHP
PHP实现图片批量打包下载功能
2017/03/01 PHP
PHP jQuery+Ajax结合写批量删除功能
2017/05/19 PHP
一款JavaScript压缩工具:X2JSCompactor
2007/06/13 Javascript
escape、encodeURI 和 encodeURIComponent 的区别
2009/03/02 Javascript
判断用户是否在线的代码
2011/03/05 Javascript
Javascript 闭包引起的IE内存泄露分析
2012/05/23 Javascript
使用jquery mobile做幻灯播放效果实现步骤
2013/01/04 Javascript
JS判断两个时间大小的示例代码
2014/01/28 Javascript
JavaScript中实现最高效的数组乱序方法
2014/10/11 Javascript
Ajax清除浏览器js、css、图片缓存的方法
2015/08/06 Javascript
js实现动态创建的元素绑定事件
2016/07/19 Javascript
js鼠标按键事件和键盘按键事件用法实例汇总
2016/10/03 Javascript
原生JS上传大文件显示进度条 php上传文件代码
2020/03/27 Javascript
详解Vue项目中出现Loading chunk {n} failed问题的解决方法
2018/09/14 Javascript
Vue根据条件添加click事件的方式
2019/11/09 Javascript
原生JavaScript之es6中Class的用法分析
2020/02/23 Javascript
vue2.0 watch里面的 deep和immediate用法说明
2020/10/30 Javascript
javascript 数组(list)添加/删除的实现
2020/12/17 Javascript
Python实现二分查找与bisect模块详解
2017/01/13 Python
使用pandas读取csv文件的指定列方法
2018/04/21 Python
Django model select的多种用法详解
2019/07/16 Python
使用WingPro 7 设置Python路径的方法
2019/07/24 Python
Python循环实现n的全排列功能
2019/09/16 Python
Python 切分数组实例解析
2019/11/07 Python
python json 递归打印所有json子节点信息的例子
2020/02/27 Python
Window版下在Jupyter中编写TensorFlow的环境搭建
2020/04/10 Python
Django模型验证器介绍与源码分析
2020/09/08 Python
Python如何使用vars返回对象的属性列表
2020/10/17 Python
Pandas之缺失数据的实现
2021/01/06 Python
django使用多个数据库的方法实例
2021/03/04 Python
Html5中的桌面通知Notification的实现
2018/09/25 HTML / CSS
见习期自我鉴定
2014/01/31 职场文书
百日安全活动总结
2014/05/04 职场文书
孩子教育的心得体会
2014/09/01 职场文书
2016入党积极分子党课培训心得体会
2016/01/06 职场文书