Python实现爬取百度贴吧帖子所有楼层图片的爬虫示例


Posted in Python onApril 26, 2018

本文实例讲述了Python实现爬取百度贴吧帖子所有楼层图片的爬虫。分享给大家供大家参考,具体如下:

下载百度贴吧帖子图片,好好看

Python实现爬取百度贴吧帖子所有楼层图片的爬虫示例

python2.7版本:

#coding=utf-8
import re
import requests
import urllib
from bs4 import BeautifulSoup
import time
time1=time.time()
def getHtml(url):
  page = requests.get(url)
  html =page.text
  return html
def getImg(html):
  soup = BeautifulSoup(html, 'html.parser')
  img_info = soup.find_all('img', class_='BDE_Image')
  global index
  for index,img in enumerate(img_info,index+1):
    print ("正在下载第{}张图片".format(index))
    urllib.urlretrieve(img.get("src"),'C:/pic4/%s.jpg' % index)
def getMaxPage(url):
  html = getHtml(url)
  reg = re.compile(r'max-page="(\d+)"')
  page = re.findall(reg,html)
  page = int(page[0])
  return page
if __name__=='__main__':
  url  = "https://tieba.baidu.com/p/5113603072"
  page = getMaxPage(url)
  index = 0
  for i in range(1,page):
    url = "%s%s" % ("https://tieba.baidu.com/p/5113603072?pn=",str(i))
    html = getHtml(url)
    getImg(html)
  print ("OK!All DownLoad!")
  time2=time.time()
  print u'总共耗时:' + str(time2 - time1) + 's'
Python 相关文章推荐
python中遍历文件的3个方法
Sep 02 Python
Python基于twisted实现简单的web服务器
Sep 29 Python
python查询sqlite数据表的方法
May 08 Python
wxPython实现窗口用图片做背景
Apr 25 Python
基于windows下pip安装python模块时报错总结
Jun 12 Python
Python基于分析Ajax请求实现抓取今日头条街拍图集功能示例
Jul 19 Python
Python代码块及缓存机制原理详解
Dec 13 Python
Python unittest 自动识别并执行测试用例方式
Mar 09 Python
Python run()函数和start()函数的比较和差别介绍
May 03 Python
使用python创建Excel工作簿及工作表过程图解
May 27 Python
解决pyinstaller 打包exe文件太大,用pipenv 缩小exe的问题
Jul 13 Python
最新PyCharm 2020.2.3永久激活码(亲测有效)
Nov 26 Python
Python实现的计算器功能示例
Apr 26 #Python
python email smtplib模块发送邮件代码实例
Apr 26 #Python
Python利用正则表达式实现计算器算法思路解析
Apr 25 #Python
Python实现随机生成手机号及正则验证手机号的方法
Apr 25 #Python
Python实现按中文排序的方法示例
Apr 25 #Python
Python实现的基于优先等级分配糖果问题算法示例
Apr 25 #Python
python自动登录12306并自动点击验证码完成登录的实现源代码
Apr 25 #Python
You might like
PHP下MAIL的另一解决方案
2006/10/09 PHP
php实现查看邮件是否已被阅读的方法
2013/12/03 PHP
linux使用crontab实现PHP执行计划定时任务
2014/05/10 PHP
php CI框架插入一条或多条sql记录示例
2014/07/29 PHP
php创建和删除目录函数介绍和递归删除目录函数分享
2014/11/18 PHP
Python中使用django form表单验证的方法
2017/01/16 PHP
thinkphp实现把数据库中的列的值存到下拉框中的方法
2017/01/20 PHP
用正则xmlHttp实现的偷(转)
2007/01/22 Javascript
js event事件的传递与冒泡处理
2009/12/06 Javascript
Javascript的时间戳和php的时间戳转换注意事项
2013/04/12 Javascript
jquery与js函数冲突的两种解决方法
2013/09/09 Javascript
浅析tr的隐藏和显示问题
2014/03/05 Javascript
js验证IP及子网掩码的合法性有效性示例
2014/04/30 Javascript
纯js和css实现渐变色包括静态渐变和动态渐变
2014/05/29 Javascript
jquery代码实现多选、不同分享功能
2015/07/31 Javascript
vue watch自动检测数据变化实时渲染的方法
2018/01/16 Javascript
优雅的处理vue项目异常实战记录
2019/06/05 Javascript
[34:41]夜魇凡尔赛茶话会 第二期02:你画我猜
2021/03/11 DOTA
linux系统使用python获取内存使用信息脚本分享
2014/01/15 Python
深入理解python多进程编程
2016/06/12 Python
django model去掉unique_together报错的解决方案
2016/10/18 Python
由浅入深讲解python中的yield与generator
2017/04/05 Python
Pycharm代码无法复制,无法选中删除,无法编辑的解决方法
2018/10/22 Python
十个Python练手的实战项目,学会这些Python就基本没问题了(推荐)
2019/04/26 Python
Python中查看变量的类型内存地址所占字节的大小
2019/06/26 Python
Python 函数list&read&seek详解
2019/08/28 Python
django中瀑布流写法实例代码
2019/10/14 Python
用python实现前向分词最大匹配算法的示例代码
2020/08/06 Python
python中如何打包用户自定义模块
2020/09/23 Python
详解pycharm配置python解释器的问题
2020/10/15 Python
Canvas引入跨域的图片导致toDataURL()报错的问题的解决
2018/09/19 HTML / CSS
介绍一下Linux内核的排队自旋锁
2014/01/04 面试题
大学生军训自我鉴定
2014/02/12 职场文书
竞选班长演讲稿500字
2014/08/22 职场文书
js 数组 fill() 填充方法
2021/11/02 Javascript
CSS link与@import的区别和用法解析
2023/05/07 HTML / CSS