使用Python多线程爬虫爬取电影天堂资源


Posted in Python onSeptember 23, 2016

最近花些时间学习了一下Python,并写了一个多线程的爬虫程序来获取电影天堂上资源的迅雷下载地址,代码已经上传到GitHub上了,需要的同学可以自行下载。刚开始学习python希望可以获得宝贵的意见。

先来简单介绍一下,网络爬虫的基本实现原理吧。一个爬虫首先要给它一个起点,所以需要精心选取一些URL作为起点,然后我们的爬虫从这些起点出发,抓取并解析所抓取到的页面,将所需要的信息提取出来,同时获得的新的URL插入到队列中作为下一次爬取的起点。这样不断地循环,一直到获得你想得到的所有的信息爬虫的任务就算结束了。我们通过一张图片来看一下。

使用Python多线程爬虫爬取电影天堂资源

好的 下面进入正题,来讲解下程序的实现。

首先要分析一下电影天堂网站的首页结构。

使用Python多线程爬虫爬取电影天堂资源

从上面的菜单栏中我们可以看到整个网站资源的总体分类情况。刚刚好我们可以利用到它的这个分类,将每一个分类地址作为爬虫的起点。

①解析首页地址 提取分类信息

#解析首页
def CrawIndexPage(starturl):
print "正在爬取首页"
page = __getpage(starturl)
if page=="error":
return
page = page.decode('gbk', 'ignore')
tree = etree.HTML(page)
Nodes = tree.xpath("//div[@id='menu']//a")
print "首页解析出地址",len(Nodes),"条"
for node in Nodes:
CrawledURLs = []
CrawledURLs.append(starturl)
url=node.xpath("@href")[0]
if re.match(r'/html/[A-Za-z0-9_/]+/index.html', url):
if __isexit(host + url,CrawledURLs):
pass
else:
try:
catalog = node.xpath("text()")[0].encode("utf-8")
newdir = "E:/电影资源/" + catalog
os.makedirs(newdir.decode("utf-8"))
print "创建分类目录成功------"+newdir
thread = myThread(host + url, newdir,CrawledURLs)
thread.start()
except:
pass

在这个函数中,首先将网页的源码下载下来,通过XPath解析出其中的菜单分类信息。并创建相应的文件目录。有一个需要注意的地方就是编码问题,但是也是被这个编码纠缠了好久,通过查看网页的源代码,我们可以发现,网页的编码采用的是GB2312,这里通过XPath构造Tree对象是需要对文本信息进行解码操作,将gb2312变成Unicode编码,这样DOM树结构才是正确的,要不然在后面解析的时候就会出现问题。

②解析每个分类的主页

# 解析分类文件
def CrawListPage(indexurl,filedir,CrawledURLs):
print "正在解析分类主页资源"
print indexurl
page = __getpage(indexurl)
if page=="error":
return
CrawledURLs.append(indexurl)
page = page.decode('gbk', 'ignore')
tree = etree.HTML(page)
Nodes = tree.xpath("//div[@class='co_content8']//a")
for node in Nodes:
url=node.xpath("@href")[0]
if re.match(r'/', url):
# 非分页地址 可以从中解析出视频资源地址
if __isexit(host + url,CrawledURLs):
pass
else:
#文件命名是不能出现以下特殊符号
filename=node.xpath("text()")[0].encode("utf-8").replace("/"," ")\
.replace("\\"," ")\
.replace(":"," ")\
.replace("*"," ")\
.replace("?"," ")\
.replace("\""," ")\
.replace("<", " ") \
.replace(">", " ")\
.replace("|", " ")
CrawlSourcePage(host + url,filedir,filename,CrawledURLs)
pass
else:
# 分页地址 从中嵌套再次解析
print "分页地址 从中嵌套再次解析",url
index = indexurl.rfind("/")
baseurl = indexurl[0:index + 1]
pageurl = baseurl + url
if __isexit(pageurl,CrawledURLs):
pass
else:
print "分页地址 从中嵌套再次解析", pageurl
CrawListPage(pageurl,filedir,CrawledURLs)
pass
pass

打开每一个分类的首页会发现都有一个相同的结构(点击打开示例)首先解析出包含资源URL的节点,然后将名称和URL提取出来。这一部分有两个需要注意的地方。一是因为最终想要把资源保存到一个txt文件中,但是在命名时不能出现一些特殊符号,所以需要处理掉。二是一定要对分页进行处理,网站中的数据都是通过分页这种形式展示的,所以如何识别并抓取分页也是很重要的。通过观察发现,分页的地址前面没有“/”,所以只需要通过正则表达式找出分页地址链接,然后嵌套调用即可解决分页问题。

③解析资源地址保存到文件中

#处理资源页面 爬取资源地址
def CrawlSourcePage(url,filedir,filename,CrawledURLs):
print url
page = __getpage(url)
if page=="error":
return
CrawledURLs.append(url)
page = page.decode('gbk', 'ignore')
tree = etree.HTML(page)
Nodes = tree.xpath("//div[@align='left']//table//a")
try:
source = filedir + "/" + filename + ".txt"
f = open(source.decode("utf-8"), 'w')
for node in Nodes:
sourceurl = node.xpath("text()")[0]
f.write(sourceurl.encode("utf-8")+"\n")
f.close()
except:
print "!!!!!!!!!!!!!!!!!"

这段就比较简单了,将提取出来的内容写到一个文件中就行了

为了能够提高程序的运行效率,使用了多线程进行抓取,在这里我是为每一个分类的主页都开辟了一个线程,这样极大地加快了爬虫的效率。想当初,只是用单线程去跑,结果等了一下午最后因为一个异常没处理到结果一下午都白跑了!!!!心累

class myThread (threading.Thread): #继承父类threading.Thread
def __init__(self, url, newdir,CrawledURLs):
threading.Thread.__init__(self)
self.url = url
self.newdir = newdir
self.CrawledURLs=CrawledURLs
def run(self): #把要执行的代码写到run函数里面 线程在创建后会直接运行run函数
CrawListPage(self.url, self.newdir,self.CrawledURLs)

以上只是部分代码,全部代码可以到GitHub上面去下载(点我跳转)

最后爬取的结果如下。

使用Python多线程爬虫爬取电影天堂资源

使用Python多线程爬虫爬取电影天堂资源

使用Python多线程爬虫爬取电影天堂资源

以上所述是小编给大家介绍的使用Python多线程爬虫爬取电影天堂资源 ,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

Python 相关文章推荐
Python中optparse模块使用浅析
Jan 01 Python
python实现定时播放mp3
Mar 29 Python
Python图像灰度变换及图像数组操作
Jan 27 Python
Python基于正则表达式实现检查文件内容的方法【文件检索】
Aug 30 Python
高质量Python代码编写的5个优化技巧
Nov 16 Python
PyQt5 实现字体大小自适应分辨率的方法
Jun 18 Python
Django ValuesQuerySet转json方式
Mar 16 Python
selenium WebDriverWait类等待机制的实现
Mar 18 Python
Python xlrd模块导入过程及常用操作
Jun 10 Python
详解python模块pychartdir安装及导入问题
Oct 22 Python
Python爬虫分析微博热搜关键词的实现代码
Feb 22 Python
Python xlwings插入Excel图片的实现方法
Feb 26 Python
Python 爬虫模拟登陆知乎
Sep 23 #Python
python 自动化将markdown文件转成html文件的方法
Sep 23 #Python
Python增量循环删除MySQL表数据的方法
Sep 23 #Python
教你用Python脚本快速为iOS10生成图标和截屏
Sep 22 #Python
Python 制作糗事百科爬虫实例
Sep 22 #Python
Python 使用SMTP发送邮件的代码小结
Sep 21 #Python
Python 使用requests模块发送GET和POST请求的实现代码
Sep 21 #Python
You might like
第十一节 重载 [11]
2006/10/09 PHP
免费手机号码归属地API查询接口和PHP使用实例分享
2014/04/10 PHP
完善CodeIgniter在IDE中代码提示功能的方法
2014/07/19 PHP
php的laravel框架快速集成微信登录的方法
2016/12/12 PHP
PHP memcache在微信公众平台的应用方法示例
2017/09/13 PHP
PhpSpreadsheet设置单元格常用操作汇总
2020/11/13 PHP
js 判断浏览器类型 去全角、半角空格 自动关闭当前窗口
2009/04/10 Javascript
Nodejs全栈框架StrongLoop推荐
2014/11/09 NodeJs
EasyUi datagrid 实现表格分页
2015/02/10 Javascript
JavaScript中的getMilliseconds()方法使用详解
2015/06/10 Javascript
WebApi+Bootstrap+KnockoutJs打造单页面程序
2016/05/16 Javascript
jQuery实现最简单实用的分秒倒计时
2017/02/05 Javascript
Kindeditor单独调用多图上传实例
2017/07/31 Javascript
webpack下实现动态引入文件方法
2018/02/22 Javascript
Python 字典(Dictionary)操作详解
2014/03/11 Python
深入理解Python 代码优化详解
2014/10/27 Python
提升Python程序运行效率的6个方法
2015/03/31 Python
Python中的super()方法使用简介
2015/08/14 Python
Tensorflow卷积神经网络实例进阶
2018/05/24 Python
python 实现单通道转3通道
2019/12/03 Python
python pandas.DataFrame.loc函数使用详解
2020/03/26 Python
python 在右键菜单中加入复制目标文件的有效存放路径(单斜杠或者双反斜杠)
2020/04/08 Python
解决python虚拟环境切换无效的问题
2020/04/30 Python
CSS3 制作绽放的莲花采用效果叠加实现
2013/01/31 HTML / CSS
实列教程 一款基于jquery和css3的响应式二级导航菜单
2014/11/13 HTML / CSS
JustFab加拿大:女鞋、靴子、手袋和服装在线
2018/05/18 全球购物
英国电子产品购物网站:Tech in the basket
2019/11/08 全球购物
静态成员和非静态成员的区别
2012/05/12 面试题
《这儿真好》教学反思
2014/02/22 职场文书
导游词开场白
2015/01/31 职场文书
行政上诉状范文
2015/05/23 职场文书
办公室卫生管理制度
2015/08/04 职场文书
幼儿园迎新生欢迎词
2015/09/30 职场文书
MySQL 使用自定义变量进行查询优化
2021/05/14 MySQL
判断Python中的Nonetype类型
2021/05/25 Python
mysql如何配置白名单访问
2021/06/30 MySQL