使用Python多线程爬虫爬取电影天堂资源


Posted in Python onSeptember 23, 2016

最近花些时间学习了一下Python,并写了一个多线程的爬虫程序来获取电影天堂上资源的迅雷下载地址,代码已经上传到GitHub上了,需要的同学可以自行下载。刚开始学习python希望可以获得宝贵的意见。

先来简单介绍一下,网络爬虫的基本实现原理吧。一个爬虫首先要给它一个起点,所以需要精心选取一些URL作为起点,然后我们的爬虫从这些起点出发,抓取并解析所抓取到的页面,将所需要的信息提取出来,同时获得的新的URL插入到队列中作为下一次爬取的起点。这样不断地循环,一直到获得你想得到的所有的信息爬虫的任务就算结束了。我们通过一张图片来看一下。

使用Python多线程爬虫爬取电影天堂资源

好的 下面进入正题,来讲解下程序的实现。

首先要分析一下电影天堂网站的首页结构。

使用Python多线程爬虫爬取电影天堂资源

从上面的菜单栏中我们可以看到整个网站资源的总体分类情况。刚刚好我们可以利用到它的这个分类,将每一个分类地址作为爬虫的起点。

①解析首页地址 提取分类信息

#解析首页
def CrawIndexPage(starturl):
print "正在爬取首页"
page = __getpage(starturl)
if page=="error":
return
page = page.decode('gbk', 'ignore')
tree = etree.HTML(page)
Nodes = tree.xpath("//div[@id='menu']//a")
print "首页解析出地址",len(Nodes),"条"
for node in Nodes:
CrawledURLs = []
CrawledURLs.append(starturl)
url=node.xpath("@href")[0]
if re.match(r'/html/[A-Za-z0-9_/]+/index.html', url):
if __isexit(host + url,CrawledURLs):
pass
else:
try:
catalog = node.xpath("text()")[0].encode("utf-8")
newdir = "E:/电影资源/" + catalog
os.makedirs(newdir.decode("utf-8"))
print "创建分类目录成功------"+newdir
thread = myThread(host + url, newdir,CrawledURLs)
thread.start()
except:
pass

在这个函数中,首先将网页的源码下载下来,通过XPath解析出其中的菜单分类信息。并创建相应的文件目录。有一个需要注意的地方就是编码问题,但是也是被这个编码纠缠了好久,通过查看网页的源代码,我们可以发现,网页的编码采用的是GB2312,这里通过XPath构造Tree对象是需要对文本信息进行解码操作,将gb2312变成Unicode编码,这样DOM树结构才是正确的,要不然在后面解析的时候就会出现问题。

②解析每个分类的主页

# 解析分类文件
def CrawListPage(indexurl,filedir,CrawledURLs):
print "正在解析分类主页资源"
print indexurl
page = __getpage(indexurl)
if page=="error":
return
CrawledURLs.append(indexurl)
page = page.decode('gbk', 'ignore')
tree = etree.HTML(page)
Nodes = tree.xpath("//div[@class='co_content8']//a")
for node in Nodes:
url=node.xpath("@href")[0]
if re.match(r'/', url):
# 非分页地址 可以从中解析出视频资源地址
if __isexit(host + url,CrawledURLs):
pass
else:
#文件命名是不能出现以下特殊符号
filename=node.xpath("text()")[0].encode("utf-8").replace("/"," ")\
.replace("\\"," ")\
.replace(":"," ")\
.replace("*"," ")\
.replace("?"," ")\
.replace("\""," ")\
.replace("<", " ") \
.replace(">", " ")\
.replace("|", " ")
CrawlSourcePage(host + url,filedir,filename,CrawledURLs)
pass
else:
# 分页地址 从中嵌套再次解析
print "分页地址 从中嵌套再次解析",url
index = indexurl.rfind("/")
baseurl = indexurl[0:index + 1]
pageurl = baseurl + url
if __isexit(pageurl,CrawledURLs):
pass
else:
print "分页地址 从中嵌套再次解析", pageurl
CrawListPage(pageurl,filedir,CrawledURLs)
pass
pass

打开每一个分类的首页会发现都有一个相同的结构(点击打开示例)首先解析出包含资源URL的节点,然后将名称和URL提取出来。这一部分有两个需要注意的地方。一是因为最终想要把资源保存到一个txt文件中,但是在命名时不能出现一些特殊符号,所以需要处理掉。二是一定要对分页进行处理,网站中的数据都是通过分页这种形式展示的,所以如何识别并抓取分页也是很重要的。通过观察发现,分页的地址前面没有“/”,所以只需要通过正则表达式找出分页地址链接,然后嵌套调用即可解决分页问题。

③解析资源地址保存到文件中

#处理资源页面 爬取资源地址
def CrawlSourcePage(url,filedir,filename,CrawledURLs):
print url
page = __getpage(url)
if page=="error":
return
CrawledURLs.append(url)
page = page.decode('gbk', 'ignore')
tree = etree.HTML(page)
Nodes = tree.xpath("//div[@align='left']//table//a")
try:
source = filedir + "/" + filename + ".txt"
f = open(source.decode("utf-8"), 'w')
for node in Nodes:
sourceurl = node.xpath("text()")[0]
f.write(sourceurl.encode("utf-8")+"\n")
f.close()
except:
print "!!!!!!!!!!!!!!!!!"

这段就比较简单了,将提取出来的内容写到一个文件中就行了

为了能够提高程序的运行效率,使用了多线程进行抓取,在这里我是为每一个分类的主页都开辟了一个线程,这样极大地加快了爬虫的效率。想当初,只是用单线程去跑,结果等了一下午最后因为一个异常没处理到结果一下午都白跑了!!!!心累

class myThread (threading.Thread): #继承父类threading.Thread
def __init__(self, url, newdir,CrawledURLs):
threading.Thread.__init__(self)
self.url = url
self.newdir = newdir
self.CrawledURLs=CrawledURLs
def run(self): #把要执行的代码写到run函数里面 线程在创建后会直接运行run函数
CrawListPage(self.url, self.newdir,self.CrawledURLs)

以上只是部分代码,全部代码可以到GitHub上面去下载(点我跳转)

最后爬取的结果如下。

使用Python多线程爬虫爬取电影天堂资源

使用Python多线程爬虫爬取电影天堂资源

使用Python多线程爬虫爬取电影天堂资源

以上所述是小编给大家介绍的使用Python多线程爬虫爬取电影天堂资源 ,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

Python 相关文章推荐
python实现类似ftp传输文件的网络程序示例
Apr 08 Python
在Python中操作文件之read()方法的使用教程
May 24 Python
Python中functools模块函数解析
Mar 12 Python
浅谈使用Python变量时要避免的3个错误
Oct 30 Python
Python cookbook(数据结构与算法)从任意长度的可迭代对象中分解元素操作示例
Feb 13 Python
Python比较2个时间大小的实现方法
Apr 10 Python
PyQt5每天必学之像素图控件QPixmap
Apr 19 Python
用python3教你任意Html主内容提取功能
Nov 05 Python
Python3.6+selenium2.53.6自动化测试_读取excel文件的方法
Sep 06 Python
python GUI库图形界面开发之PyQt5访问系统剪切板QClipboard类详细使用方法与实例
Feb 27 Python
深入浅析Python 命令行模块 Click
Mar 11 Python
python 操作mysql数据中fetchone()和fetchall()方式
May 15 Python
Python 爬虫模拟登陆知乎
Sep 23 #Python
python 自动化将markdown文件转成html文件的方法
Sep 23 #Python
Python增量循环删除MySQL表数据的方法
Sep 23 #Python
教你用Python脚本快速为iOS10生成图标和截屏
Sep 22 #Python
Python 制作糗事百科爬虫实例
Sep 22 #Python
Python 使用SMTP发送邮件的代码小结
Sep 21 #Python
Python 使用requests模块发送GET和POST请求的实现代码
Sep 21 #Python
You might like
综合图片计数器
2006/10/09 PHP
PHP Smarty模版简单使用方法
2016/03/30 PHP
PHP检测链接是否存在的代码实例分享
2016/05/06 PHP
ThinkPHP使用Ueditor的方法详解
2016/05/20 PHP
php微信浏览器分享设置以及回调详解
2016/08/01 PHP
thinkPHP5.0框架命名空间详解
2017/03/18 PHP
浅谈PHP中的面向对象OOP中的魔术方法
2017/06/12 PHP
DOM2非标准但却支持很好的几个属性小结
2012/01/21 Javascript
window.requestAnimationFrame是什么意思,怎么用
2013/01/13 Javascript
jQuery前端分页示例分享
2015/02/10 Javascript
浅析JavaScript动画
2015/06/10 Javascript
JavaScript+html5 canvas实现本地截图教程
2020/04/16 Javascript
基于JS实现的笛卡尔乘积之商品发布
2016/05/13 Javascript
jQuery弹出下拉列表插件(实现kindeditor的@功能)
2016/08/16 Javascript
jquery对所有input type=text的控件赋值实现方法
2016/12/02 Javascript
js实现选项卡内容切换以及折叠和展开效果【推荐】
2017/01/08 Javascript
Node.js常用工具之util模块
2017/03/09 Javascript
angular4自定义组件详解
2017/09/28 Javascript
vue.js表单验证插件(vee-validate)的使用教程详解
2019/05/23 Javascript
Servlet返回的数据js解析2种方法
2019/12/12 Javascript
JavaScript读取本地文件常用方法流程解析
2020/10/12 Javascript
python益智游戏计算汉诺塔问题示例
2014/03/05 Python
python批量修改文件名的实现代码
2014/09/01 Python
python中MySQLdb模块用法实例
2014/11/10 Python
python冒泡排序简单实现方法
2015/07/09 Python
Python3实现发送QQ邮件功能(html)
2017/12/15 Python
python爬虫获取京东手机图片的图文教程
2017/12/29 Python
Python 比较文本相似性的方法(difflib,Levenshtein)
2018/10/15 Python
Python  Django 母版和继承解析
2019/08/09 Python
python的json包位置及用法总结
2020/06/21 Python
Python爬虫进阶之爬取某视频并下载的实现
2020/12/08 Python
canvas三角函数模拟水波效果的示例代码
2018/07/03 HTML / CSS
英国在线玫瑰专家:InterRose
2019/12/01 全球购物
个人自我评价分享
2013/12/20 职场文书
反洗钱宣传活动总结
2014/08/26 职场文书
环卫工人节活动总结
2014/08/29 职场文书