mac安装scrapy并创建项目的实例讲解


Posted in Python onJune 13, 2018

最近刚好在学习python+scrapy的爬虫技术,因为mac是自带python2.7的,所以安装3.5版本有两种方法,一种是升级,一种是额外安装3.5版本。

升级就不用说了,讲讲额外安装的版本吧~~~

因为python是有自带版本的,最开始安装的时候都会有一种“ 会不会冲突 ”的感觉。

其实安装3.5版本也就是在官网上直接下载之后安装,和普通的mac软件安装方式是一样的~~

https://www.python.org/downloads/release/python-353/

安装完成之后,不会覆盖原来的python,会在 /Library/Frameworks/Python.framework/Versions/3.5/lib/python3.5文件中

在终端直接输入 python 会执行python2.7版本

python 
 
Python 2.7.12 (default, Jun 29 2016, 14:05:02) 
[GCC 4.2.1 Compatible Apple LLVM 7.3.0 (clang-703.0.31)] on darwin 
Type "help", "copyright", "credits" or "license" for more information. 
>>>

在终端直接输入 python3 则会执行python3.5版本

python3 
 
Python 3.5.3 (v3.5.3:1880cb95a742, Jan 16 2017, 08:49:46) 
[GCC 4.2.1 (Apple Inc. build 5666) (dot 3)] on darwin 
Type "help", "copyright", "credits" or "license" for more information. 
>>>

接下来就可以开始安装scrapy了

python3.5中会自带 pip,所以不需要额外安装了,可以直接在终端输入 pip3 --version查看版本和路径

pip3 --version 
 
pip 9.0.1 from /Library/Frameworks/Python.framework/Versions/3.5/lib/python3.5/site-packages (python 3.5)

使用 pip3 安装scrapy

pip3 install Scrapy

这里的Scrapy一定要首字母大写,不然会在安装的过程中报错~~

Collecting scrapy
 Retrying (Retry(total=4, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa2c88>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Retrying (Retry(total=3, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa29e8>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Retrying (Retry(total=2, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa2630>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Retrying (Retry(total=1, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa2f28>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Retrying (Retry(total=0, connect=None, read=None, redirect=None)) after connection broken by 'NewConnectionError('<pip._vendor.requests.packages.urllib3.connection.VerifiedHTTPSConnection object at 0x103aa2be0>: Failed to establish a new connection: [Errno 61] Connection refused',)': /simple/scrapy/
 Could not find a version that satisfies the requirement scrapy (from versions: )
No matching distribution found for scrapy

安装成功之后,可以直接在终端上输入 scrapy 查看版本号及使用

Scrapy 1.4.0 - no active project
Usage:
 scrapy <command> [options] [args]
Available commands:
 bench   Run quick benchmark test
 fetch   Fetch a URL using the Scrapy downloader
 genspider  Generate new spider using pre-defined templates
 runspider  Run a self-contained spider (without creating a project)
 settings  Get settings values
 shell   Interactive scraping console
 startproject Create new project
 version  Print Scrapy version
 view   Open URL in browser, as seen by Scrapy
 [ more ]  More commands available when run from project directory
Use "scrapy <command> -h" to see more info about a command

在pycharm中是没有直接创建scrapy项目的,可以使用 scrapy 命令手动新建项目

scrapy startproject ArticleSpider(ArticleSpider为项目名称)

以上这篇mac安装scrapy并创建项目的实例讲解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python 错误和异常小结
Oct 09 Python
Python Socket编程入门教程
Jul 11 Python
web.py在SAE中的Session问题解决方法(使用mysql存储)
Jun 24 Python
python主线程捕获子线程的方法
Jun 17 Python
Python多继承原理与用法示例
Aug 23 Python
对Pandas DataFrame缺失值的查找与填充示例讲解
Nov 06 Python
python 用opencv调用训练好的模型进行识别的方法
Dec 07 Python
python实现栅栏加解密 支持密钥加密
Mar 20 Python
python 利用pyttsx3文字转语音过程详解
Sep 25 Python
python用pip install时安装失败的一系列问题及解决方法
Feb 24 Python
python 利用百度API识别图片文字(多线程版)
Dec 14 Python
python 实现图片批量压缩的示例
Dec 18 Python
解决Tensorflow安装成功,但在导入时报错的问题
Jun 13 #Python
基于pip install django失败时的解决方法
Jun 12 #Python
基于Python pip用国内镜像下载的方法
Jun 12 #Python
pip安装时ReadTimeoutError的解决方法
Jun 12 #Python
解决pip install的时候报错timed out的问题
Jun 12 #Python
pip install urllib2不能安装的解决方法
Jun 12 #Python
ubuntu17.4下为python和python3装上pip的方法
Jun 12 #Python
You might like
php cookie 登录验证示例代码
2009/03/16 PHP
浅析HTTP消息头网页缓存控制以及header常用指令介绍
2013/06/28 PHP
用PHP解决的一个栈的面试题
2014/07/02 PHP
PHP根据session与cookie用户登录状态操作类的代码
2016/05/13 PHP
微信接口生成带参数的二维码
2017/07/31 PHP
学习从实践开始之jQuery插件开发 菜单插件开发
2012/05/03 Javascript
一个封装js代码-----展开收起效果示例
2013/07/03 Javascript
js判读浏览器是否支持html5的canvas的代码
2013/11/18 Javascript
将查询条件的input、select清空
2014/01/14 Javascript
js事件绑定快捷键以ctrl+k为例
2014/09/30 Javascript
JS实现为表格动态添加标题的方法
2015/03/31 Javascript
jquery实现的仿天猫侧导航tab切换效果
2015/08/24 Javascript
jQuery实现获取隐藏div高度的方法示例
2017/02/09 Javascript
jQuery中DOM操作原则实例分析
2019/08/01 jQuery
如何在node环境实现“get数据解析”代码实例
2020/07/03 Javascript
手写Vue源码之数据劫持示例详解
2021/01/04 Vue.js
pandas中的DataFrame按指定顺序输出所有列的方法
2018/04/10 Python
python爬虫正则表达式之处理换行符
2018/06/08 Python
python  Django中的apps.py的目的是什么
2018/10/15 Python
Python设计模式之外观模式实例详解
2019/01/17 Python
Python+OpenCV图片局部区域像素值处理详解
2019/01/23 Python
python与字符编码问题
2019/05/24 Python
Python计算一个点到所有点的欧式距离实现方法
2019/07/04 Python
Django框架模型简单介绍与使用分析
2019/07/18 Python
Love, Bonito国际官网:新加坡女装品牌
2021/03/13 全球购物
iostream与iostream.h的区别
2015/01/16 面试题
商场促销活动方案
2014/02/08 职场文书
幽默自我介绍演讲稿
2014/08/21 职场文书
2014年保管员工作总结
2014/11/18 职场文书
考研复习计划
2015/01/19 职场文书
人事任命通知
2015/04/20 职场文书
暑期社会实践新闻稿
2015/07/17 职场文书
乡镇司法所2015年度工作总结
2015/10/14 职场文书
导游词之江苏溱潼古镇
2019/11/27 职场文书
教你用Python matplotlib库制作简单的动画
2021/06/11 Python
十大最强飞行系宝可梦,BUG燕上榜,第二是飞行系王者
2022/03/18 日漫