分享8点超级有用的Python编程建议(推荐)


Posted in Python onOctober 13, 2019

我们在用Python进行机器学习建模项目的时候,每个人都会有自己的一套项目文件管理的习惯,我自己也有一套方法,是自己曾经踩过的坑总结出来的,现在在这里分享一下给大家,希望多少有些地方可以给大家借鉴。

? 先睹为快

  • 项目文件事先做好归档
  • 永远不要手动修改源数据并且做好备份
  • 做好路径的正确配置
  • 代码必要的地方做好备注与说明
  • 加速你的Python循环代码
  • 可视化你的循环代码进度
  • 使用高效的异常捕获工具
  • 要多考虑代码健壮性
项目文件事先做好归档

每次开始一个新工作的时候,以前的我总是贪图方便,Code、Data、文档都集中放在一个文件夹内,看起来很乱,一度让回溯过程十分痛苦,或者是换了部电脑,文件全都运行不行了,需要自行修改路径,十分痛苦。

经过自己一番探索,大家可以大致将项目分成几个子文件夹,code放在主文件夹里:

分享8点超级有用的Python编程建议(推荐)

永远不要手动修改源数据并且做好备份

我们需要对源数据进行好备份,方便我们下一次进行回溯,可以进行下一步的操作或者是对中间步骤的修改,而且,对代码等其他文件也是需要做好备份的,以免出现意外丢失。

这里来自良许Linux的一篇文章,推荐了4个工具:

  • Git版本控制系统
  • Rsync文件备份
  • Dropbox云存储
  • Time Machine时光机器

更多的工具介绍和使用我这边就不展开,大家可以去自行了解呗。

做好路径的正确配置

很多同学在写路径的时候都很喜欢直接用绝对路径,虽然一般情况下不会有什么问题,但如果代码共享给其他人学习或者运行的时候,问题就来了,很多情况下都不能直接跑通,

这里建议:

  • 使用相对路径:脚本位于主目录下,其他资源(如数据、第三方包等)在其同级或低级目录下,如 ./data/processed/test1.csv
  • 全局路径配置变量:
# 设置主目录
HOME_PATH = r'E:\ML\190615- PROJECT1'

# 读取数据
data = open(HOME_PATH+'/data/processed/test1.csv') 
data = pd.read_csv(data)
data.head()
代码必要的地方做好备注与说明

这个我相信大多数人都感同身受了,不信?拿回一个月前自己写的代码看看吧,看一下能看懂多少(如果没有做好备注说明的话)

加速你的Python循环代码

这里推荐云哥的一篇文章:24式加速你的python:

收藏起来,多看多几次,养成好习惯呗,这样子你写代码才会越来越快~

可视化你的循环代码进度

这里介绍一个Python库,tqdm,先安装一下:pip install tqdm

这个是一个可以显示循环进度的库,有了它就可以更加运筹帷幄了。

大家可以看下面的例子:

分享8点超级有用的Python编程建议(推荐)

使用高效的异常捕获工具

异常bug定位,以前的我经常也是一条print()函数走到底,虽然说也没什么问题,但效率上还是会比较慢,后来发现了一个叫PySnooper的装饰器,仿佛发现了新大陆。

我们一般debug,都是在我们可能觉得会有问题的地方,去打印输出,看下实际输出了什么,然后思考问题所在,这需要我们去改code,非常细致地改,相比较直接加个装饰器,是十分麻烦的。

大家可以看看Example:

import pysnooper

@pysnooper.snoop('./log/file.log')
def number_to_bits(number):
  if number:
    bits = []
    while number:
      number, remainder = divmod(number, 2)
      bits.insert(0, remainder)
    return bits
  else:
    return [0]

number_to_bits(6)

我们把函数每一步的输出都保存为file.log,我们可以直接去看到底哪里出了问题。

分享8点超级有用的Python编程建议(推荐)

? 项目地址:https://github.com/cool-RR/pysnooper

要多考虑代码健壮性

何为代码的健壮性,顾名思义,就是可以抵挡得住各种异常场景的测试,异常处理工作由“捕获”和“抛出”两部分组成。“捕获”指的是使用 try ... except 包裹特定语句,妥当的完成错误流程处理。而恰当的使用 raise 主动“抛出”异常,更是优雅代码里必不可少的组成部分,下面总结几点供大家参考:

1)知道要传入的参数是什么,类型,个数....(异常处理,逻辑判断)

def add(a, b):
 if isinstance(a, int) and isinstance(b, int):
   return a+b
 else:
   return '参数类型错误'

print(add(1, 2))
print(add(1, 'a'))

2)只做最精准的异常捕获

我们有的时候想着让脚本work才是王道,所以不管三七二十一就搞一个大大的try...except把整块代码包裹起来,但这样很容易把原本该被抛出的 AttibuteError 吞噬了。从而给我们的 debug 过程增加了不必要的麻烦。

所以,我们永远只捕获那些可能会抛出异常的语句块,而且尽量只捕获精确的异常类型,而不是模糊的 Exception。

from requests.exceptions import RequestException

def save_website_title(url, filename):
  try:
    resp = requests.get(url)
  except RequestException as e:
    print(f'save failed: unable to get page content: {e}')
    return False
    
# 这段正则操作本身就是不应该抛出异常的,所以我们没必要使用 try 语句块
# 假如 group 被误打成了 grop 也没关系,程序马上就会通过 AttributeError 来
# 告诉我们。
  obj = re.search(r'<title>(.*)</title>', resp.text)
  if not obj:
  print('save failed: title tag not found in page content')
  return False
  title = obj.group(1)

  try:
  with open(filename, 'w') as fp:
    fp.write(title)
  except IOError as e:
  print(f'save failed: unable to write to file {filename}: {e}')
  return False
  else:
  return True

3)异常处理不应该喧宾夺主

像上一条说到的异常捕获要精准,但如果每一个都很精准的话,其实我们的代码里就会有很多try...except语句块,以至于扰乱核心代码,代码整体阅读性。

这里,我们可以利用上下文管理器来改善我们的异常处理流程,简化重复的异常处理逻辑。

class raise_api_error:
  """captures specified exception and raise ApiErrorCode instead
  :raises: AttributeError if code_name is not valid
  """
  def __init__(self, captures, code_name):
  self.captures = captures
  self.code = getattr(error_codes, code_name)

  def __enter__(self):
  # 该方法将在进入上下文时调用
  return self

  def __exit__(self, exc_type, exc_val, exc_tb):
  # 该方法将在退出上下文时调用
  # exc_type, exc_val, exc_tb 分别表示该上下文内抛出的
  # 异常类型、异常值、错误栈
  if exc_type is None:
    return False

  if exc_type == self.captures:
    raise self.code from exc_val
  return False

在上面的代码里,我们定义了一个名为 raise_api_error 的上下文管理器,它在进入上下文时什么也不做。但是在退出上下文时,会判断当前上下文中是否抛出了类型为 self.captures 的异常,如果有,就用 APIErrorCode 异常类替代它。

使用上下文管理器后,简洁的代码如下:

def upload_avatar(request):
  """用户上传新头像"""
  with raise_api_error(KeyError, 'AVATAR_FILE_NOT_PROVIDED'):
  avatar_file = request.FILES['avatar']
    
  with raise_api_error(ResizeAvatarError, 'AVATAR_FILE_INVALID'),\
    raise_api_error(FileTooLargeError, 'AVATAR_FILE_TOO_LARGE'):
   resized_avatar_file = resize_avatar(avatar_file)

  with raise_api_error(Exception, 'INTERNAL_SERVER_ERROR'):
  request.user.avatar = resized_avatar_file
  request.user.save()
  return HttpResponse({})

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
使用Python设置tmpfs来加速项目的教程
Apr 17 Python
python复制文件的方法实例详解
May 22 Python
Python守护进程用法实例分析
Jun 04 Python
Python探索之自定义实现线程池
Oct 27 Python
CentOS7.3编译安装Python3.6.2的方法
Jan 22 Python
详解Tensorflow数据读取有三种方式(next_batch)
Feb 01 Python
Python pyinotify日志监控系统处理日志的方法
Mar 08 Python
python+OpenCV实现车牌号码识别
Nov 08 Python
Python常用库大全及简要说明
Jan 17 Python
使用Keras实现Tensor的相乘和相加代码
Jun 18 Python
python之openpyxl模块的安装和基本用法(excel管理)
Feb 03 Python
利用Python批量识别电子账单数据的方法
Feb 08 Python
ipad上运行python的方法步骤
Oct 12 #Python
python字典排序的方法
Oct 12 #Python
python查看数据类型的方法
Oct 12 #Python
python能做什么 python的含义
Oct 12 #Python
学python安装的软件总结
Oct 12 #Python
Win10下python 2.7与python 3.7双环境安装教程图解
Oct 12 #Python
python输入错误后删除的方法
Oct 12 #Python
You might like
解决cPanel无法安装php5.2.17
2014/06/22 PHP
PHP使用CURL_MULTI实现多线程采集的例子
2014/07/29 PHP
windows7配置Nginx+php+mysql的详细教程
2016/09/04 PHP
PHP编辑器PhpStrom运行缓慢问题
2017/02/21 PHP
如何通过Apache在本地配置多个虚拟主机
2020/07/29 PHP
扩展javascript的Date方法实现代码(prototype)
2010/11/20 Javascript
javascript克隆对象深度介绍
2012/11/20 Javascript
IE6下opacity与JQuery的奇妙结合
2013/03/01 Javascript
javascript新建标签,判断键盘输入,以及判断焦点(示例代码)
2013/11/25 Javascript
Jquery网页内滑动缓冲导航的实现代码
2015/04/05 Javascript
微信小程序日历组件calendar详解及实例
2017/06/08 Javascript
Vue 2中ref属性的使用方法及注意事项
2017/06/12 Javascript
浅谈在Vue-cli里基于axios封装复用请求
2017/11/06 Javascript
通过jquery toggleClass()属性制作文章段落更改背景颜色
2018/05/21 jQuery
js常用方法、检查是否有特殊字符串、倒序截取字符串操作完整示例
2020/01/26 Javascript
jQuery实现朋友圈查看图片
2020/09/11 jQuery
python批量生成本地ip地址的方法
2015/03/23 Python
使用Python设置tmpfs来加速项目的教程
2015/04/17 Python
Python实现的简单算术游戏实例
2015/05/26 Python
python获取指定路径下所有指定后缀文件的方法
2015/05/26 Python
python 调用win32pai 操作cmd的方法
2017/05/28 Python
python中reader的next用法
2018/07/24 Python
python编程使用协程并发的优缺点
2018/09/20 Python
快速查找Python安装路径方法
2020/02/06 Python
Python抖音快手代码舞(字符舞)的实现方法
2021/02/07 Python
雅高酒店中国:Accorhotels.com China
2018/03/26 全球购物
Tommy Hilfiger澳洲官网:美国高端休闲领导品牌
2020/12/16 全球购物
校园新闻广播稿
2014/01/10 职场文书
初二物理教学反思
2014/01/29 职场文书
留学顾问岗位职责
2014/04/14 职场文书
诚实守信道德模范事迹材料
2014/08/15 职场文书
乡镇群众路线整改落实情况汇报
2014/10/28 职场文书
农村党员学习党的群众路线教育实践活动心得体会
2014/11/04 职场文书
会计工作岗位职责
2015/02/03 职场文书
Python 机器学习工具包SKlearn的安装与使用
2021/05/14 Python
Mysql忘记密码解决方法
2022/02/12 MySQL