pytorch 模型的train模式与eval模式实例


Posted in Python onFebruary 20, 2020

原因

对于一些含有batch normalization或者是Dropout层的模型来说,训练时的froward和验证时的forward有计算上是不同的,因此在前向传递过程中需要指定模型是在训练还是在验证。

源代码

[docs] def train(self, mode=True):
  r"""Sets the module in training mode.

  This has any effect only on certain modules. See documentations of
  particular modules for details of their behaviors in training/evaluation
  mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`,
  etc.

  Returns:
   Module: self
  """
  self.training = mode
  for module in self.children():
   module.train(mode)
  return self

[docs] def eval(self):
  r"""Sets the module in evaluation mode.

  This has any effect only on certain modules. See documentations of
  particular modules for details of their behaviors in training/evaluation
  mode, if they are affected, e.g. :class:`Dropout`, :class:`BatchNorm`,
  etc.
  """
  #该方法调用了nn.train()方法,把参数默认值改为false. 增加聚合性
  return self.train(False)

在使用含有BN层,dropout层的神经网路来说,必须要区分训练验证

以上这篇pytorch 模型的train模式与eval模式实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python利用前序和中序遍历结果重建二叉树的方法
Apr 27 Python
Python错误: SyntaxError: Non-ASCII character解决办法
Jun 08 Python
详解appium+python 启动一个app步骤
Dec 20 Python
python使用pycharm环境调用opencv库
Feb 11 Python
用python处理图片之打开\显示\保存图像的方法
May 04 Python
Python中矩阵创建和矩阵运算方法
Aug 04 Python
Python装饰器模式定义与用法分析
Aug 06 Python
Python提取支付宝和微信支付二维码的示例代码
Feb 15 Python
Django在admin后台集成TinyMCE富文本编辑器的例子
Aug 09 Python
python3 反射的四种基本方法解析
Aug 26 Python
Python GUI编程学习笔记之tkinter事件绑定操作详解
Mar 30 Python
Python通过kerberos安全认证操作kafka方式
Jun 06 Python
pytorch dataloader 取batch_size时候出现bug的解决方式
Feb 20 #Python
pytorch 使用加载训练好的模型做inference
Feb 20 #Python
pytorch中的inference使用实例
Feb 20 #Python
python encrypt 实现AES加密的实例详解
Feb 20 #Python
Python关于反射的实例代码分享
Feb 20 #Python
Python3监控疫情的完整代码
Feb 20 #Python
浅谈Pytorch torch.optim优化器个性化的使用
Feb 20 #Python
You might like
一个更简单的无限级分类菜单代码
2007/01/16 PHP
PHP 面向对象程序设计(oop)学习笔记(三) - 单例模式和工厂模式
2014/06/12 PHP
深入理解PHP中的Streams工具
2015/07/03 PHP
php获取文件后缀的9种方法
2016/03/22 PHP
JavaScript Event学习第十章 一些可替换的事件对
2010/02/10 Javascript
如何确保JavaScript的执行顺序 之实战篇
2011/03/03 Javascript
javascript得到当前页的来路即前一页地址的方法
2014/02/18 Javascript
js事件监听机制(事件捕获)总结
2014/08/08 Javascript
jQuery中on()方法用法实例详解
2015/02/06 Javascript
Nodejs爬虫进阶教程之异步并发控制
2016/02/15 NodeJs
基于javascript实现泡泡大冒险网页版小游戏
2016/03/23 Javascript
Google 地图事件实例讲解
2016/08/06 Javascript
javascript prototype原型详解(比较基础)
2016/12/26 Javascript
vue-cli脚手架的安装教程图解
2018/09/02 Javascript
图文讲解vue的v-if使用方法
2019/02/11 Javascript
vue使用vue-quill-editor富文本编辑器且将图片上传到服务器的功能
2021/01/13 Vue.js
python3.5实现socket通讯示例(TCP)
2017/02/07 Python
python的numpy模块安装不成功简单解决方法总结
2017/12/23 Python
Python实现识别手写数字 Python图片读入与处理
2020/03/23 Python
图解python全局变量与局部变量相关知识
2019/11/02 Python
如何在python中写hive脚本
2019/11/08 Python
使用python写一个自动浏览文章的脚本实例
2019/12/05 Python
如何用python处理excel表格
2020/06/09 Python
SpringBoot首页设置解析(推荐)
2021/02/11 Python
纯css3使用vw和vh实现自适应的方法
2018/02/09 HTML / CSS
百思买加拿大:Best Buy Canada
2018/03/20 全球购物
美国山地自行车、露营、户外装备和服装购物网站:Aventuron
2018/05/05 全球购物
应用化学专业职业生涯规划书
2013/12/31 职场文书
酒店副总经理岗位职责范本
2014/02/04 职场文书
幼儿园新年寄语
2014/04/03 职场文书
万能检讨书开头与结尾怎么写
2015/02/17 职场文书
2015年妇女工作总结
2015/05/14 职场文书
公司行政管理制度范本
2015/08/05 职场文书
详解Python 3.10 中的新功能和变化
2021/04/28 Python
Python常遇到的错误和异常
2021/11/02 Python
mysql5.7的安装及Navicate长久免费使用的实现过程
2021/11/17 MySQL