Pytorch根据layers的name冻结训练方式


Posted in Python onJanuary 06, 2020

使用model.named_parameters()可以轻松搞定,

model.cuda()
 
 
# ######################################## Froze some layers to fine-turn the model ########################
for name, param in model.named_parameters(): # 带有参数名的模型的各个层包含的参数遍历
  if 'out' or 'merge' or 'before_regress' in name: # 判断参数名字符串中是否包含某些关键字
    continue
  param.requires_grad = False
# #############################################################################################################
 
 
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()),
           lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)

以上这篇Pytorch根据layers的name冻结训练方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python删除特定文件的方法
Jul 30 Python
python调用百度语音REST API
Aug 30 Python
使用pip发布Python程序的方法步骤
Oct 11 Python
python实现Flappy Bird源码
Dec 24 Python
python广度优先搜索得到两点间最短路径
Jan 17 Python
Python批量删除只保留最近几天table的代码实例
Apr 01 Python
python 中pyqt5 树节点点击实现多窗口切换问题
Jul 04 Python
Python+numpy实现矩阵的行列扩展方式
Nov 29 Python
Python selenium 加载并保存QQ群成员,去除其群主、管理员信息的示例代码
May 28 Python
Django 构建模板form表单的两种方法
Jun 14 Python
OpenCV实现机器人对物体进行移动跟随的方法实例
Nov 09 Python
python批量创建变量并赋值操作
Jun 03 Python
Windows下python3安装tkinter的问题及解决方法
Jan 06 #Python
带你彻底搞懂python操作mysql数据库(cursor游标讲解)
Jan 06 #Python
详解python tkinter模块安装过程
Jan 06 #Python
解决tensorflow由于未初始化变量而导致的错误问题
Jan 06 #Python
Python3 全自动更新已安装的模块实现
Jan 06 #Python
tensorflow 只恢复部分模型参数的实例
Jan 06 #Python
春节到了 教你使用python来抢票回家
Jan 06 #Python
You might like
php curl 伪造IP来源的实例代码
2012/11/01 PHP
PHP添加Xdebug扩展的方法
2014/02/12 PHP
phplot生成图片类用法详解
2015/01/06 PHP
完整显示当前日期和时间的JS代码
2007/09/17 Javascript
JavaScript的Cookies
2008/01/16 Javascript
JavaScript 小型打飞机游戏实现原理说明
2010/10/28 Javascript
js 完美图片新闻轮转效果,腾讯大粤网首页图片轮转改造而来
2011/11/21 Javascript
js window.open弹出新的网页窗口
2014/01/16 Javascript
JS使用getComputedStyle()方法获取CSS属性值
2014/04/23 Javascript
jQuery针对各类元素操作基础教程
2014/08/29 Javascript
JS基于面向对象实现的多个倒计时器功能示例
2017/02/28 Javascript
整理关于Bootstrap过渡动画的慕课笔记
2017/03/29 Javascript
javascript 玩转Date对象(实例讲解)
2017/07/11 Javascript
angularjs实现时间轴效果的示例代码
2017/11/29 Javascript
python 批量修改/替换数据的实例
2018/07/25 Python
Python 最大概率法进行汉语切分的方法
2018/12/14 Python
django orm 通过related_name反向查询的方法
2018/12/15 Python
Python中函数的基本定义与调用及内置函数详解
2019/05/13 Python
Django  ORM 练习题及答案
2019/07/19 Python
python实现图像检索的三种(直方图/OpenCV/哈希法)
2019/08/08 Python
django ManyToManyField多对多关系的实例详解
2019/08/09 Python
Python实现朴素贝叶斯的学习与分类过程解析
2019/08/24 Python
使用python实现男神女神颜值打分系统(推荐)
2019/10/31 Python
pycharm无法导入本地模块的解决方式
2020/02/12 Python
Python动态导入模块:__import__、importlib、动态导入的使用场景实例分析
2020/03/30 Python
python库skimage给灰度图像染色的方法示例
2020/04/27 Python
IE滤镜与CSS3效果(详细整理分享)
2013/01/25 HTML / CSS
Wiggle澳大利亚:自行车、跑步、游泳商店
2020/11/07 全球购物
土木工程专业自荐信
2013/10/04 职场文书
餐厅销售主管职责范本
2014/02/19 职场文书
2014年审计工作总结
2014/11/17 职场文书
医院营销工作计划
2015/01/16 职场文书
2015入党个人自传范文
2015/06/26 职场文书
2019送给家人们的中秋节祝福语
2019/08/15 职场文书
五年级作文之学校的四季
2019/12/05 职场文书
SQL Server中交叉联接的用法详解
2021/04/22 SQL Server