Pytorch根据layers的name冻结训练方式


Posted in Python onJanuary 06, 2020

使用model.named_parameters()可以轻松搞定,

model.cuda()
 
 
# ######################################## Froze some layers to fine-turn the model ########################
for name, param in model.named_parameters(): # 带有参数名的模型的各个层包含的参数遍历
  if 'out' or 'merge' or 'before_regress' in name: # 判断参数名字符串中是否包含某些关键字
    continue
  param.requires_grad = False
# #############################################################################################################
 
 
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()),
           lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)

以上这篇Pytorch根据layers的name冻结训练方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python操作SQLite简明教程
Jul 10 Python
Python 中开发pattern的string模板(template) 实例详解
Apr 01 Python
Python爬虫爬取一个网页上的图片地址实例代码
Jan 16 Python
python解析html提取数据,并生成word文档实例解析
Jan 22 Python
transform python环境快速配置方法
Sep 27 Python
Python字符串逆序的实现方法【一题多解】
Feb 18 Python
Python os.access()用法实例
Feb 18 Python
简单了解python变量的作用域
Jul 30 Python
python3 selenium自动化测试 强大的CSS定位方法
Aug 23 Python
基于TensorFlow的CNN实现Mnist手写数字识别
Jun 17 Python
Python之字典添加元素的几种方法
Sep 30 Python
OpenCV利用python来实现图像的直方图均衡化
Oct 21 Python
Windows下python3安装tkinter的问题及解决方法
Jan 06 #Python
带你彻底搞懂python操作mysql数据库(cursor游标讲解)
Jan 06 #Python
详解python tkinter模块安装过程
Jan 06 #Python
解决tensorflow由于未初始化变量而导致的错误问题
Jan 06 #Python
Python3 全自动更新已安装的模块实现
Jan 06 #Python
tensorflow 只恢复部分模型参数的实例
Jan 06 #Python
春节到了 教你使用python来抢票回家
Jan 06 #Python
You might like
PHP extract 将数组拆分成多个变量的函数
2010/06/30 PHP
php的array_multisort()使用方法介绍
2012/05/16 PHP
PHP简单检测网址是否能够正常打开的方法
2016/09/04 PHP
EasySlider 基于jQuery功能强大简单易用的滑动门插件
2010/06/11 Javascript
JavaScript版TAB选项卡效果实例
2013/08/16 Javascript
禁止选中文字兼容IE、Chrome、FF等
2013/09/04 Javascript
JS截取url中问号后面参数的值信息
2014/04/29 Javascript
jquery+css3打造一款ajax分页插件(自写)
2014/06/18 Javascript
jQuery实现鼠标划过展示大图的方法
2015/03/09 Javascript
JavaScript中的this机制
2016/01/30 Javascript
JS中使用FormData上传文件、图片的方法
2016/08/07 Javascript
详解jQuery选择器
2016/12/21 Javascript
Bootstrap的popover(弹出框)2秒后定时消失的实现代码
2017/02/27 Javascript
浅谈vue中数据双向绑定的实现原理
2017/09/14 Javascript
angular.js4使用 RxJS 处理多个 Http 请求
2017/09/23 Javascript
一步步教你利用webpack如何搭一个vue脚手架(超详细讲解和注释)
2018/01/08 Javascript
微信小程序与公众号实现数据互通的方法
2019/07/25 Javascript
JS出现404错误原理及解决方案
2020/07/01 Javascript
js实现鼠标点击飘爱心效果
2020/08/19 Javascript
jQuery+ajax实现用户登录验证
2020/09/13 jQuery
利用PHP实现递归删除链表元素的方法示例
2020/10/23 Javascript
[01:02:25]2014 DOTA2华西杯精英邀请赛 5 24 iG VS DK
2014/05/26 DOTA
[01:00:25]2018DOTA2亚洲邀请赛3月30日 小组赛A组 VG VS Liquid
2018/03/31 DOTA
Python3使用PyQt5制作简单的画板/手写板实例
2017/10/19 Python
浅谈Scrapy网络爬虫框架的工作原理和数据采集
2019/02/07 Python
Python 列表反转显示的四种方法
2020/11/16 Python
PyCharm+Miniconda3安装配置教程详解
2021/02/16 Python
python实现简单文件读写函数
2021/02/25 Python
CSS3教程(8):CSS3透明度指南
2009/04/02 HTML / CSS
CSS3 display知识详解
2015/11/25 HTML / CSS
乌克兰时尚鞋子和衣服购物网站:Born2be
2018/05/24 全球购物
Petmate品牌官方网站:宠物用品
2018/11/25 全球购物
艺术设计专业个人求职信
2013/09/21 职场文书
有创意的广告词
2014/03/18 职场文书
晚会主持人开场白台词
2015/05/28 职场文书
python 利用PyAutoGUI快速构建自动化操作脚本
2021/05/31 Python