浅析PyTorch中nn.Module的使用


Posted in Python onAugust 18, 2019

torch.nn.Modules 相当于是对网络某种层的封装,包括网络结构以及网络参数和一些操作

torch.nn.Module 是所有神经网络单元的基类

查看源码

初始化部分:

def __init__(self):
  self._backend = thnn_backend
  self._parameters = OrderedDict()
  self._buffers = OrderedDict()
  self._backward_hooks = OrderedDict()
  self._forward_hooks = OrderedDict()
  self._forward_pre_hooks = OrderedDict()
  self._state_dict_hooks = OrderedDict()
  self._load_state_dict_pre_hooks = OrderedDict()
  self._modules = OrderedDict()
  self.training = True

属性解释:

  • _parameters:字典,保存用户直接设置的 Parameter
  • _modules:子 module,即子类构造函数中的内容
  • _buffers:缓存
  • _backward_hooks与_forward_hooks:钩子技术,用来提取中间变量
  • training:判断值来决定前向传播策略

方法定义:

def forward(self, *input):
 raise NotImplementedError

没有实际内容,用于被子类的 forward() 方法覆盖

且 forward 方法在 __call__ 方法中被调用:

def __call__(self, *input, **kwargs):
 for hook in self._forward_pre_hooks.values():
    hook(self, input)
  if torch._C._get_tracing_state():
    result = self._slow_forward(*input, **kwargs)
  else:
    result = self.forward(*input, **kwargs)
  ...
  ...

实例展示

简单搭建:

import torch.nn as nn
import torch.nn.functional as F

class Net(nn.Module):
  def __init__(self, n_feature, n_hidden, n_output):
    super(Net, self).__init__()
    self.hidden = nn.Linear(n_feature, n_hidden)
    self.out = nn.Linear(n_hidden, n_output)

  def forward(self, x):
    x = F.relu(self.hidden(x))
    x = self.out(x)
    return x

Net 类继承了 torch 的 Module 和 __init__ 功能

hidden 是隐藏层线性输出

out 是输出层线性输出

打印出网络的结构:

>>> net = Net(n_feature=10, n_hidden=30, n_output=15)
>>> print(net)
Net(
 (hidden): Linear(in_features=10, out_features=30, bias=True)
 (out): Linear(in_features=30, out_features=15, bias=True)
)

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
简单介绍Python中的readline()方法的使用
May 24 Python
python实现给数组按片赋值的方法
Jul 28 Python
浅谈Python中的zip()与*zip()函数详解
Feb 24 Python
深入分析python数据挖掘 Json结构分析
Apr 21 Python
win10系统下Anaconda3安装配置方法图文教程
Sep 19 Python
Python中Numpy ndarray的使用详解
May 24 Python
Pytorch中实现只导入部分模型参数的方式
Jan 02 Python
python GUI库图形界面开发之PyQt5选项卡控件QTabWidget详细使用方法与实例
Mar 01 Python
解决jupyter notebook 出现In[*]的问题
Apr 13 Python
python中前缀运算符 *和 **的用法示例详解
May 28 Python
python 实用工具状态机transitions
Nov 21 Python
python操作toml文件的示例代码
Nov 27 Python
关于PyTorch 自动求导机制详解
Aug 18 #Python
pytorch神经网络之卷积层与全连接层参数的设置方法
Aug 18 #Python
pytorch numpy list类型之间的相互转换实例
Aug 18 #Python
对Pytorch中nn.ModuleList 和 nn.Sequential详解
Aug 18 #Python
pytorch 自定义数据集加载方法
Aug 18 #Python
PyTorch的Optimizer训练工具的实现
Aug 18 #Python
Pytorch反向求导更新网络参数的方法
Aug 17 #Python
You might like
php下保存远程图片到本地的办法
2010/08/08 PHP
PHP无刷新上传文件实现代码
2011/09/19 PHP
用mysql_fetch_array()获取当前行数据的方法详解
2013/06/05 PHP
19个Android常用工具类汇总
2014/12/30 PHP
php通过会话控制实现身份验证实例
2016/10/18 PHP
thinkPHP5实现的查询数据库并返回json数据实例
2017/10/23 PHP
PHP ADODB实现分页功能简单示例
2018/05/25 PHP
laravel 获取某个查询的查询SQL语句方法
2019/10/12 PHP
很可爱的输入框
2008/08/03 Javascript
页面中iframe相互传值传参
2009/12/13 Javascript
简约JS日历控件 实例代码
2013/07/12 Javascript
Node.js中使用计时器定时执行函数详解
2014/08/15 Javascript
jQuery处理json数据返回数组和输出的方法
2015/03/11 Javascript
Vue.js第二天学习笔记(vue-router)
2016/12/01 Javascript
nodejs创建简易web服务器与文件读写的实例
2017/09/07 NodeJs
安装vue-cli的简易过程
2018/05/22 Javascript
解决Vue在封装了Axios后手动刷新页面拦截器无效的问题
2018/11/08 Javascript
JS异步错误捕获的一些事小结
2019/04/26 Javascript
Openlayers实现测量功能
2020/09/25 Javascript
解决js中的setInterval清空定时器不管用问题
2020/11/17 Javascript
Python实现文件内容批量追加的方法示例
2017/08/29 Python
浅谈用Python实现一个大数据搜索引擎
2017/11/28 Python
python正则表达式爬取猫眼电影top100
2018/02/24 Python
Python2包含中文报错的解决方法
2018/07/09 Python
Python3.4解释器用法简单示例
2019/03/22 Python
python2.7实现复制大量文件及文件夹资料
2019/08/31 Python
Python Tensor FLow简单使用方法实例详解
2020/01/14 Python
香蕉共和国工厂店:Banana Republic Factory
2018/06/09 全球购物
eDreams意大利:南欧领先的在线旅行社
2018/11/23 全球购物
以思科路由器为例你写下单臂路由的配置命令
2013/08/03 面试题
爱国主义教育活动总结
2014/05/07 职场文书
十佳护士先进事迹
2014/05/08 职场文书
机械专业求职信
2014/05/25 职场文书
运动会加油口号
2014/06/07 职场文书
搞笑的爱情检讨书
2014/10/01 职场文书
考试没考好检讨书
2015/05/06 职场文书