浅谈tensorflow1.0 池化层(pooling)和全连接层(dense)


Posted in Python onApril 27, 2018

池化层定义在tensorflow/python/layers/pooling.py.

有最大值池化和均值池化。

1、tf.layers.max_pooling2d

max_pooling2d(
  inputs,
  pool_size,
  strides,
  padding='valid',
  data_format='channels_last',
  name=None
)
  1. inputs: 进行池化的数据。
  2. pool_size: 池化的核大小(pool_height, pool_width),如[3,3]. 如果长宽相等,也可以直接设置为一个数,如pool_size=3.
  3. strides: 池化的滑动步长。可以设置为[1,1]这样的两个整数. 也可以直接设置为一个数,如strides=2
  4. padding: 边缘填充,'same' 和'valid‘选其一。默认为valid
  5. data_format: 输入数据格式,默认为channels_last ,即 (batch, height, width, channels),也可以设置为channels_first 对应 (batch, channels, height, width).
  6. name: 层的名字。

例:

pool1=tf.layers.max_pooling2d(inputs=x, pool_size=[2, 2], strides=2)

一般是放在卷积层之后,如:

conv=tf.layers.conv2d(
   inputs=x,
   filters=32,
   kernel_size=[5, 5],
   padding="same",
   activation=tf.nn.relu)
pool=tf.layers.max_pooling2d(inputs=conv, pool_size=[2, 2], strides=2)

2.tf.layers.average_pooling2d

average_pooling2d(
  inputs,
  pool_size,
  strides,
  padding='valid',
  data_format='channels_last',
  name=None
)

参数和前面的最大值池化一样。

全连接dense层定义在 tensorflow/python/layers/core.py.

3、tf.layers.dense

dense(
  inputs,
  units,
  activation=None,
  use_bias=True,
  kernel_initializer=None,
  bias_initializer=tf.zeros_initializer(),
  kernel_regularizer=None,
  bias_regularizer=None,
  activity_regularizer=None,
  trainable=True,
  name=None,
  reuse=None
)
  1. inputs: 输入数据,2维tensor.
  2. units: 该层的神经单元结点数。
  3. activation: 激活函数.
  4. use_bias: Boolean型,是否使用偏置项.
  5. kernel_initializer: 卷积核的初始化器.
  6. bias_initializer: 偏置项的初始化器,默认初始化为0.
  7. kernel_regularizer: 卷积核化的正则化,可选.
  8. bias_regularizer: 偏置项的正则化,可选.
  9. activity_regularizer: 输出的正则化函数.
  10. trainable: Boolean型,表明该层的参数是否参与训练。如果为真则变量加入到图集合中 GraphKeys.TRAINABLE_VARIABLES (see tf.Variable).
  11. name: 层的名字.
  12. reuse: Boolean型, 是否重复使用参数.

全连接层执行操作 outputs = activation(inputs.kernel + bias)

如果执行结果不想进行激活操作,则设置activation=None。

例:

#全连接层
dense1 = tf.layers.dense(inputs=pool3, units=1024, activation=tf.nn.relu)
dense2= tf.layers.dense(inputs=dense1, units=512, activation=tf.nn.relu)
logits= tf.layers.dense(inputs=dense2, units=10, activation=None)

也可以对全连接层的参数进行正则化约束:

dense1 = tf.layers.dense(inputs=pool3, units=1024, activation=tf.nn.relu,kernel_regularizer=tf.contrib.layers.l2_regularizer(0.003))

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python进阶教程之异常处理
Aug 30 Python
python写入xml文件的方法
May 08 Python
浅谈Python 字符串格式化输出(format/printf)
Jul 21 Python
深入理解Python3 内置函数大全
Nov 23 Python
基于numpy.random.randn()与rand()的区别详解
Apr 17 Python
python basemap 画出经纬度并标定的实例
Jul 09 Python
python3实现从kafka获取数据,并解析为json格式,写入到mysql中
Dec 23 Python
Python-openCV读RGB通道图实例
Jan 17 Python
Python PyQt5模块实现窗口GUI界面代码实例
May 12 Python
什么是python类属性
Jun 10 Python
详解Python遍历列表时删除元素的正确做法
Jan 07 Python
详解Java中一维、二维数组在内存中的结构
Feb 11 Python
python线程中同步锁详解
Apr 27 #Python
python数字图像处理之高级形态学处理
Apr 27 #Python
python线程池threadpool实现篇
Apr 27 #Python
python数字图像处理之骨架提取与分水岭算法
Apr 27 #Python
python多线程之事件Event的使用详解
Apr 27 #Python
python线程池threadpool使用篇
Apr 27 #Python
Python实现删除时保留特定文件夹和文件的示例
Apr 27 #Python
You might like
基于PHP5魔术常量与魔术方法的详解
2013/06/13 PHP
php实现可以设置中奖概率的抽奖程序代码分享
2014/01/19 PHP
PHP实现加密的几种方式介绍
2015/02/22 PHP
php遍历解析xml字符串的方法
2016/05/05 PHP
php实现基于pdo的事务处理方法示例
2017/07/21 PHP
PHP+MySQL实现模糊查询员工信息功能示例
2018/06/01 PHP
教你如何解密js/vbs/vbscript加密的编码异处理小结
2008/06/25 Javascript
javaScript checkbox 全选/反选及批量删除
2010/04/28 Javascript
javascipt基础内容--需要注意的细节
2013/04/10 Javascript
基于mouseout和mouseover等类似事件的冒泡问题解决方法
2013/11/18 Javascript
javascript操作css属性
2013/12/30 Javascript
浅谈EasyUi ComBotree树修改 父节点选择的问题
2016/11/07 Javascript
微信小程序 删除项目工程实现步骤
2016/11/10 Javascript
vue-awesome-swiper滑块插件使用方法详解
2017/11/27 Javascript
ReactNative 之FlatList使用及踩坑封装总结
2017/11/29 Javascript
微信小程序scroll-x失效的完美解决方法
2018/07/18 Javascript
vue 自动化路由实现代码
2019/09/03 Javascript
通过vue刷新左侧菜单栏操作
2020/08/06 Javascript
基于ant design日期控件使用_仅月份的操作
2020/10/27 Javascript
Vue实现菜单切换功能
2020/11/08 Javascript
es5 类与es6中class的区别小结
2020/11/09 Javascript
python 判断自定义对象类型
2009/03/21 Python
Python引用(import)文件夹下的py文件的方法
2014/08/26 Python
举例讲解Python的Tornado框架实现数据可视化的教程
2015/05/02 Python
在python3环境下的Django中使用MySQL数据库的实例
2017/08/29 Python
Python数据可视化编程通过Matplotlib创建散点图代码示例
2017/12/09 Python
python实现本地图片转存并重命名的示例代码
2018/10/27 Python
python+flask实现API的方法
2018/11/21 Python
在vscode中启动conda虚拟环境的思路详解
2020/12/25 Python
几个SQL的面试题
2014/03/08 面试题
机关门卫岗位职责
2013/12/30 职场文书
幼儿教师思想汇报
2014/01/10 职场文书
幼儿园大班开学教师寄语
2014/04/03 职场文书
报表员工作失误检讨书范文
2014/09/19 职场文书
上诉状格式
2015/05/23 职场文书
Python编程中内置的NotImplemented类型的用法
2022/03/23 Python