浅谈tensorflow1.0 池化层(pooling)和全连接层(dense)


Posted in Python onApril 27, 2018

池化层定义在tensorflow/python/layers/pooling.py.

有最大值池化和均值池化。

1、tf.layers.max_pooling2d

max_pooling2d(
  inputs,
  pool_size,
  strides,
  padding='valid',
  data_format='channels_last',
  name=None
)
  1. inputs: 进行池化的数据。
  2. pool_size: 池化的核大小(pool_height, pool_width),如[3,3]. 如果长宽相等,也可以直接设置为一个数,如pool_size=3.
  3. strides: 池化的滑动步长。可以设置为[1,1]这样的两个整数. 也可以直接设置为一个数,如strides=2
  4. padding: 边缘填充,'same' 和'valid‘选其一。默认为valid
  5. data_format: 输入数据格式,默认为channels_last ,即 (batch, height, width, channels),也可以设置为channels_first 对应 (batch, channels, height, width).
  6. name: 层的名字。

例:

pool1=tf.layers.max_pooling2d(inputs=x, pool_size=[2, 2], strides=2)

一般是放在卷积层之后,如:

conv=tf.layers.conv2d(
   inputs=x,
   filters=32,
   kernel_size=[5, 5],
   padding="same",
   activation=tf.nn.relu)
pool=tf.layers.max_pooling2d(inputs=conv, pool_size=[2, 2], strides=2)

2.tf.layers.average_pooling2d

average_pooling2d(
  inputs,
  pool_size,
  strides,
  padding='valid',
  data_format='channels_last',
  name=None
)

参数和前面的最大值池化一样。

全连接dense层定义在 tensorflow/python/layers/core.py.

3、tf.layers.dense

dense(
  inputs,
  units,
  activation=None,
  use_bias=True,
  kernel_initializer=None,
  bias_initializer=tf.zeros_initializer(),
  kernel_regularizer=None,
  bias_regularizer=None,
  activity_regularizer=None,
  trainable=True,
  name=None,
  reuse=None
)
  1. inputs: 输入数据,2维tensor.
  2. units: 该层的神经单元结点数。
  3. activation: 激活函数.
  4. use_bias: Boolean型,是否使用偏置项.
  5. kernel_initializer: 卷积核的初始化器.
  6. bias_initializer: 偏置项的初始化器,默认初始化为0.
  7. kernel_regularizer: 卷积核化的正则化,可选.
  8. bias_regularizer: 偏置项的正则化,可选.
  9. activity_regularizer: 输出的正则化函数.
  10. trainable: Boolean型,表明该层的参数是否参与训练。如果为真则变量加入到图集合中 GraphKeys.TRAINABLE_VARIABLES (see tf.Variable).
  11. name: 层的名字.
  12. reuse: Boolean型, 是否重复使用参数.

全连接层执行操作 outputs = activation(inputs.kernel + bias)

如果执行结果不想进行激活操作,则设置activation=None。

例:

#全连接层
dense1 = tf.layers.dense(inputs=pool3, units=1024, activation=tf.nn.relu)
dense2= tf.layers.dense(inputs=dense1, units=512, activation=tf.nn.relu)
logits= tf.layers.dense(inputs=dense2, units=10, activation=None)

也可以对全连接层的参数进行正则化约束:

dense1 = tf.layers.dense(inputs=pool3, units=1024, activation=tf.nn.relu,kernel_regularizer=tf.contrib.layers.l2_regularizer(0.003))

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python time模块用法实例详解
Sep 11 Python
使用Python写个小监控
Jan 27 Python
Python使用email模块对邮件进行编码和解码的实例教程
Jul 01 Python
解决python2.7 查询mysql时出现中文乱码
Oct 09 Python
Python文件操作,open读写文件,追加文本内容实例
Dec 14 Python
python使用openpyxl库修改excel表格数据方法
May 03 Python
对numpy Array [: ,] 的取值方法详解
Jul 02 Python
python 文本单词提取和词频统计的实例
Dec 22 Python
如何使用python操作vmware
Jul 27 Python
从numpy数组中取出满足条件的元素示例
Nov 26 Python
解决tensorflow由于未初始化变量而导致的错误问题
Jan 06 Python
python3中calendar返回某一时间点实例讲解
Nov 18 Python
python线程中同步锁详解
Apr 27 #Python
python数字图像处理之高级形态学处理
Apr 27 #Python
python线程池threadpool实现篇
Apr 27 #Python
python数字图像处理之骨架提取与分水岭算法
Apr 27 #Python
python多线程之事件Event的使用详解
Apr 27 #Python
python线程池threadpool使用篇
Apr 27 #Python
Python实现删除时保留特定文件夹和文件的示例
Apr 27 #Python
You might like
小偷PHP+Html+缓存
2006/12/20 PHP
PHP 分页类(模仿google)-面试题目解答
2009/09/13 PHP
PHP数据库链接类(PDO+Access)实例分享
2013/12/05 PHP
php学习笔记之面向对象
2014/11/08 PHP
php实现粘贴截图并完成上传功能
2015/05/17 PHP
thinkphp5 加载静态资源路径与常量的方法
2017/12/24 PHP
在textarea中显示html页面的javascript代码
2007/04/20 Javascript
JavaScript网页制作特殊效果用随机数
2007/05/22 Javascript
Firefox getBoxObjectFor getBoundingClientRect联系
2008/10/26 Javascript
为Extjs加加速(javascript加速)
2010/08/19 Javascript
从零开始学习jQuery (六) jquery中的AJAX使用
2011/02/23 Javascript
js常用代码段整理
2011/11/30 Javascript
6款经典实用的jQuery小插件及源码(对话框/提示工具等等)
2013/02/04 Javascript
jQuery选择器全集详解
2014/11/24 Javascript
jQuery实现鼠标滚轮动态改变样式或效果
2015/01/05 Javascript
JS判断客服QQ号在线还是离线状态的方法
2015/01/13 Javascript
JQuery中层次选择器用法实例详解
2015/05/18 Javascript
jquery Deferred 快速解决异步回调的问题
2016/04/05 Javascript
vue动态绘制四分之三圆环图效果
2019/09/03 Javascript
茶余饭后聊聊Vue3.0响应式数据那些事儿
2019/10/30 Javascript
小程序实现简单语音聊天的示例代码
2020/07/24 Javascript
一文秒懂JavaScript构造函数、实例、原型对象以及原型链
2020/08/25 Javascript
为python设置socket代理的方法
2015/01/14 Python
解决matplotlib库show()方法不显示图片的问题
2018/05/24 Python
pandas DataFrame 交集并集补集的实现
2019/06/24 Python
关于HTML5你必须知道的28个新特性,新技巧以及新技术
2012/05/28 HTML / CSS
Hotels.com爱尔兰:全球酒店预订
2017/02/24 全球购物
eBay德国站:eBay.de
2017/09/14 全球购物
艺龙旅行网酒店预订:国内、港澳台酒店
2018/06/26 全球购物
SQL Server面试题
2013/04/04 面试题
年度安全生产目标责任书
2014/07/23 职场文书
农村文化活动总结
2014/08/28 职场文书
2014年扶贫帮困工作总结
2014/12/09 职场文书
幼儿园六一主持词开场白
2015/05/28 职场文书
2019年年中职场激励人心语录30条
2019/08/07 职场文书
导游词之山海关
2019/12/10 职场文书