tensorflow没有output结点,存储成pb文件的例子


Posted in Python onJanuary 04, 2020

Tensorflow中保存成pb file 需要 使用函数

graph_util.convert_variables_to_constants(sess, sess.graph_def,

output_node_names=[]) []中需要填写你需要保存的结点。如果保存的结点在神经网络中没有被显示定义该怎么办?

例如我使用了tf.contrib.slim或者keras,在tf的高层很多情况下都会这样。

在写神经网络时,只需要简单的一层层传导,一个slim.conv2d层就包含了kernal,bias,activation function,非常的方便,好处是网络结构一目了然,坏处是什么呢?

tensorflow没有output结点,存储成pb文件的例子

在尝试保存pb的 output node names时,需要将最后的输出结点保存下来,与这个结点相关的,从输入开始,经过层层传递的嵌套函数或者操作的相关结点,都会被保存,但无效的例如 计算准确率,计算loss等,就可以省略了,因为保存的pb主要是用来做预测的。

在准备查看所有的结点名称并选取保存时,发现scope "local3"里面仅有相关的weights 和biases,这两个是单独存在的,即保存这两个参数并没有任何意义。

tensorflow没有output结点,存储成pb文件的例子

那么这时候有两种解决办法:

方法一:

graph_util.convert_variables_to_constants(sess, sess.graph_def, output_node_names=[var.name[:-2] for var in tf.global_variables()])

那么这个的意思是所有的variable的都被保存下来 但函数中要求的是 node name 我们通过 global_variables获得的是 变量名 并不是 节点名

(例如 output:0 就是变量名,又叫tensor name)

output就是 node name了。

在tensorboard中可以一窥究竟

tensorflow没有output结点,存储成pb文件的例子

通过这样 也可以将 所有的变量全部保存下来(但是你并不能使用,是因为你的output并没有名字,所以你不可以通过常用的sess.graph.get_tensor_by_name来使用)

方法二:

那就是直接改写神经网络了....当然了还是比较简单的,只要改写最后一个,改写成output即可,tensorflow中无论是 变量、操作op、函数、都可以命名,那么这个地方是一个简单的全连接,仅需要将weights*net(上一层的输出) +bias 即可,我们只要将bias相加的结果命名为 ouput即可:

with tf.name_scope('local3'):
 
  local3_weights = tf.Variable(tf.truncated_normal([4096, self.output_size], stddev=0.1))
 
  local3_bias = tf.Variable(tf.constant(0.1, shape=[self.output_size]))
 
result = tf.add(tf.matmul(net, local3_weights), local3_bias, name="output")

这样将上述的convert_variables_to_constants中的output_node_names只需要填写一个['output']即可,因为这一个output结点,需要从input开始,将所有的神经网络前向传播的操作和参数全部保存下来,因此保存的结点数量 和 方法一保存的结点数量是一样的(console显示都是 convert 24)。

完整的pb保存为:(我是将ckpt读入进来,然后存成pb的)

from tensorflow.python.platform import gfile
 
 
 
load_ckpt():
 
  path = './data/output/loss1.0/'
 
  print("read from ckpt")
 
  ckpt = tf.train.get_checkpoint_state(path)
 
  saver = tf.train.Saver()
 
  saver.restore(sess, ckpt.model_checkpoint_path)
 
 
 
def write2pb_file():
 
  constant_graph = graph_util.convert_variables_to_constants(sess, sess.graph_def,
 
    output_node_names=["output"])
 
  with tf.gfile.GFile(path+'loss1.0.pb', mode='wb') as f:
 
  f.write(constant_graph.SerializeToString())
 
  print("Model is saved as " + path+'loss1.0.pb')
 
 
 
def main():
 
  load_ckpt()
 
  write2pb_file()

如果是简单的直接保存,那就更简单了。

pb文件的read,很多人会将一个net写成一个类,在引入的时候会将新建这个类,然后读入ckpt文件,这完全没有问题,但是在读取pb时,就会发生问题,因为pb中已经包含了图与参数,引入时会创建一个默认的图,但是net类中自己也会创建一个图,那么这时候你运行程序,参数其实并没有使用.pb的文件。

所以我们不能创建net类,然后直接读入.pb文件,对.pb文件,通过如下代码,获取.pb的graph中的输入和输出。

self.output = self.sess.graph.get_tensor_by_name("output:0")
 
self.input = self.sess.graph.get_tensor_by_name("images:0")

注意此时要加:0 因为你获取的不再是结点了,而是一个真实的变量,我的理解是,结点相当于一个类,:0是对象,默认初始化值就是对象的初始化。

然后就可以通过self.sess.run(self.output(feed_dict={self.input: your_input})))运行你的网络了!

以上这篇tensorflow没有output结点,存储成pb文件的例子就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
深入理解Javascript中的this关键字
Mar 27 Python
在Python的web框架中配置app的教程
Apr 30 Python
一道python走迷宫算法题
Jan 22 Python
python购物车程序简单代码
Apr 18 Python
Django学习笔记之为Model添加Action
Apr 30 Python
python 图片去噪的方法示例
Jul 09 Python
python tkinter图形界面代码统计工具(更新)
Sep 18 Python
python利用dlib获取人脸的68个landmark
Nov 27 Python
使用python实现时间序列白噪声检验方式
Jun 03 Python
Tensorflow tensor 数学运算和逻辑运算方式
Jun 30 Python
Python同时处理多个异常的方法
Jul 28 Python
python函数指定默认值的实例讲解
Mar 29 Python
TensorFlow查看输入节点和输出节点名称方式
Jan 04 #Python
根据tensor的名字获取变量的值方式
Jan 04 #Python
将tensorflow.Variable中的某些元素取出组成一个新的矩阵示例
Jan 04 #Python
tensorflow实现tensor中满足某一条件的数值取出组成新的tensor
Jan 04 #Python
对tensorflow中的strides参数使用详解
Jan 04 #Python
tensorflow之获取tensor的shape作为max_pool的ksize实例
Jan 04 #Python
TensorFlow tf.nn.max_pool实现池化操作方式
Jan 04 #Python
You might like
PHP处理Oracle的CLOB实例
2014/11/03 PHP
php中Socket创建与监听实现方法
2015/01/05 PHP
javascript 对象比较实现代码
2009/04/27 Javascript
jquery 插件开发方法小结
2009/10/23 Javascript
Javascript中定义方法的另类写法(批量定义js对象的方法)
2011/02/25 Javascript
JQuery.ajax传递中文参数的解决方法 推荐
2011/03/28 Javascript
如何使用jQUery获取选中radio对应的值(一句代码)
2013/06/03 Javascript
可编辑下拉框的2种实现方式
2014/06/13 Javascript
使用jquery prev()方法找到同级的前一个元素
2014/07/11 Javascript
JavaScript判断字符长度、数字、Email、电话等常用判断函数分享
2015/04/01 Javascript
Angularjs整合微信UI(weui)
2016/03/15 Javascript
JavaScript基于自定义函数判断变量类型的实现方法
2016/11/23 Javascript
jquery ajaxfileupload异步上传插件使用详解
2017/02/08 Javascript
Bootstrap布局之栅格系统学习笔记
2017/05/04 Javascript
简单实现js点击展开二级菜单功能
2017/05/16 Javascript
Angular 表单控件示例代码
2017/06/26 Javascript
对vue.js中this.$emit的深入理解
2018/02/23 Javascript
jQuery+datatables插件实现ajax加载数据与增删改查功能示例
2018/04/17 jQuery
使用React手写一个对话框或模态框的方法示例
2019/04/25 Javascript
[54:17]DOTA2-DPC中国联赛定级赛 RNG vs iG BO3第二场 1月10日
2021/03/11 DOTA
python完成FizzBuzzWhizz问题(拉勾网面试题)示例
2014/05/05 Python
查看Python安装路径以及安装包路径小技巧
2015/04/28 Python
浅谈插入排序算法在Python程序中的实现及简单改进
2016/05/04 Python
python2.x实现人民币转大写人民币
2018/06/20 Python
Python进程间通信multiprocess代码实例
2020/03/18 Python
使用ITK-SNAP进行抠图操作并保存mask的实例
2020/07/01 Python
python中字典增加和删除使用方法
2020/09/30 Python
HTML页面中添加Canvas标签示例
2015/01/01 HTML / CSS
Nike法国官方网站:Nike.com FR
2018/07/22 全球购物
荷兰街头时尚之家:Funkie House
2019/03/18 全球购物
新郎婚宴答谢词
2014/01/19 职场文书
初中同学聚会邀请函
2014/02/03 职场文书
财务人员个人工作总结
2015/02/27 职场文书
学校运动会简讯
2015/07/20 职场文书
2015年酒店销售部工作总结
2015/07/24 职场文书
话题作文之生命的旋律
2019/12/17 职场文书