keras 权重保存和权重载入方式


Posted in Python onMay 21, 2020

如果需要全部权重载入,直接使用权重载入方式

model.save_weights('./weigths.h5')
model2.load_weights('./weigths.h5')

但是有时候你只需要载入部分权重

所以你可以这样操作

首先,为所有层命名,在层中直接加入方法 name='layer1'

第二,使用,将你不需要载入权重的值更改名字。

最后,载入权重。

x=BatchNormalization(axis=channel_axis,name='layer2')(x)
 
model2.layers[-1].name='pred'
model2.load_weights('./weigths.h5',by_name=True)

上面的代码是对应的操作,这里我除了最后一层,其他层我都加载了权重,记住,by_name 必须赋值为True 这样才能够按照名称对应赋值权重。

注意:两个模型结构必须一样,不然可能出问题

补充知识:Keras中保存和加载权重及模型结构

1. 保存和加载模型结构

(1)保存为JSON字串

json_string = model.to_json()

(2)从JSON字串重构模型

from keras.models import model_from_json
model = model_from_json(json_string)

(3)保存为YAML字串

yaml_string = model.to_yaml()

(4)从YAML字串重构模型

model = model_from_yaml(yaml_string)

2. 保存和加载模型权重(参数)

from keras.models import load_model
 
# 创建HDF5文件'my_model.h5',保存模型参数
model.save('my_model.h5')
 
# 加载模型参数
load_model('my_model.h5')

2.1 处理已保存模型中的自定义层(或其他自定义对象)

如果要加载的模型包含自定义层或其他自定义类或函数,则可以通过 custom_objects 参数将它们传递给加载机制:

from keras.models import load_model
 
# 假设你的模型包含一个 AttentionLayer 类的实例
model = load_model('my_model.h5', custom_objects={'AttentionLayer': AttentionLayer})

或者,你可以使用 自定义对象作用域:

from keras.utils import CustomObjectScope
 
with CustomObjectScope({'AttentionLayer': AttentionLayer}):
 model = load_model('my_model.h5')

自定义对象的处理与 load_model, model_from_json, model_from_yaml 的工作方式相同:

from keras.models import model_from_json

model = model_from_json(json_string, custom_objects={'AttentionLayer': AttentionLayer})

2019年6月1号更新:

更详细的使用方法:

如何保存Keras模型?

(1)一个HDF5文件即保存模型的结构又保存模型的权重

我们不推荐使用pickle或cPickle来保存Keras模型。

你可以使用model.save(filepath)将Keras模型和权重保存在一个HDF5文件中,该文件将包含:

模型的结构,以便重构该模型

模型的权重

训练配置(损失函数,优化器等)

优化器的状态,以便于从上次训练中断的地方开始

使用keras.models.load_model(filepath)来重新实例化你的模型,如果文件中存储了训练配置的话,该函数还会同时完成模型的编译。

例子:

from keras.models import load_model
 
model.save('my_model.h5') # creates a HDF5 file 'my_model.h5'
del model # deletes the existing model
 
# returns a compiled model
# identical to the previous one
model = load_model('my_model.h5')

(2)只保存模型的结构

如果你只是希望保存模型的结构,而不包含其权重或配置信息,可以使用:

# save as JSON
json_string = model.to_json()
 
# save as YAML
yaml_string = model.to_yaml()

这项操作将把模型序列化为json或yaml文件,这些文件对人而言也是友好的,如果需要的话你甚至可以手动打开这些文件并进行编辑。

当然,你也可以从保存好的json文件或yaml文件中载入模型:

# model reconstruction from JSON:
from keras.models import model_from_json
model = model_from_json(json_string)
 
# model reconstruction from YAML
model = model_from_yaml(yaml_string)

(3)只保存模型的权重

如果需要保存模型的权重,可通过下面的代码利用HDF5进行保存。注意,在使用前需要确保你已安装了HDF5和其Python库h5py。

model.save_weights('my_model_weights.h5')

如果你需要在代码中初始化一个完全相同的模型,请使用:

model.load_weights('my_model_weights.h5')

如果你需要加载权重到不同的网络结构(有些层一样)中,例如fine-tune或transfer-learning,你可以通过层名字来加载模型:

model.load_weights('my_model_weights.h5', by_name=True)

例如:

"""
假如原模型为:
 model = Sequential()
 model.add(Dense(2, input_dim=3, name="dense_1"))
 model.add(Dense(3, name="dense_2"))
 ...
 model.save_weights(fname)
"""
# new model
model = Sequential()
model.add(Dense(2, input_dim=3, name="dense_1")) # will be loaded
model.add(Dense(10, name="new_dense")) # will not be loaded
 
# load weights from first model; will only affect the first layer, dense_1.
model.load_weights(fname, by_name=True)

以上这篇keras 权重保存和权重载入方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python中MySQLdb模块用法实例
Nov 10 Python
python字符串过滤性能比较5种方法
Jun 22 Python
python一行sql太长折成多行并且有多个参数的方法
Jul 19 Python
python发送告警邮件脚本
Sep 17 Python
Python数据报表之Excel操作模块用法分析
Mar 11 Python
python装饰器简介---这一篇也许就够了(推荐)
Apr 01 Python
Python参数解析模块sys、getopt、argparse使用与对比分析
Apr 02 Python
使用python 写一个静态服务(实战)
Jun 28 Python
浅谈Python中re.match()和re.search()的使用及区别
Apr 14 Python
python 如何对logging日志封装
Dec 02 Python
详解基于Facecognition+Opencv快速搭建人脸识别及跟踪应用
Jan 21 Python
Python 用户输入和while循环的操作
May 23 Python
浅谈keras保存模型中的save()和save_weights()区别
May 21 #Python
Python通过文本和图片生成词云图
May 21 #Python
解决在keras中使用model.save()函数保存模型失败的问题
May 21 #Python
Python 实现敏感目录扫描的示例代码
May 21 #Python
基于python检查矩阵计算结果
May 21 #Python
Django 解决由save方法引发的错误
May 21 #Python
Python OrderedDict字典排序方法详解
May 21 #Python
You might like
关于php循环跳出的问题
2013/07/01 PHP
ThinkPHP页面跳转success与error方法概述
2014/06/25 PHP
使用PHP和JavaScript判断请求是否来自微信内浏览器
2015/08/18 PHP
PHP实现简单实用的分页类代码
2016/04/08 PHP
js自带函数备忘 数组
2006/12/29 Javascript
javascript 极速 隐藏/显示万行表格列只需 60毫秒
2009/03/28 Javascript
Javacript实现颜色梯度变化和渐变的效果代码
2013/05/31 Javascript
原生javascript和jquery判断浏览器版本等信息
2013/07/04 Javascript
js在输入框屏蔽按键,只能键入数字的示例代码
2014/01/03 Javascript
javascript数组操作总结和属性、方法介绍
2014/04/05 Javascript
Javascript学习笔记之数组的遍历和 length 属性
2014/11/23 Javascript
JS实现超炫网页烟花动画效果的方法
2015/03/02 Javascript
jQuery实现带延迟效果的滑动菜单代码
2015/09/02 Javascript
基于JavaScript实现添加到购物车效果附源码下载
2016/08/22 Javascript
微信小程序 网络API 上传、下载详解
2016/11/09 Javascript
lhgcalendar时间插件限制只能选择三个月的实现方法
2017/07/03 Javascript
微信小程序中button组件的边框设置的实例详解
2017/09/27 Javascript
jquery使用iscorll实现上拉、下拉加载刷新
2017/10/26 jQuery
vue小白入门教程
2018/04/02 Javascript
浅析前端路由简介以及vue-router实现原理
2018/06/01 Javascript
JavaScript多种图形实现代码实例
2020/06/28 Javascript
Vue.js中Line第三方登录api的实现代码
2020/06/29 Javascript
vue中可编辑树状表格的实现代码
2020/10/31 Javascript
python实现html转ubb代码(html2ubb)
2014/07/03 Python
python以环状形式组合排列图片并输出的方法
2015/03/17 Python
python实现连接mongodb的方法
2015/05/08 Python
python3+mysql查询数据并通过邮件群发excel附件
2018/02/24 Python
使用python分析统计自己微信朋友的信息
2019/07/19 Python
Python 实现日志同时输出到屏幕和文件
2020/02/19 Python
英国精品买手店:Browns Fashion
2016/09/29 全球购物
数据库基础的一些面试题
2012/02/25 面试题
《蒙娜丽莎之约》教学反思
2014/02/27 职场文书
刑事上诉状(量刑过重)
2015/05/23 职场文书
健康教育主题班会
2015/08/14 职场文书
小学语文教师研修感悟
2015/11/18 职场文书
Nginx文件已经存在全局反向代理问题排查记录
2022/07/15 Servers