keras 权重保存和权重载入方式


Posted in Python onMay 21, 2020

如果需要全部权重载入,直接使用权重载入方式

model.save_weights('./weigths.h5')
model2.load_weights('./weigths.h5')

但是有时候你只需要载入部分权重

所以你可以这样操作

首先,为所有层命名,在层中直接加入方法 name='layer1'

第二,使用,将你不需要载入权重的值更改名字。

最后,载入权重。

x=BatchNormalization(axis=channel_axis,name='layer2')(x)
 
model2.layers[-1].name='pred'
model2.load_weights('./weigths.h5',by_name=True)

上面的代码是对应的操作,这里我除了最后一层,其他层我都加载了权重,记住,by_name 必须赋值为True 这样才能够按照名称对应赋值权重。

注意:两个模型结构必须一样,不然可能出问题

补充知识:Keras中保存和加载权重及模型结构

1. 保存和加载模型结构

(1)保存为JSON字串

json_string = model.to_json()

(2)从JSON字串重构模型

from keras.models import model_from_json
model = model_from_json(json_string)

(3)保存为YAML字串

yaml_string = model.to_yaml()

(4)从YAML字串重构模型

model = model_from_yaml(yaml_string)

2. 保存和加载模型权重(参数)

from keras.models import load_model
 
# 创建HDF5文件'my_model.h5',保存模型参数
model.save('my_model.h5')
 
# 加载模型参数
load_model('my_model.h5')

2.1 处理已保存模型中的自定义层(或其他自定义对象)

如果要加载的模型包含自定义层或其他自定义类或函数,则可以通过 custom_objects 参数将它们传递给加载机制:

from keras.models import load_model
 
# 假设你的模型包含一个 AttentionLayer 类的实例
model = load_model('my_model.h5', custom_objects={'AttentionLayer': AttentionLayer})

或者,你可以使用 自定义对象作用域:

from keras.utils import CustomObjectScope
 
with CustomObjectScope({'AttentionLayer': AttentionLayer}):
 model = load_model('my_model.h5')

自定义对象的处理与 load_model, model_from_json, model_from_yaml 的工作方式相同:

from keras.models import model_from_json

model = model_from_json(json_string, custom_objects={'AttentionLayer': AttentionLayer})

2019年6月1号更新:

更详细的使用方法:

如何保存Keras模型?

(1)一个HDF5文件即保存模型的结构又保存模型的权重

我们不推荐使用pickle或cPickle来保存Keras模型。

你可以使用model.save(filepath)将Keras模型和权重保存在一个HDF5文件中,该文件将包含:

模型的结构,以便重构该模型

模型的权重

训练配置(损失函数,优化器等)

优化器的状态,以便于从上次训练中断的地方开始

使用keras.models.load_model(filepath)来重新实例化你的模型,如果文件中存储了训练配置的话,该函数还会同时完成模型的编译。

例子:

from keras.models import load_model
 
model.save('my_model.h5') # creates a HDF5 file 'my_model.h5'
del model # deletes the existing model
 
# returns a compiled model
# identical to the previous one
model = load_model('my_model.h5')

(2)只保存模型的结构

如果你只是希望保存模型的结构,而不包含其权重或配置信息,可以使用:

# save as JSON
json_string = model.to_json()
 
# save as YAML
yaml_string = model.to_yaml()

这项操作将把模型序列化为json或yaml文件,这些文件对人而言也是友好的,如果需要的话你甚至可以手动打开这些文件并进行编辑。

当然,你也可以从保存好的json文件或yaml文件中载入模型:

# model reconstruction from JSON:
from keras.models import model_from_json
model = model_from_json(json_string)
 
# model reconstruction from YAML
model = model_from_yaml(yaml_string)

(3)只保存模型的权重

如果需要保存模型的权重,可通过下面的代码利用HDF5进行保存。注意,在使用前需要确保你已安装了HDF5和其Python库h5py。

model.save_weights('my_model_weights.h5')

如果你需要在代码中初始化一个完全相同的模型,请使用:

model.load_weights('my_model_weights.h5')

如果你需要加载权重到不同的网络结构(有些层一样)中,例如fine-tune或transfer-learning,你可以通过层名字来加载模型:

model.load_weights('my_model_weights.h5', by_name=True)

例如:

"""
假如原模型为:
 model = Sequential()
 model.add(Dense(2, input_dim=3, name="dense_1"))
 model.add(Dense(3, name="dense_2"))
 ...
 model.save_weights(fname)
"""
# new model
model = Sequential()
model.add(Dense(2, input_dim=3, name="dense_1")) # will be loaded
model.add(Dense(10, name="new_dense")) # will not be loaded
 
# load weights from first model; will only affect the first layer, dense_1.
model.load_weights(fname, by_name=True)

以上这篇keras 权重保存和权重载入方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python开发WebService系列教程之REST,web.py,eurasia,Django
Jun 30 Python
简析Python的闭包和装饰器
Feb 26 Python
Python中关于Sequence切片的下标问题详解
Jun 15 Python
使用Python的turtle模块画图的方法
Nov 15 Python
解决Ubuntu pip 安装 mysql-python包出错的问题
Jun 11 Python
Python利用ORM控制MongoDB(MongoEngine)的步骤全纪录
Sep 13 Python
用Python实现读写锁的示例代码
Nov 05 Python
Python实现点阵字体读取与转换的方法
Jan 29 Python
Python不同目录间进行模块调用的实现方法
Jan 29 Python
pytorch 实现cross entropy损失函数计算方式
Jan 02 Python
python-docx文件定位读取过程(尝试替换)
Feb 13 Python
Python xlrd模块导入过程及常用操作
Jun 10 Python
浅谈keras保存模型中的save()和save_weights()区别
May 21 #Python
Python通过文本和图片生成词云图
May 21 #Python
解决在keras中使用model.save()函数保存模型失败的问题
May 21 #Python
Python 实现敏感目录扫描的示例代码
May 21 #Python
基于python检查矩阵计算结果
May 21 #Python
Django 解决由save方法引发的错误
May 21 #Python
Python OrderedDict字典排序方法详解
May 21 #Python
You might like
php设计模式之观察者模式的应用详解
2013/05/21 PHP
PHP模拟asp中response类实现方法
2015/08/08 PHP
Laravel框架源码解析之模型Model原理与用法解析
2020/05/14 PHP
表单切换,用回车键替换Tab健(不支持IE)
2011/07/20 Javascript
Web开发之JavaScript
2012/03/29 Javascript
几种延迟加载JS代码的方法加快网页的访问速度
2013/10/12 Javascript
form.submit()不能提交表单的错误原因及解决方法
2014/10/13 Javascript
基于Jquery实现表单验证
2020/07/20 Javascript
js鼠标单击和双击事件冲突问题的快速解决方法
2016/07/11 Javascript
微信小程序教程系列之设置标题栏和导航栏(7)
2020/06/29 Javascript
AngularJS 限定$scope的范围实例详解
2017/06/23 Javascript
vue新vue-cli3环境配置和模拟json数据的实例
2018/09/19 Javascript
详解vuejs2.0 select 动态绑定下拉框支持多选
2019/04/25 Javascript
js简单遍历获取对象中的属性值的方法示例
2019/06/19 Javascript
vuex实现购物车的增加减少移除
2020/06/28 Javascript
使用FastCGI部署Python的Django应用的教程
2015/07/22 Python
python实现爬虫统计学校BBS男女比例(一)
2015/12/31 Python
Python实现文件复制删除
2016/04/19 Python
pandas数值计算与排序方法
2018/04/12 Python
python集合是否可变总结
2019/06/20 Python
python 控制Asterisk AMI接口外呼电话的例子
2019/08/08 Python
画pytorch模型图,以及参数计算的方法
2019/08/17 Python
django模型动态修改参数,增加 filter 字段的方式
2020/03/16 Python
python 最简单的实现适配器设计模式的示例
2020/06/30 Python
python 6种方法实现单例模式
2020/12/15 Python
python 利用panda 实现列联表(交叉表)
2021/02/06 Python
浅析rem和em和px vh vw和% 移动端长度单位
2016/04/28 HTML / CSS
英国名牌服装购物网站:OD’s Designer
2019/09/02 全球购物
什么是符号链接,什么是硬链接?符号链接与硬链接的区别是什么?
2014/01/19 面试题
环保倡议书怎么写
2014/05/16 职场文书
2014校长四风问题对照检查材料思想汇报
2014/09/16 职场文书
国庆横幅标语
2014/10/08 职场文书
运动会开幕式通讯稿
2015/07/18 职场文书
三好学生竞选稿
2015/11/21 职场文书
react如何快速设置文件路径别名
2021/04/28 Javascript
基于Redis zSet实现滑动窗口对短信进行防刷限流的问题
2022/02/12 Redis