使用Keras中的ImageDataGenerator进行批次读图方式


Posted in Python onJune 17, 2020

ImageDataGenerator位于keras.preprocessing.image模块当中,可用于做数据增强,或者仅仅用于一个批次一个批次的读进图片数据.一开始以为ImageDataGenerator是用来做数据增强的,但我的目的只是想一个batch一个batch的读进图片而已,所以一开始没用它,后来发现它是有这个功能的,而且使用起来很方便.

ImageDataGenerator类包含了如下参数:(keras中文教程)

ImageDataGenerator(featurewise_center=False, #布尔值。将输入数据的均值设置为 0,逐特征进行
 samplewise_center=False, #布尔值。将每个样本的均值设置为 0
 featurewise_std_normalization=False, #布尔值。将输入除以数据标准差,逐特征进行
 samplewise_std_normalization=False, #布尔值。将每个输入除以其标准差
 zca_whitening=False, #是否进行ZAC白化
 zca_epsilon=1e-06, #ZCA 白化的 epsilon 值
 rotation_range=0, #整数。随机旋转的度数范围
 width_shift_range=0.0, 
 height_shift_range=0.0, 
 brightness_range=None, 
 shear_range=0.0, #浮点数。剪切强度(以弧度逆时针方向剪切角度)
 zoom_range=0.0, #浮点数 或 [lower, upper]。随机缩放范围。如果是浮点数,[lower, upper] = [1-zoom_range, 1+zoom_range]。
 channel_shift_range=0.0, #浮点数。随机通道转换的范围
 fill_mode='nearest', #输入边界以外的点的模式填充
 cval=0.0, #当 fill_mode = "constant",边界点的填充值
 horizontal_flip=False, #随机水平翻转
 vertical_flip=False, #随机垂直翻
 rescale=None, #默认为 None。如果是 None 或 0,不进行缩放,否则将数据乘以所提供的值(在应用任何其他转换之前)
 preprocessing_function=None, #应用于每个输入的函数。这个函数会在任何其他改变之前运行。这个函数需要一个参数:一张图像(秩为 3 的 Numpy 张量),并且应该输出一个同尺寸的 Numpy 张量。
 data_format=None, #图像数据格式,{"channels_first", "channels_last"} 之一
 validation_split=0.0, 
 dtype=None) #生成数组使用的数据类型

虽然包含了很多参数,但实际应用时用到的并不会很多,假设我的目的只是一个batch一个batch的读进图片,那么,我在实例化对象的时候什么参数都不需要设置,然后再调用ImageDataGenerator类的成员函数flow_from_directory()就可以从目录中读图.

我放图片的目录如下图,在train文件夹中包含了两个子文件夹,然后在两个子文件夹里面分别包含了猫和狗的图片.

使用Keras中的ImageDataGenerator进行批次读图方式

先看看flow_from_directory()的参数.需要注意的是,第一个参数directory不是图片的路径,而是子文件夹的路径,还有就是第四个参数classes,它填写是子文件夹的名称,比如此处的为['cat', 'dog'],然后该函数就会自动把两个子文件夹看成是2个类别,cat文件夹里面所有图片的标签都为0,dog文件夹里面所有图片的标签都为1.而且可以通过设置第5个参数class_mode把标签设置为ont-hot形式(默认的categorical就是one-hot 形式).可以看出,这个函数有多方便,直接把标签和原图对应起来了.

def flow_from_directory(self,
 directory, #子文件夹所在的目录
 target_size=(256, 256), #输出的图片的尺寸
 color_mode='rgb', #单通道还是三通道
 classes=None, #类别,有多少个子文件夹就有多少个类别,填写的是子文件夹的名称
 class_mode='categorical', #通常默认,表示标签采用one-hot形式,
 batch_size=32, 
 shuffle=True, #是否随机打乱顺序
 seed=None,
 save_to_dir=None, #把图片保存,输入的是路径
 save_prefix='', #图像前缀名,
 save_format='png', #图像后缀名
 follow_links=False,
 subset=None,
 interpolation='nearest')

接下来看一个例子,部分代码.

from tensorflow.keras.preprocessing.image import ImageDataGenerator #我是直接装tensorflow,然后使用里面的keras的,
 
#实例化对象datagen
datagen=ImageDataGenerator() 
 
#读训练集图片
train_generator = datagen.flow_from_directory(
 '/home/hky/folder/kaggle/DataGenerator/train',
 classes=['cat','dog'],
 target_size=(227, 227),
 class_mode='categorical',
 batch_size=batch_size)
 
#读验证集图片
validation_generator = datagen.flow_from_directory(
 '/home/hky/folder/kaggle/DataGenerator/validation',
 classes=['cat','dog'],
 target_size=(227, 227),
 class_mode='categorical',
 batch_size=batch_size)
 
'''开始训练'''
#steps_per_epoch是为了判断是否完成了一个epoch,这里我训练集有20000张图片,然后batch_size=16,所以是10000/16
#同样,validation_steps=2496/16是因为我的验证集有2496张图片
model.fit_generator(generator=train_generator,steps_per_epoch=20000/16,epochs=10,validation_data=validation_generator,validation_steps=2496/16)

下面是完整代码,实现了一个AlexNet模型.

import tensorflow as tf
from tensorflow.keras.models import Sequential
from tensorflow.keras.preprocessing import image
from tensorflow.keras.callbacks import EarlyStopping
from tensorflow.keras import optimizers
from tensorflow.keras.preprocessing.image import ImageDataGenerator
import numpy as np
import cv2
import yaml
from tensorflow.keras.models import model_from_yaml
 
batch_size = 16
 
''' 搭建模型'''
l=tf.keras.layers
model=Sequential()
 
#第一层卷积和池化
model.add(l.Conv2D(filters=96,kernel_size=(11,11),strides=(4,4),padding='valid',input_shape=(227,227,3),activation='relu'))
model.add(l.BatchNormalization())
model.add(l.MaxPooling2D(pool_size=(3,3),strides=(2,2),padding='valid'))
 
#第二层卷积和池化
model.add(l.Conv2D(256,(5,5),(1,1),padding='same',activation='relu'))
model.add(l.BatchNormalization())
model.add(l.MaxPooling2D((3,3),(2,2),padding='valid'))
 
#第三层卷积
model.add(l.Conv2D(384,(3,3),(1,1),'same',activation='relu'))
 
#第四层卷积
model.add(l.Conv2D(384,(3,3),(1,1),'same',activation='relu'))
 
#第五层卷积和池化
model.add(l.Conv2D(256,(3,3),(1,1),'same',activation='relu'))
model.add(l.MaxPooling2D((3,3),(2,2),'valid'))
 
#全连接层
model.add(l.Flatten())
model.add(l.Dense(4096,activation='relu'))
model.add(l.Dropout(0.5))
 
model.add(l.Dense(4096,activation='relu'))
model.add(l.Dropout(0.5))
 
model.add(l.Dense(1000,activation='relu'))
model.add(l.Dropout(0.5))
 
#输出层
model.add(l.Dense(2,activation='softmax'))
model.compile(optimizer='sgd',loss='categorical_crossentropy',metrics=['accuracy'])
 
'''导入图片数据'''
#利用ImageDataGenerator生成一个batch一个batch的数据
 
datagen=ImageDataGenerator(samplewise_center=True,rescale=1.0/255) #samplewise_center:使输入数据的每个样本均值为0,rescale:归一化
train_generator = datagen.flow_from_directory(
 '/home/hky/folder/kaggle/DataGenerator/train',
 classes=['cat','dog'],
 target_size=(227, 227),
 class_mode='categorical',
 batch_size=batch_size)
 
validation_generator = datagen.flow_from_directory(
 '/home/hky/folder/kaggle/DataGenerator/validation',
 classes=['cat','dog'],
 target_size=(227, 227),
 class_mode='categorical',
 batch_size=batch_size)
 
'''开始训练'''
model.fit_generator(generator=train_generator,steps_per_epoch=20000/16,epochs=10,validation_data=validation_generator,validation_steps=2496/16)
 
yaml_string = model.to_yaml() # 保存模型结构到yaml文件
open('./model_architecture.yaml', 'w').write(yaml_string)
model.save_weights('./AlexNet_model.h5') #保存模型参数
 
'''导入模型'''
#model = model_from_yaml(open('./model_architecture.yaml').read())
#model.load_weights('./AlexNet_model.h5')
 
'''随便输入一张图片测试一下'''
imgs=[]
img=cv2.imread('/home/hky/folder/kaggle/test/120.jpg')
img=cv2.resize(img,(227,227))
imgs.append(img)
a=np.array(imgs)
 
result=model.predict(a)
idx=np.argmax(result)
 
if idx==0:
 print('the image is cat\n')
else:
 print('the image is dog\n')
 
cv2.imshow("image",img)
cv2.waitKey(0)

以上这篇使用Keras中的ImageDataGenerator进行批次读图方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python中asyncore异步模块的用法及实现httpclient的实例
Jun 28 Python
Python中的连接符(+、+=)示例详解
Jan 13 Python
详解Python实现多进程异步事件驱动引擎
Aug 25 Python
学习python中matplotlib绘图设置坐标轴刻度、文本
Feb 07 Python
python获取当前目录路径和上级路径的实例
Apr 26 Python
python Web开发你要理解的WSGI & uwsgi详解
Aug 01 Python
tensorflow实现加载mnist数据集
Sep 08 Python
Python读取stdin方法实例
May 24 Python
Pycharm最常用的快捷键及使用技巧
Mar 05 Python
Python字符串函数strip()原理及用法详解
Jul 23 Python
python如何调用php文件中的函数详解
Dec 29 Python
Python就将所有的英文单词首字母变成大写
Feb 12 Python
python里的单引号和双引号的有什么作用
Jun 17 #Python
没编程基础可以学python吗
Jun 17 #Python
keras实现图像预处理并生成一个generator的案例
Jun 17 #Python
pytorch快速搭建神经网络_Sequential操作
Jun 17 #Python
浅谈Keras的Sequential与PyTorch的Sequential的区别
Jun 17 #Python
Keras之fit_generator与train_on_batch用法
Jun 17 #Python
基于Keras的格式化输出Loss实现方式
Jun 17 #Python
You might like
PHP MVC模式在网站架构中的实现分析
2010/03/04 PHP
如何通过Linux命令行使用和运行PHP脚本
2015/07/29 PHP
PHP中array_keys和array_unique函数源码的分析
2016/02/26 PHP
jQuery EasyUI API 中文文档 - NumberBox数字框
2011/10/13 Javascript
JavaScript实现统计文本框Textarea字数增强用户体验
2012/12/21 Javascript
开发插件的两个方法jquery.fn.extend与jquery.extend
2013/11/21 Javascript
js验证输入是否为手机号码或电话号码示例
2013/12/30 Javascript
验证码在IE中不刷新而谷歌等浏览器正常的解决方案
2014/03/18 Javascript
Node.js中创建和管理外部进程详解
2014/08/16 Javascript
JS实现的表格操作类详解(添加,删除,排序,上移,下移)
2015/12/22 Javascript
探究Javascript模板引擎mustache.js使用方法
2016/01/26 Javascript
JS判断元素是否在数组内的实现代码
2016/03/30 Javascript
js 发布订阅模式的实例讲解
2017/09/10 Javascript
微信小程序实现动态改变view标签宽度和高度的方法【附demo源码下载】
2017/12/05 Javascript
使用express搭建一个简单的查询服务器的方法
2018/02/09 Javascript
详解React-Router中Url参数改变页面不刷新的解决办法
2018/05/08 Javascript
vue.js添加一些触摸事件以及安装fastclick的实例
2018/08/28 Javascript
Vue-Router的使用方法
2018/09/05 Javascript
vuejs移动端实现div拖拽移动
2019/07/25 Javascript
vue cli4下环境变量和模式示例详解
2020/04/09 Javascript
[42:25]EG vs Spirit Supermajor 败者组 BO3 第二场 6.4
2018/06/05 DOTA
在Python的Django框架中调用方法和处理无效变量
2015/07/15 Python
详解python使用递归、尾递归、循环三种方式实现斐波那契数列
2018/01/16 Python
django+xadmin+djcelery实现后台管理定时任务
2018/08/14 Python
将Django项目部署到CentOs服务器中
2018/10/18 Python
python logging模块的使用总结
2019/07/09 Python
python 进程间数据共享multiProcess.Manger实现解析
2019/09/23 Python
jupyter notebook 参数传递给shell命令行实例
2020/04/10 Python
pandas map(),apply(),applymap()区别解析
2021/02/24 Python
简单掌握CSS3中resize属性的用法
2016/04/01 HTML / CSS
JSP和Servlet有哪些相同点和不同点,他们之间的联系是什么?
2015/10/22 面试题
告诉你怎样写创业计划书
2014/01/27 职场文书
九年级物理教学反思
2014/01/29 职场文书
舞蹈专业大学生职业规划范文
2014/03/12 职场文书
Python 数据可视化之Seaborn详解
2021/11/02 Python
德生BCL3000抢先使用感受和评价
2022/04/07 无线电