用python删除文件夹中的重复图片(图片去重)


Posted in Python onMay 12, 2021

第一部分:判断两张图片是否相同

要查找重复的图片,必然绕不开判断两张图片是否相同。判断两张图片简单呀!图片可以看成数组,比较两个数组是否相等不就行了。但是这样做太过简单粗暴,因为两个数组的每个元素都要一一比较,效率很低。为了尽量避免两个庞大的数组比较:

  • 先进行两张图片的大小(byte)比较,若大小不相同,则两张图片不相同;
  • 在两张图片的大小相同的前提下,进行两张图片的尺寸(长和宽)比较,若尺寸不相同,则两张不相同;
  • 在两张图片的尺寸相同的前提下,进行两张图片的内容(即数组元素)比较,若内容不相同,则图片不相同;

这样,当图片大小或图片尺寸不相同的时候,便认为两张图片不同,可以省去比较数组元素的部分,效率up~

import shutil
import numpy as np
from PIL import Image
import os


def 比较图片大小(dir_image1, dir_image2):
    with open(dir_image1, "rb") as f1:
        size1 = len(f1.read())
    with open(dir_image2, "rb") as f2:
        size2 = len(f2.read())
    if(size1 == size2):
        result = "大小相同"
    else:
        result = "大小不同"
    return result


def 比较图片尺寸(dir_image1, dir_image2):
    image1 = Image.open(dir_image1)
    image2 = Image.open(dir_image2)
    if(image1.size == image2.size):
        result = "尺寸相同"
    else:
        result = "尺寸不同"
    return result


def 比较图片内容(dir_image1, dir_image2):
    image1 = np.array(Image.open(dir_image1))
    image2 = np.array(Image.open(dir_image2))
    if(np.array_equal(image1, image2)):
        result = "内容相同"
    else:
        result = "内容不同"
    return result


def 比较两张图片是否相同(dir_image1, dir_image2):
    # 比较两张图片是否相同
    # 第一步:比较大小是否相同
    # 第二步:比较长和宽是否相同
    # 第三步:比较每个像素是否相同
    # 如果前一步不相同,则两张图片必不相同
    result = "两张图不同"
    大小 = 比较图片大小(dir_image1, dir_image2)
    if(大小 == "大小相同"):
        尺寸 = 比较图片尺寸(dir_image1, dir_image2)
        if(尺寸 == "尺寸相同"):
            内容 = 比较图片内容(dir_image1, dir_image2)
            if(内容 == "内容相同"):
                result = "两张图相同"
    return result

第二部分:判断文件夹内是否有重复图片

若要判断文件夹内是否有和图片A相同的图片,则需要遍历文件夹内所有图片,挨个判断两个图片是否相同。若文件夹有1000张图片,那么第1张图片需要与剩下的999张图片作比较,第2张图片需要与剩下的998张图片作比较,第3张需要与剩下的997张图片作比较,以此类推。在此程序中的做法是,先对所有图片按图片大小(byte)排序,然后再执行遍历比较。这样做的结果是:重复图片很大概率会连着出现(因为重复图片大小相同)

if __name__ == '__main__':

    load_path = 'E:\\测试图片集(未去重)'  # 要去重的文件夹
    save_path = 'E:\\测试图片集(重复照片)'  # 空文件夹,用于存储检测到的重复的照片
    os.makedirs(save_path, exist_ok=True)

    # 获取图片列表 file_map,字典{文件路径filename : 文件大小image_size}
    file_map = {}
    image_size = 0
    # 遍历filePath下的文件、文件夹(包括子目录)
    for parent, dirnames, filenames in os.walk(load_path):
        # for dirname in dirnames:
        # print('parent is %s, dirname is %s' % (parent, dirname))
        for filename in filenames:
            # print('parent is %s, filename is %s' % (parent, filename))
            # print('the full name of the file is %s' % os.path.join(parent, filename))
            image_size = os.path.getsize(os.path.join(parent, filename))
            file_map.setdefault(os.path.join(parent, filename), image_size)

    # 获取的图片列表按 文件大小image_size 排序
    file_map = sorted(file_map.items(), key=lambda d: d[1], reverse=False)
    file_list = []
    for filename, image_size in file_map:
        file_list.append(filename)

    # 取出重复的图片
    file_repeat = []
    for currIndex, filename in enumerate(file_list):
        dir_image1 = file_list[currIndex]
        dir_image2 = file_list[currIndex + 1]
        result = 比较两张图片是否相同(dir_image1, dir_image2)
        if(result == "两张图相同"):
            file_repeat.append(file_list[currIndex + 1])
            print("\n相同的图片:", file_list[currIndex], file_list[currIndex + 1])
        else:
            print('\n不同的图片:', file_list[currIndex], file_list[currIndex + 1])
        currIndex += 1
        if currIndex >= len(file_list)-1:
            break

    # 将重复的图片移动到新的文件夹,实现对原文件夹降重
    for image in file_repeat:
        shutil.move(image, save_path)
        print("正在移除重复照片:", image)

第三部分:程序运行结果

若文件夹下有10张图片A、5张图片B、1张图片C,程序运行结束后,该文件夹下剩余1张图片A、1张图片B、1张图片C;其他的图片移动到 save_path 指定的文件夹下。

第四部分:注意

程序代码可以直接复制使用,需要修改 load_path 和 save_path 参数;

保证 load_path 文件夹都为图片格式(.jpg .png .jpeg)的文件类型,不可以有其他格式的文件(例如.mp4);请先用资源管理器处理文件夹,大佬直接修改代码读取文件夹下指定类型的文件;

以上就是用python删除文件夹中的重复图片的详细内容,更多关于python 删除重复图片的资料请关注三水点靠木其它相关文章!

Python 相关文章推荐
python使用点操作符访问字典(dict)数据的方法
Mar 16 Python
分享一下如何编写高效且优雅的 Python 代码
Sep 07 Python
python构建基础的爬虫教学
Dec 23 Python
Python操作MySQL数据库的两种方式实例分析【pymysql和pandas】
Mar 18 Python
django settings.py 配置文件及介绍
Jul 15 Python
浅谈Python中函数的定义及其调用方法
Jul 19 Python
给大家整理了19个pythonic的编程习惯(小结)
Sep 25 Python
keras输出预测值和真实值方式
Jun 27 Python
基于python实现坦克大战游戏
Oct 27 Python
pytest进阶教程之fixture函数详解
Mar 29 Python
Pytorch 中net.train 和 net.eval的使用说明
May 22 Python
Python实现简单的俄罗斯方块游戏
Sep 25 Python
Pyhton模块和包相关知识总结
python 下划线的多种应用场景总结
May 12 #Python
超级详细实用的pycharm常用快捷键
pycharm 如何查看某一函数源码的快捷键
教你使用Pandas直接核算Excel中快递费用
用python开发一款操作MySQL的小工具
May 12 #Python
浅谈Python类的单继承相关知识
May 12 #Python
You might like
蝙蝠侠:侠影之谜
2020/03/04 欧美动漫
浅谈php函数serialize()与unserialize()的使用方法
2014/08/19 PHP
PHP解决中文乱码
2017/04/28 PHP
购物车实现的几种方式优缺点对比
2018/05/02 PHP
yii2 上传图片的示例代码
2018/11/02 PHP
extJs 下拉框联动实现代码
2010/04/09 Javascript
使用JavaScript获取地址栏参数的方法
2014/12/19 Javascript
jQuery中detach()方法用法实例
2014/12/25 Javascript
angular.element方法汇总
2015/01/07 Javascript
有效提高JavaScript执行效率的几点知识
2015/01/31 Javascript
jQuery检查元素存在性(推荐)
2016/09/17 Javascript
完美实现js焦点轮播效果(一)
2017/03/07 Javascript
vue下跨域设置的相关介绍
2017/08/26 Javascript
nodejs socket服务端和客户端简单通信功能
2017/09/14 NodeJs
django使用channels2.x实现实时通讯
2018/11/28 Javascript
详解Vue 如何监听Array的变化
2019/06/06 Javascript
JS实现导航栏楼层特效
2020/01/01 Javascript
[03:11]完美世界DOTA2联赛PWL DAY8集锦
2020/11/09 DOTA
python正则表达式爬取猫眼电影top100
2018/02/24 Python
Python中实现变量赋值传递时的引用和拷贝方法
2018/04/29 Python
django认证系统实现自定义权限管理的方法
2018/07/16 Python
Python中实现单例模式的n种方式和原理
2018/11/14 Python
用xpath获取指定标签下的所有text的实例
2019/01/02 Python
为什么相对PHP黑python的更少
2020/06/21 Python
HTML5拍照和摄像机功能实战详解
2019/01/24 HTML / CSS
印尼在线购买隐形眼镜网站:Lensza.co.id
2019/04/27 全球购物
员工安全生产承诺书
2014/05/22 职场文书
实验室标语
2014/06/21 职场文书
2014乡镇领导班子四风对照检查材料思想汇报
2014/10/05 职场文书
英文产品推荐信
2015/03/27 职场文书
2015年导购员工作总结
2015/04/25 职场文书
土木工程毕业答辩开场白
2015/05/29 职场文书
2015大学党建带团建工作总结
2015/07/23 职场文书
同学会感言
2015/07/30 职场文书
在校大学生才艺比赛策划书怎么写?
2019/08/26 职场文书
聊聊Lombok中的@Builder注解使用教程
2021/11/17 Java/Android