时间:2021-05-22
本文实例讲述了Python实现的删除重复文件或图片功能。分享给大家供大家参考,具体如下:
通过python爬虫或其他方式保存的图片文件通常包含一些重复的图片或文件,
通过下面的python代码可以将重复的文件删除以达到去重的目的。其中,文件目录结构如下图:
# /usr/bin/env python# -*- coding:utf-8 -*-# 运行的代码文件要放到删除重复的文件或图片所包含的目录中import osimport hashlibdef filecount(): filecount = int(os.popen('dir /B |find /V /C ""').read()) return (filecount)def md5sum(filename): f = open(filename, 'rb') md5 = hashlib.md5() while True: fb = f.read(8096) if not fb: break md5.update(fb) f.close() return (md5.hexdigest())def delfile(): all_md5 = {} filedir = os.walk(os.getcwd()) for i in filedir: for tlie in i[2]: if md5sum(tlie) in all_md5.values(): os.remove(tlie) else: all_md5[tlie] = md5sum(tlie)if __name__ == '__main__': oldf = filecount() print('去重前有', oldf, '个文件\n\n\n请稍等正在删除重复文件...') delfile() print('\n\n去重后剩', filecount(), '个文件') print('\n\n一共删除了', oldf - filecount(), '个文件\n\n')更多关于Python相关内容感兴趣的读者可查看本站专题:《Python文件与目录操作技巧汇总》、《Python文本文件操作技巧汇总》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》及《Python入门与进阶经典教程》
希望本文所述对大家Python程序设计有所帮助。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
本文实例讲述了Python实现的txt文件去重功能。分享给大家供大家参考,具体如下:#-*-coding:utf-8-*-#!python2importshut
C语言去除相邻重复字符函数的实现方法字符去重函数功能:去重字符串相邻重复的字符,不相邻的不用去重参数:arg1--输入字符串arg2--字符串开始位置arg3-
python实现删除文件或文件夹最近自己学习Python的知识,自己学习抓取网页的内容知识等,在学习的时候Python删除文件夹或者文件知识的时候,觉得本篇内容
本文实例讲述了Python实现列表删除重复元素的三种常用方法。分享给大家供大家参考,具体如下:给定一个列表,要求删除列表中重复元素。listA=['python
JS实现数组去重(重复的元素只保留一个)1、遍历数组法1.遍历数组法它是最简单的数组去重方法(indexOf方法)实现思路:新建一个数组,遍历去要重的数组,当值