[自行打包] 个人收集精品杂图3 [2500p+9.1g][百度盘]

西域烤鱼干

tinbg 发表于 2024-7-12 19:13
2 w7 \0 j! x3 [大哥，你这个头像很爱啊，像ai又想vam，有没有出处

0 H. Z: G: n/ J0 T9 C+ z& |抖音上有很多

uuuuyyyyy

为啥我一直密码错误ヽ(`Д´)ﾉ

不如离弃

好看

cndeng

感谢分享，大佬辛苦了。

lattess

有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈希值函数加个异常解决了，大家可以留着以后备用lol
import os
import imagehash
9 W, ^( V& ]! g7 b8 i) O. Kfrom PIL import Image

def compute_image_hash(image_path):
9 F, Y# v8 e  D& Q# |    # image = Image.open(image_path)
    # return imagehash.average_hash(image)
* W0 I2 h$ {6 ]9 Y    try:
        with Image.open(image_path) as image:
4 e# ?8 A5 U+ c2 g6 X' B2 @$ `            return imagehash.average_hash(image)
$ X% x% v; q6 ]$ J  H& E) [    except (OSError, IOError) as e:
        print(f"处理图像 {image_path} 时出错: {e}")
5 l' |4 }+ P$ _% P        return None
5 {8 R& E! Z- O+ w3 D6 l
def remove_duplicates(image_folder):
    hash_dict = {}
    duplicates = []

$ q2 g( J. `6 H% s/ S" I    for filename in os.listdir(image_folder):
$ c9 m$ Q" U  V% B9 N- P& K        if filename.endswith(('.png', '.jpg', '.jpeg', '.bmp', '.gif')):
# S! G1 W, P* C% w3 s3 _" y* {            image_path = image_folder + "\\" + filename
+ g& b2 `1 V8 ]4 _4 R. \2 n            image_hash = compute_image_hash(image_path)
7 A0 Q  |/ C4 H$ e
. \5 p" _# L+ V/ q            if image_hash in hash_dict:
                duplicates.append(image_path)
  l5 q, d* r" R! F2 b            else:
( B2 w) Z3 D; f                hash_dict[image_hash] = image_path
% ^$ S$ u9 L. N        else:
' w  R  ^* s, h) W7 a6 s+ b2 }% b            pass

, D) r3 T6 B% g% A& f, y, o    for duplicate in duplicates:
" A4 n$ B* Q  h* [9 ^        os.remove(duplicate)
/ G- [* X1 s6 T+ P. T        print(f"Removed duplicate image: {duplicate}")
1 x7 h' j8 L) d
4 G$ k: _5 X$ z8 `% Z8 v    print("Duplicate removal complete.")

8 k# @6 _4 E1 H! |2 Kimage_folder = 'D:/data/baidu/去重训练文件夹' #换成自己的文件夹
2 o' A6 B4 Q2 O' {% K& K$ d0 Lremove_duplicates(image_folder)

lattess

lattess 发表于 2024-7-23 16:25
有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈 ...

+ P/ b- V0 K* A有问题的图片名为1558571_114.png

一言九鼎

tinbg 发表于 2024-7-12 19:13
大哥，你这个头像很爱啊，像ai又想vam，有没有出处

一眼ai
# C5 F; i; \4 A& o: p! ^