[自行打包] 个人收集精品杂图3 [2500p+9.1g][百度盘]

西域烤鱼干

tinbg 发表于 2024-7-12 19:13
- \" I; g) L' [0 d+ ]- _/ t" d3 \大哥，你这个头像很爱啊，像ai又想vam，有没有出处

1 ~; Z9 @5 \! P# i  k& m抖音上有很多

uuuuyyyyy

为啥我一直密码错误ヽ(`Д´)ﾉ

不如离弃

好看

cndeng

感谢分享，大佬辛苦了。

lattess

有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈希值函数加个异常解决了，大家可以留着以后备用lol
# [, c% G$ n0 D, ^: Aimport os
import imagehash
from PIL import Image
, d. }- E  F- y. M+ N9 ?. Q
def compute_image_hash(image_path):
    # image = Image.open(image_path)
    # return imagehash.average_hash(image)
    try:
        with Image.open(image_path) as image:
5 `1 F* q* j6 x7 u) e            return imagehash.average_hash(image)
$ h9 B& Q* k% B* `6 o/ Q. S3 |    except (OSError, IOError) as e:
        print(f"处理图像 {image_path} 时出错: {e}")
        return None

7 k5 u; G8 _6 S6 a/ V4 F1 T1 w5 Qdef remove_duplicates(image_folder):
0 r7 P0 W; r3 H1 D    hash_dict = {}
: o4 u6 Z! e5 o    duplicates = []
- ]1 z& t$ S9 E9 F2 @, z) A" A
6 |6 w6 o5 E$ k% G1 @9 ^( s- Z* E    for filename in os.listdir(image_folder):
        if filename.endswith(('.png', '.jpg', '.jpeg', '.bmp', '.gif')):
7 M, J4 X+ @. l" Q6 N9 c* U0 f9 p            image_path = image_folder + "\\" + filename
            image_hash = compute_image_hash(image_path)
6 ]) P& ~: L8 S, o3 o& @
* D; f+ J/ t3 A  }, D- i            if image_hash in hash_dict:
                duplicates.append(image_path)
            else:
; |! F: l3 o8 u) A  }) A1 E; U                hash_dict[image_hash] = image_path
8 u* t# f2 K3 c+ n1 N* o4 X        else:
6 O# W6 t2 z3 H' A4 k  L, ]& h            pass
" h% q( z8 J- r4 U! u* q- i% Y" h
    for duplicate in duplicates:
        os.remove(duplicate)
& ?0 W5 T# ~2 g( ]- f; F- l% A! ?        print(f"Removed duplicate image: {duplicate}")

7 k4 m" ?. n3 K% P    print("Duplicate removal complete.")

1 S6 {4 `% h& t* n* u: J* ximage_folder = 'D:/data/baidu/去重训练文件夹' #换成自己的文件夹
remove_duplicates(image_folder)

lattess

lattess 发表于 2024-7-23 16:25
. {: e) D' h$ ]$ G, B有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈 ...

0 ]1 w! O9 I; F% m* L有问题的图片名为1558571_114.png

一言九鼎

tinbg 发表于 2024-7-12 19:13
+ p3 z  o/ f$ O' h0 E/ X大哥，你这个头像很爱啊，像ai又想vam，有没有出处

) t+ Z# s2 z6 u; v1 ^一眼ai