İnternetdə yayılan bir foto ABŞ siyasətini silkələyə bilərdi, amma bu dəfə AI izini gizlədə bilmədi. Google-un SynthID sistemi səs-küylü deepfake görüntünü üzə çıxararaq dezinformasiyaya qarşı nadir, amma vacib qələbə qazandı.
Söhbət Kentucky senatoru Mitch McConnell-in xəstəxana yatağında, bədəninə tibbi borular qoşulmuş vəziyyətdə göstərildiyi iddia olunan görüntüdən gedir.
Viral foto necə şübhə doğurdu?
Bu həftənin əvvəlində həmin şəkil Reddit və X platformalarında sürətlə yayılmağa başladı. Görüntü McConnell-in ağır vəziyyətdə olduğunu göstərirmiş kimi təqdim edilirdi və qısa zamanda minlərlə istifadəçinin diqqətini çəkdi.
Belə tip fotolar xüsusilə təhlükəlidir, çünki real xəbərlə saxta vizual arasındakı sərhədi adi istifadəçi üçün çox incə göstərir. Məhz buna görə fakt-yoxlama alətləri və rəqəmsal watermark texnologiyaları daha böyük əhəmiyyət qazanır.
Snopes yoxladı, SynthID izi tapıldı
Çərşənbə günü tanınmış fakt-yoxlama saytı Snopes fotonun saxta olduğunu açıqladı. Yoxlama zamanı görüntünün Google tərəfindən AI ilə yaradılmış şəkilləri tanımaq üçün hazırlanan SynthID watermark işarəsini daşıdığı müəyyən edildi.
Snopes-un yoxlamasına görə, viral foto Google SynthID watermark-ı daşıyırdı və bu, onun AI tərəfindən yaradıldığını göstərirdi.
Bu fakt SynthID üçün diqqətçəkən hadisədir, çünki AI watermark sistemlərinin real dünyada nə dərəcədə işlək olduğu tez-tez müzakirə olunur. Bu dəfə isə texnologiya yüksək profilli bir saxta görüntünün ifşasında konkret rol oynadı.
Deepfake dövründə görünməyən imza niyə vacibdir?
SynthID-in əsas ideyası AI ilə yaradılan məzmunun içinə insan gözünə görünməyən rəqəmsal iz əlavə etməkdir. Beləliklə, foto adi baxışda real görünsə də, xüsusi yoxlama zamanı onun mənşəyi müəyyən edilə bilir.
Problem ondadır ki, sosial şəbəkələrdə dezinformasiya fakt-yoxlama prosesindən daha sürətli yayılır. Amma bu hadisə göstərdi ki, düzgün texnologiya və etibarlı yoxlama prosesi birləşəndə saxta kontentin qarşısını almaq mümkündür.
Google üçün kiçik, internet üçün böyük siqnal
Bu hadisə SynthID-in bütün deepfake problemini həll etdiyini göstərmir. Amma o, AI ilə yaradılan vizualların aşkarlanmasında watermark yanaşmasının real fayda verə biləcəyini sübut edir.
Gələcəkdə belə sistemlərin daha geniş platformalarda tətbiqi xəbər ekosistemi üçün həlledici ola bilər. Xüsusən də siyasət, səhiyyə və ictimai təhlükəsizlik kimi həssas mövzularda saxta görüntülərin yaratdığı risklər getdikcə artır.
Nəticə: McConnell fotosu göstərdi ki, deepfake-lər sürətlə yayılır, amma SynthID kimi alətlər onların izini tapmaq üçün internetin ən vacib müdafiə xətlərindən birinə çevrilə bilər.