Google Earth illərdir dünyanın “etibarlı xəritəsi” kimi qəbul olunur. Amma Google-un AI ilə peyk görüntülərini dəyişməyə imkan verən yeni funksiyası cəmi bir gün yaşadı.
Səbəb sadədir: mətn yazırsan, real dünya görüntüsünə süni obyektlər əlavə olunur və nəticə təhlükəli dərəcədə inandırıcı görünə bilir.
Bir prompt ilə “real dünya” dəyişirdi
Google cümə axşamı Google Earth daxilində Nano Banana 2 adlı AI funksiyasını istifadəyə vermişdi. Bu alət istifadəçilərə peyk görüntülərini sadə mətn əmrləri ilə redaktə etməyə imkan verirdi.
İdeya ilk baxışda maraqlı görünə bilərdi: şəhər planlaşdırması, vizual ssenarilər və geodata mütəxəssisləri üçün faydalı ola bilərdi. Amma problem ondadır ki, eyni texnologiya real hadisə kimi görünən saxta görüntülər yaratmaq üçün də istifadə oluna bilərdi.
Google yeni funksiyanı istifadəyə verdikdən cəmi bir gün sonra geri çəkdi.
Saxta qaçqınlar, bomba krateri və ciddi xəbərdarlıq
Digital Digging-dən Henk van Ess funksiyanı sınaqdan keçirərək riskləri açıq göstərdi. O, Meksika sərhədi yaxınlığında qaçqınlar və Qəzzada xəstəxana yanında bomba krateri kimi görüntülər yarada bildiyini bildirib.
Google əvvəlcə bu şəkillərin AI tərəfindən yaradıldığını göstərən rəqəmsal watermark daşıdığını və zərərli mövzuların bloklandığını açıqlamışdı. Lakin van Ess-in sözlərinə görə, test zamanı sistem “heç nəyi rədd etməyib, yumşaltmayıb və başqa prompt təklif etməyib”.
Watermark kifayət etmədi
Google-un əsas arqumentlərindən biri yaradılan görüntülərin watermark ilə işarələnməsi idi. Şirkət həmçinin bu AI görüntülərinin Google Earth-ün əsas xəritə təcrübəsində digər istifadəçilərə görünmədiyini vurğulayıb.
Amma problem ekran görüntüləri və videolarla başlayır. van Ess Google Earth-də yaradılmış videonun Hive adlı AI aşkarlama alətini aldada bildiyini deyib ki, bu da saxta medianın watermark-a baxmayaraq yayıla biləcəyini göstərir.
Google geri addım atdı
Google yeni açıqlamasında insanların Google Earth-ə dünyanın etibarlı görüntüsü kimi xüsusi güvəndiyini etiraf edib. Şirkət bildirib ki, bəzi peşəkarlar funksiyadan faydalı məqsədlər üçün istifadə etsə də, siyasətləri poza biləcək görüntülərin paylaşılması narahatlıq yaradıb.
Bu səbəbdən funksiya müvəqqəti olaraq geri çəkilir. Google indi daha güclü təhlükəsizlik baryerləri hazırlamağı planlaşdırır.
Nəticə: AI xəritələri daha yaradıcı edə bilər, amma real dünya görüntülərini dəyişmək imkanı ciddi nəzarət olmadan dezinformasiya üçün çox təhlükəli alətə çevrilir.