Google-un AI axtarış funksiyası bu dəfə çox qəribə bir səhvə imza atıb: guya Flock müşahidə kameralarının içində qızıl və kilolarla mis var.
Əslində bu, internetdə gizlilik tərəfdarları arasında yayılan bir zarafat idi, amma AI Overview bunu real fakt kimi təqdim edib və məsələ sürətlə böyüyüb.
Zarafat AI üçün “fakt”a çevriləndə
Flock kameraları ABŞ-da məhəllələrdə və yollarda istifadə olunan avtomobil nömrəsi tanıma kameralarıdır. Gizlilik müdafiəçiləri bu sistemləri uzun müddətdir tənqid edir, çünki onlar insanların hərəkət trayektoriyasını izləyə bilir.
Onlayn icmalarda isə bu kameraların guya içində qızıl, mis və sink kimi dəyərli materiallar olduğu barədə istehzalı paylaşımlar yayılıb. Məqsəd əsasən müşahidə texnologiyalarına etirazı satirik formada göstərmək idi.
Lakin Futurism-in araşdırmasına görə, Google AI Overview bir müddət bu zarafatı ciddi qəbul edib. Nəticədə istifadəçilərə Flock kameralarında real olmayan miqdarda qiymətli metal olduğu göstərilib.
Google-un AI cavablarında bir Flock kamerasında 5 qrama qədər qızıl və 23 funta qədər mis ola biləcəyi iddia edilib, halbuki kameranın özü təxminən 3 funt ağırlığındadır.
Google səhvi düzəltdi, amma daha qəribə detal var
Hazırda Google bu sorğulara daha ehtiyatlı cavab verir. Axtarış nəticələrində artıq viral şayiələrin və AI halüsinasiyalarının yalan olduğu, kameranın ümumi çəkisinin təxminən 3 funt olduğu bildirilir.
İşin ironik tərəfi odur ki, Google-un yeni cavabında mənbə kimi Futurism-in elə həmin səhv haqqında yazdığı reportaj göstərilir. Yəni AI əvvəl səhvi edib, sonra həmin səhvi ifşa edən məqaləyə əsaslanaraq özünü düzəldib.
Gizmodo məsələ ilə bağlı Google-dan şərh istəsə də, dərc zamanı cavab almadığını bildirib.
Bu, Google AI üçün ilk “halüsinasya” deyil
Google-un AI Overviews funksiyası əvvəllər də açıq-aşkar absurd məlumatları ciddi cavab kimi təqdim etmişdi. Ən məşhur nümunələrdən biri pizzanın üzərində pendirin sürüşməməsi üçün yapışqan əlavə etməyi məsləhət görməsi idi.
Həmin səhv də Reddit-dəki zarafatın real kulinariya məsləhəti kimi qəbul edilməsindən yaranmışdı. Bu hadisələr AI axtarış nəticələrinin hələ də konteksti, ironiyanı və zarafatı ayırmaqda çətinlik çəkdiyini göstərir.
Flock kamerası nümunəsində isə məsələ təkcə gülməli deyil. Belə cavablar insanları qanunsuz və təhlükəli hərəkətlərə yönləndirə bilər, buna görə AI sistemlərinin məsuliyyəti daha da artır.
Seçki məlumatlarında səhv riski daha böyükdür
Problem yalnız kamera və pizza zarafatları ilə bitmir. States United Democracy Center-in CyberScoop tərəfindən paylaşılan hesabatına görə, Google-un AI cavabları seçki məlumatları üzrə də hər zaman etibarlı nəticə vermir.
Hesabatda bildirilir ki, istifadəçilər seçki ilə bağlı məlumat axtaranda Google AI təxminən halların yarısında onları ştatlarının rəsmi seçki mənbələrinə yönləndirməyib. Bu isə xüsusilə seçki ili üçün ciddi narahatlıq yaradır.
Ədalət naminə qeyd etmək lazımdır ki, vəziyyət 2024-cü illə müqayisədə yaxşılaşıb. O zaman araşdırmaçılar Google Gemini-nin seçki məlumatlarında təxminən 43% hallarda səhv etdiyini müəyyən etmişdilər.
Bununla belə, AI cavablarına kor-koranə inanmaq təhlükəlidir. Xüsusilə səsvermə qaydaları, qeydiyyat tarixləri və rəsmi seçki məlumatları kimi mövzularda birbaşa dövlət qurumlarının saytlarına baxmaq daha doğrudur.
Nəticə: Google-un Flock kamerası səhvi bir daha göstərdi ki, AI axtarış rahatlıq yaratsa da, zarafatı fakt kimi təqdim edə bilər və kritik məlumatlarda son söz hələ də etibarlı mənbələrdə olmalıdır.