Meta-nın yeni süni intellekt (AI) köməkçisi Muse, milyonlarla istifadəçi tərəfindən yüklənərək bank hesablarına, mesajlara və sağlamlıq məlumatlarına qoşulması ilə qısa zamanda viral hitə çevrilib. Lakin bu AI agenti populyarlıq qazandıqca, tətbiqin daxilindən əldə edilən məlumatlar onun məlumatları necə təşkil etdiyi və istifadəçilərə təqdim etdiyi barədə maraqlı detalları üzə çıxarıb.
Son günlərdə bir neçə tədqiqatçı Muse-un daxili fayllarını çıxararaq agentin əməliyyat təlimatlarını yayımlayıb. Bu, sistemin necə qurulduğu və necə davrandığına dair ilkin təəssürat yaradır.
Muse-un Gizli Təlimatları Üzə Çıxır
Meta bu faylların şəffaflıq naminə əlçatan olmasını nəzərdə tutduğunu bildirib. Həqiqətən də, onlar Muse-un yüksək dərəcədə siyasiləşdirilmiş və ya həssas mövzulara necə cavab verdiyinə dair aydınlıq gətirir.
Müstəqil AI təhlükəsizlik tədqiqatçısı Karan Joshi, Muse-dan öz proqram fayllarını kopyalayıb paylaşmasını istəyərək geniş təlimatlar və sistem sorğuları toplusunu əldə edə bilib. Joshi öz tapıntılarını WIRED ilə bölüşüb.
Hər Kəs Üçün Şəxsi Səhifələr
Muse-un təlimatlarından biri, istifadəçinin həyatındakı hər bir şəxs üçün "səhifə yaratmaq" qabiliyyətidir.
Bu proses hər saat başı ailə üzvləri, partnyorlar, dostlar, həmkarlar, "əməkdaşlar" və izlədiyiniz insanlar haqqında məlumatları toplamağı əhatə edir. Ümumi ideya ondan ibarətdir ki, Muse "yaddaşından" (yəni strukturlaşdırılmış mətn fayllarından) istifadə edərək əlaqələriniz və həyatınızdakı əhəmiyyətli insanlar haqqında məlumat toplaya bilər.
Daha sonra o, münasibətləri yaxşılaşdırmaq üçün məsləhətlər vermək və ya qəhvə sevən bir dostu səhər yeməyinə haraya aparmaq kimi təkliflər edə bilər. AI çatbotlarının ümumiyyətlə sosial məlumatları izləməsi qeyri-adi deyil – insanlar illərdir ChatGPT-dən münasibət məsləhəti istəyirlər.
Lakin Meta-nın tarixi və sosial şəbəkə məlumatlarına geniş girişi nəzərə alındıqda, Muse-un necə qurulduğunu görmək maraqlıdır. Joshi deyir: "Mənə elə gəldi ki, bütün bu sorğular, sistem bacarıqları məlumatları və Muse-a ötürdükləri şeylərdən, onlar sizin real insanlarla olan münasibətlərinizi anlamaq istəyirlər. Onlar sizi bir dost kimi tanımağa çalışırlar ki, bu da dürüst desək, olduqca qorxuncdur."
Profillərin Təfərrüatları
Muse-un sənədlərində deyilir ki, səhifə əvvəlcə "boş" ola bilər və zaman keçdikcə doldurula bilər, potensial olaraq Faktlar, Tarix, Münasibət, Ümumi Cəhətlər, Həll Olunmamış Məsələlər və Gücləndirmə kimi bölmələri əhatə edə bilər.
Meta-nın təlimatlarında deyilir ki, Muse yalnız əlində olan "sübutlardan" istifadə etməlidir və uydurulmuş detallar boş bir səhifədən daha pisdir. Təlimatlarda deyilir: "Onların harada yaşadığı, nə etdiyi, təkrarlanan mövzular (mənzilin köçürülməsi, ortaq yığım hədəfi) qeyd olunur." Həmçinin, modelin "tarixləri" qeyd edə biləcəyi də əlavə olunur.
Nəticə: Meta-nın Muse süni intellekt köməkçisi, istifadəçilərin sosial dairələri haqqında dərin profillər yaradaraq, AI-nin şəxsi məlumatlara nə qədər nüfuz edə biləcəyi barədə ciddi suallar doğurur.