ABŞ-da süni intellektlə bağlı həyəcan siqnalı çalınıb: iddiaya görə, Çinlə əlaqəli bir qrup Anthropic-in ən güclü AI modellərindən birinə toxunmuş ola bilər. Əgər bu doğrudursa, məsələ sadəcə texnoloji sızma yox, ciddi milli təhlükəsizlik riskidir.
Semafor-un məlumatına görə, Ağ Evin Anthropic-in Mythos modelinə ixrac məhdudiyyəti tətbiq etməsində əsas səbəblərdən biri də məhz bu şübhə olub. Rəsmi təsdiq hələ yoxdur, amma Vaşinqtonda narahatlıq kifayət qədər böyük görünür.
Mythos niyə bu qədər qorxulu hesab olunur?
Anthropic daha əvvəl Mythos-un ictimai istifadə üçün “çox güclü və təhlükəli” olduğunu bildirmişdi. Bu modelin imkanları barədə detallar açıq paylaşılmasa da, onun yüksək səviyyəli AI sistemləri sırasında olduğu vurğulanır.
Əgər Çin hökuməti və ya onunla əlaqəli qrup Mythos 5 və ya Fable 5 kimi modellərə giriş əldə edibsə, bu, texnologiyanın kopyalanması riskini artırır. Xüsusilə “distillation” adlanan üsul burada əsas təhlükə kimi göstərilir.
Ən böyük risk odur ki, daha zəif “tələbə” AI modeli Mythos kimi güclü sistemin davranışlarını öyrənərək onu təqlid edə bilər.
Ağ Ev susur, David Sacks başqa riskdən danışır
Ağ Ev Semafor-un iddiasını hələlik təsdiqləməyib. Trump-ın müşaviri David Sacks isə X platformasında paylaşım edərək Çin məsələsinə toxunmayıb.
Sacks daha çox Fable və Mythos modellərinin “jailbreak” edilə bilməsi iddiasına fokuslanıb. Yəni istifadəçilərin təhlükəsizlik baryerlərini aşaraq modeldən qadağan olunmuş cavablar alma ehtimalı müzakirə olunub.
Anthropic isə bu iddiaları rədd edir. Şirkət Semafor-a bildirib ki, hökumətlə ixrac nəzarəti barədə danışıqlarda Çin mövzusu qaldırılmayıb.
Bu, Anthropic üçün ilk xoşagəlməz hadisə deyil
Mythos ətrafında təhlükəsizlik sualları yeni deyil. Daha əvvəl bir Discord qrupunun bu güclü modelə iki həftə ərzində giriş əldə etdiyi bildirilmişdi.
Anthropic hadisəni aşkarladıqdan sonra həmin girişi bağlayıb. Amma bu fakt şirkətin ən həssas AI sistemlərinin nə qədər ciddi qorunmalı olduğunu bir daha göstərdi.
Süni intellekt modelləri artıq sadəcə məhsul deyil, strateji texnologiyaya çevrilib. Ona görə də ABŞ və Çin arasındakı AI yarışı getdikcə daha çox kibertəhlükəsizlik, ixrac nəzarəti və milli təhlükəsizlik mövzuları ilə kəsişir.
AI yarışı daha sərt mərhələyə keçir
Anthropic, OpenAI, Google DeepMind və digər oyunçuların hazırladığı qabaqcıl modellər dövlətlərin də diqqət mərkəzindədir. Bu modellər kod yazmaqdan elmi araşdırmaya, kiberhücum simulyasiyalarından məlumat analizinə qədər geniş imkanlar yarada bilər.
Bu səbəbdən ABŞ hökuməti ən güclü AI modellərinin xaricə çıxışını məhdudlaşdırmağa çalışır. Mythos ətrafındakı iddialar isə bu siyasətin niyə getdikcə sərtləşdiyini göstərir.
Nəticə: Mythos hadisəsi sübut edir ki, süni intellekt uğrunda mübarizə artıq laboratoriyalardan çıxıb qlobal təhlükəsizlik masasına keçib.