ABŞ hökumətinin Anthropic-ə qarşı sərt addımı süni intellekt dünyasında böyük səs-küy yaradıb. Amma maraqlısı budur: bu qadağa şirkətə zərər vurmaq əvəzinə, onun adını daha da ön plana çıxara bilər.
Məsələ Anthropic-in iki yeni modeli — Fable 5 və Mythos 5 ətrafında dönür. Hökumət milli təhlükəsizlik narahatlıqlarını əsas gətirərək şirkəti bu modelləri geri çəkməyə məcbur edib.
Qadağanın səbəbi: Fable 5-in “sındırılan” təhlükəsizlik baryerləri
İddialara görə, Amazon tədqiqatçıları Fable 5 modelinin təhlükəsizlik məhdudiyyətlərini aşmağın yolunu tapıblar. Bu tip “jailbreak” üsulları AI modelini nəzərdə tutulmayan və potensial riskli cavablar verməyə məcbur edə bilər.
ABŞ hökuməti də məhz bu səbəbdən məsələni milli təhlükəsizlik kontekstində qiymətləndirib. Nəticədə Anthropic son modellərini bazardan və ya istifadə mühitindən geri çəkməli olub.
ABŞ hökuməti milli təhlükəsizlik narahatlıqlarına görə Anthropic-in Fable 5 və Mythos 5 modellərini geri çəkməsini tələb edib.
Tədqiqatçılar niyə bu qərarı təhlükəli sayır?
Kibertəhlükəsizlik mütəxəssisləri isə hökumətin addımına birmənalı yanaşmır. Onlar açıq məktub imzalayaraq belə qadağaların AI təhlükəsizliyi araşdırmalarına zərbə vura biləcəyini bildiriblər.
Onların fikrincə, problem təkcə Anthropic-də deyil. Anthropic də eyni mövqeni bölüşərək oxşar jailbreak üsullarının digər süni intellekt modellərində də mövcud olduğunu vurğulayıb.
Qadağa Anthropic üçün reklam effektinə çevrilə bilərmi?
Burada maraqlı paradoks yaranır: bir model hökumət səviyyəsində müzakirə olunursa, bu, onun texnoloji gücünə dair ictimai marağı artırır. Anthropic indi təkcə AI şirkəti kimi yox, həm də təhlükəsizlik, nəzarət və innovasiya debatlarının mərkəzində görünür.
Bu isə brend üçün riskli olsa da, diqqət baxımından güclü effekt yarada bilər. Xüsusən AI bazarında OpenAI, Google və digər nəhənglərlə rəqabət aparan bir şirkət üçün belə görünürlük bəzən reklam kampaniyasından da güclü olur.
AI bazarı üçün daha böyük sual
Bu hadisə süni intellektin gələcəyi ilə bağlı əsas sualı yenidən gündəmə gətirir: təhlükəsizlik naminə innovasiyanı nə qədər məhdudlaşdırmaq olar? Əgər eyni zəifliklər digər modellərdə də varsa, yalnız bir şirkəti hədəfə almaq texniki baxımdan tam həll sayılmır.
Anthropic hadisəsi göstərir ki, AI tənzimlənməsi artıq nəzəri müzakirə deyil. Bu qərarlar real məhsullara, şirkətlərin reputasiyasına və istifadəçilərin gələcəkdə hansı texnologiyalara çıxış əldə edəcəyinə birbaşa təsir edir.
Nəticə: ABŞ-ın Anthropic qadağası şirkət üçün ciddi xəbərdarlıqdır, amma eyni zamanda onun adını qlobal AI təhlükəsizliyi debatının tam mərkəzinə daşıyır.