AI bazarında qəribə bir hadisə baş verib: Anthropic-in ən güclü modelləri bir gecədə bütün dünyada müştərilər üçün söndürülüb.
İddialara görə, bu zəncirvari reaksiyanı Amazon CEO-su Andy Jassy-nin ABŞ rəsmilərinə çatdırdığı kibertəhlükəsizlik narahatlığı başladıb.
Amazon-un xəbərdarlığı hökuməti hərəkətə gətirdi
The Wall Street Journal-ın məlumatına görə, Jassy ABŞ maliyyə naziri Scott Bessent və digər rəsmilərə Amazon tədqiqatçılarının Fable 5 modelindən kiberhücumlarda istifadə oluna biləcək məlumatlar əldə etdiyini deyib.
Bundan sonra ABŞ hökuməti Fable 5 və Mythos 5 modellərinə ixrac nəzarəti qadağası tətbiq edib və modellər cümə günü bütün müştərilər üçün deaktiv edilib.
Amazon Anthropic-in ən böyük investorlarından biridir, amma eyni zamanda onun modellərinin təhlükəli ola biləcəyini hökumətə bildirən tərəf kimi göstərilir.
İnvestor, bulud tərəfdaşı və risk siqnalı: maraqlı üçbucaq
Bu hadisəni daha da maraqlı edən məqam Amazon-un Anthropic-ə milyardlarla dollar yatırmasıdır.
Anthropic də bunun qarşılığında AWS üzərindən təxminən 100 milyard dollarlıq bulud xərcləmə öhdəliyi götürüb.
Yəni Anthropic-in infrastrukturu böyük ölçüdə Amazon-a bağlıdır, amma modeli bağlatdığı iddia edilən təhlükə siqnalı da məhz Amazon rəhbərliyindən gəlib.
Amazon və Anthropic eyni hadisəni fərqli izah edir
Amazon sözçüsü hökumətlərin potensial təhlükəsizlik riskləri ilə bağlı şirkətdən məsləhət istəməsinin qeyri-adi olmadığını deyib, amma danışıqların detalları açıqlanmayıb.
Şirkət həmçinin AWS status yeniləməsinə işarə edərək, model bağlanmasının Amazon-un öz bulud platformasına da təsir etdiyini bildirib.
David Sacks isə fərqli versiya irəli sürüb: onun sözlərinə görə, Anthropic və ABŞ hökumətinin etibarlı tərəfdaşı modeldə jailbreak üsulu aşkarlayıb və administrasiya Dario Amodei-dən bunu düzəltməyi və ya modeli yayından çıxarmağı istəyib.
Anthropic: Reaksiya həddindən artıq idi
Anthropic isə bu yanaşma ilə razı deyil.
Şirkət bildirib ki, jailbreak üsulunu yoxlayıb və nəticədə yalnız az sayda, əvvəlcədən məlum olan kiçik zəifliklərin üzə çıxdığını görüb.
Anthropic-in fikrincə, hökumətin addımı proporsional deyil, çünki narahatlıq doğuran imkanlar artıq başqa açıq modellərdə də mövcuddur.
AI bazarı üçün təhlükəli presedent
Bağlanma təkcə ABŞ istifadəçilərinə yox, bütün dünyadakı müştərilərə təsir edib.
Səbəb sadədir: Anthropic real vaxtda xarici vətəndaşları ABŞ istifadəçilərindən ayırd edə bilmir.
Mythos modelindən banklar və dövlət qurumları zəifliklərin aşkarlanması üçün istifadə edirdi və onların hamısı birdən-birə çıxışı itirdi.
Bu hadisə AI sənayesi üçün ciddi sual yaradır: böyük bulud provayderi öz investisiya etdiyi şirkətə qarşı hökumət mexanizmini işə sala bilərsə, rəqabət qaydaları necə dəyişəcək?
Nəticə: Amazon-Anthropic qalmaqalı göstərir ki, süni intellekt dövründə texniki risklər, investor maraqları və dövlət tənzimləməsi artıq bir-birindən ayrılmaz hala gəlib.