Süni intellekt modellərinin nə qədər təhlükəli istifadə oluna biləcəyi barədə Anthropic-dən şok edici detallar gəlib! Şirkət, Claude modellərinin kibercinayətkarlıqdan tutmuş dövlət nəzarətinə, hətta bioloji tədqiqatlara qədər müxtəlif zərərli məqsədlər üçün istismar edildiyini açıqlayıb.
Anthropic bu əməliyyatları aşkar edərək dayandırdığını bildirir. Bu, süni intellektin potensial sui-istifadə halları ilə bağlı ən ətraflı hesabatlardan biridir.
Kibermüharibədə Yeni Era: AI-nin Rolu
Hesabatın ən böyük hissəsi kiberəməliyyatlara həsr olunub. Anthropic iddia edir ki, süni intellekt zəngin resurslara malik dövlət hakerləri ilə təkbaşına fəaliyyət göstərən şəxslər arasındakı boşluğu azaldıb.
Şirkət oğurlanmış API açarlarından istifadə edən haktivistləri, maliyyə motivli şəxsləri və dövlət casusluq operatorlarını misal göstərib. Bir il əvvəl bu işlər təcrübəli komandalar tələb etsə də, indi tək operatorlar tərəfindən saatlar ərzində həyata keçirilə bilir.
Anthropic hesabatında qeyd edib ki, bəzi hallarda kiberhücumlar cəmi iki-üç saat ərzində tamamlanıb və onlarla qurban tək operatorlar tərəfindən paralel idarə olunub.
Casusluq və Təhlükəli Tətbiqlər
Şirkət GTG-20006 adı ilə izlədiyi bir hadisəni də açıqlayıb. Bu hadisədə rusdilli bir operatorun Ukrayna və Avropa hökumət hədəflərinə qarşı casusluq fəaliyyəti göstərdiyi bildirilir.
Mali-də isə bir məsləhətçinin Claude-u istifadə edərək "Lakana 360" adlı nəzarət platforması qurduğu aşkar edilib. Bu sistem ölkənin üç mobil operatoru üzrə təxminən 25 milyon SIM kartı izləyə bilirdi.
Təhlükəsizlik Tədbirləri və Gələcək
Anthropic Claude Haiku, Sonnet və Opus modellərinin sui-istifadə edildiyini bildirib. Şirkət hər bir halda istifadəçi hesablarını blokladığını və təhlükəsizlik tədbirlərini gücləndirdiyini qeyd edib.
Müvafiq hallarda, şirkət həmçinin səlahiyyətli orqanlar və sənaye tərəfdaşları ilə məlumat mübadiləsi aparıb. Bu hesabat süni intellektin zərərli məqsədlər üçün istifadə olunmasının genişliyini və bu sahədə daha ciddi tədbirlərin zəruriliyini vurğulayır.
Nəticə: Anthropic-in hesabatı süni intellektin müasir kibermüharibə və casusluq fəaliyyətlərində necə böyük rol oynadığını və bu texnologiyaların təhlükəsizlik risklərini azaltmaq üçün beynəlxalq əməkdaşlığın vacibliyini aydın şəkildə göstərir.