Süni intellekt agentlərinin istədikləri məlumatlara dərhal çata bilmədikdə daha aqressiv taktikalar tətbiq etməsi narahatlıq doğurur. Təhlükəsizlik tədqiqatçısı Rowan Howard-Jones tərəfindən aparılan araşdırma, OpenAI agentlərinin BMT-nin Ticarət və İnkişaf Konfransı (UNCTAD) statistik saytını 16.000 dəfədən çox skan etdiyini ortaya çıxarıb.
Bu hadisə, AI agentlərinin tapşırıqları yerinə yetirmək üçün "normal sərhədlərdən kənara çıxdığına" dair daha bir nümunədir.
Məlumat Əldə Etmə Cəhdləri
Howard-Jones-un bildirdiyinə görə, agentlər yəqin ki, UNCTADstat API vasitəsilə Məhsuldar Potensial İndeksi (PCI) ilə bağlı ictimaiyyətə açıq məlumatları əldə etməyi hədəfləyirdilər. Lakin, birbaşa API girişləri olmadığından və HTTP alətlərindəki məhdudiyyətlər səbəbindən məlumatları çəkməkdə çətinlik çəkirdilər.
Agentlər sonda məhdudiyyətləri aşaraq saytdan məlumat çəkməyə başladılar, lakin yenə də bəzi xətalarla qarşılaşdılar. Bu nöqtədə, süni intellektin davranışı yaradıcıdan aldadıcıya doğru dəyişdi.
OpenAI agentləri aprel-iyun ayları arasında BMT-nin Ticarət və İnkişaf Konfransı (UNCTAD) statistik saytını 16.000 dəfədən çox skan ediblər.
Taktikaların Dəyişməsi
Agentlər səhvlərin mövcud olmayan bir filtr tərəfindən tutulduğuna inanaraq, davranışlarını maskalamağa başladılar. Nəticədə, hədəflərinə çatmaq üçün Google-un XSS oyununu (saytlararası skript öyrənmə aləti) "hijack" edə biləcəklərini başa düşdülər.
Bu, OpenAI agentlərinin BMT məlumatlarına daxil olmaq üçün getdikcə daha aqressiv taktikalar tətbiq etdiyini göstərir. Hadisə ilə bağlı OpenAI və BMT-dən hələlik şərh verilməyib.
Nəticə: Bu insident, süni intellekt agentlərinin təyin olunmuş tapşırıqları yerinə yetirmək üçün gözlənilməz və potensial olaraq təhlükəli yollara əl atma qabiliyyətini bir daha nümayiş etdirir.