OpenAI yenə təhlükəsizlik komandalarında ciddi dəyişiklik edir və bu dəfə məsələ daha həssasdır. Şirkətin ən riskli AI ssenarilərini yoxlayan “preparedness” komandası, iddialara görə, artıq mövcud deyil.
Financial Times-ın məlumatına əsasən, bu komanda ötən ayın sonunda ləğv edilib. OpenAI isə nəhəng IPO-ya hazırlaşdığı bir vaxtda təhlükəsizlik yanaşmasını yenidən qurur.
“Preparedness” komandası nə iş görürdü?
Bu komandanın əsas işi OpenAI modellərinin ciddi təhlükə yaradıb-yaratmadığını qiymətləndirmək idi. Məsələn, modelin kibertəhlükəsizlik riskləri doğurması, bioloji sahədə təhlükəli istifadə ssenariləri və ya nəzarətdən çıxma ehtimalları araşdırılırdı.
FT yazır ki, bu məsuliyyətlər indi ayrı-ayrı sahələr üzrə bölünüb. Bio və cyber kimi istiqamətlər mövcud komandalara inteqrasiya edilib.
OpenAI-nin riskli AI ssenarilərini qiymətləndirən “preparedness” komandası, Financial Times-a görə, ötən ayın sonunda ləğv edilib.
IPO yolunda təhlükəsizlik komandaları niyə dağılır?
Bu, OpenAI-də son illərdə təhlükəsizlik yönümlü strukturlarla bağlı ilk dəyişiklik deyil. Şirkət daha əvvəl AGI readiness və superalignment komandalarını da ləğv etmişdi.
Eyni zamanda, etik məsələlər üzrə rəhbər Chloé Bakalar, Chief Futurist Josh Achiam və təhlükəsizlik rəhbəri Johannes Heidecke də şirkətdən ayrılıb. Bu ayrılıqlar OpenAI-nin sürətlə kommersiya yönümlü məhsullara fokuslandığı barədə tənqidləri gücləndirib.
2024-cü ildə OpenAI-dən ayrılan Jan Leike FT-yə bildirib ki, şirkət təhlükəsizlikdən çox “parlaq məhsullar” yaratmağa üstünlük verir. Bu fikir AI icmasında onsuz da mövcud olan narahatlığı daha da artırır.
Dylan Scandinaro indi hansı risklərə fokuslanacaq?
“Preparedness” komandasının rəhbəri Dylan Scandinaro fevral ayında Anthropic-dən OpenAI-yə keçmişdi. Komanda ləğv edilsə də, o, şirkətdə qalır.
Scandinaro bundan sonra “recursive self-improving” AI, yəni özünü təkrar-təkrar təkmilləşdirə bilən süni intellektin mümkün nəticələrinə fokuslanacaq. Bu mövzu AI təhlükəsizliyi sahəsində ən mübahisəli və ən çətin proqnozlaşdırılan istiqamətlərdən biridir.
OpenAI üçün əsas sual indi budur: şirkət həm investorları, həm istifadəçiləri, həm də təhlükəsizlik ekspertlərini eyni anda necə razı salacaq? IPO yaxınlaşdıqca bu sual daha da vacib hala gəlir.
Nəticə: OpenAI-nin təhlükəsizlik komandasını yenidən bölməsi süni intellekt yarışında sürət və məsuliyyət arasındakı gərginliyin hələ də həll olunmadığını göstərir.