OpenAI-də süni intellekt təhlükəsizliyi ilə bağlı böyük dəyişiklik var və bu, şirkətin gələcək modellərinə birbaşa təsir edə bilər. Ən maraqlısı isə odur ki, bu qərar təhlükəsizlik rəhbərinin gedişi ilə eyni vaxta düşüb.
Wired-in məlumatına görə, OpenAI safety systems rəhbəri Johannes Heidecke şirkətdən ayrılır. Daxili yenidənqurma nəticəsində təhlükəsizlik və araşdırma komandaları artıq vahid rəhbərlik altında işləyəcək.
Təhlükəsizlik artıq ayrıca “nəzarət qapısı” deyil
OpenAI-nin Chief Research Officer-i Mark Chen əməkdaşlara göndərdiyi memo-da bildirib ki, təhlükəsizlik komandaları bundan sonra Mia Glaese-ə hesabat verəcək. Onun vəzifəsi genişləndirilərək VP of Research and Safety adlandırılıb.
Johannes Heidecke-in daimi əvəzedicisi tapılana qədər safety systems istiqamətinə müvəqqəti olaraq Saachi Jain rəhbərlik edəcək. Bu dəyişiklik OpenAI-nin təhlükəsizliyi məhsulun sonunda yox, model hazırlanmasının əvvəlində prosesə qatmaq istədiyini göstərir.
OpenAI iki ildən az müddətdə ikinci dəfə təhlükəsizlik təşkilatını araşdırma rəhbərliyinə tabe olan struktura birləşdirir.
Johannes Heidecke nə ilə yadda qaldı?
Heidecke OpenAI-yə 2021-ci ildə AI safety analyst kimi qoşulmuşdu. 2024-cü ildə isə Lilian Weng-dən sonra safety systems rəhbəri olmuşdu.
Onun işi model alignment, qayda əsaslı reward sistemləri və potensial təhlükəli model imkanları üçün hazırlıq qiymətləndirmələrini əhatə edirdi. Yəni söhbət sadəcə “model təhlükəsizdirmi?” sualından yox, modelin real risklərə necə reaksiya verəcəyindən gedirdi.
Mark Chen memo-da Heidecke-ə təşəkkür edib və təhlükəsizlik işinin frontier model inkişafı ilə daha sıx bağlı olmasının vacib olduğunu vurğulayıb. Onun fikrincə, təhlükəsizlik komandası əsas model, məhsul və buraxılış qərarlarına daha erkən mərhələdə təsir etməlidir.
OpenAI-də təhlükəsizlik rəhbərləri niyə azalır?
Son iki ildə OpenAI-də təhlükəsizliklə bağlı yüksək vəzifəli şəxslərin gedişi diqqət çəkir. 2023-cü ildə elan edilən və şirkət compute resurslarının 20%-ni alacağı deyilən Superalignment komandası 2024-cü ilin mayında dağıdılmışdı.
Həmin komandanın həmsədrləri Ilya Sutskever və Jan Leike şirkətdən ayrılmışdı. Leike sonradan açıq şəkildə yazmışdı ki, “təhlükəsizlik mədəniyyəti və prosesləri parlaq məhsulların arxasında qalıb”.
2024-cü ilin oktyabrında Miles Brundage-in rəhbərlik etdiyi AGI Readiness komandası da fəaliyyətini dayandırdı. Daha sonra Superalignment-in davamçısı sayılan Mission Alignment komandası 2026-cı ilin fevralında ləğv edildi və Joshua Achiam “chief futurist” titulunu aldı.
İnteqrasiya yaxşı ideyadır, yoxsa risk?
OpenAI bu addımı təhlükəsizliyi daha erkən qərar prosesinə daxil etmək kimi təqdim edir. Şirkət 6 aprel tarixində Safety Fellowship proqramını da başladıb və xarici tədqiqatçıları müstəqil safety və alignment işləri aparmağa dəvət edib.
Ancaq tənqidçilər başqa məqama diqqət çəkir: təhlükəsizlik komandası araşdırma strukturu daxilindədirsə, onun müstəqil veto gücü zəifləyə bilər. Başqa sözlə, komanda risk görsə belə, məhsulu gecikdirmək və ya dayandırmaq daha çətin ola bilər.
Bu arada OpenAI-də digər yüksək səviyyəli rəhbər dəyişiklikləri də davam edir. Şirkət son aylarda product chief, Sora rəhbəri, enterprise CTO və chief of applications Fidji Simo kimi adların gedişi ilə gündəmə gəlib.
Nəticə: OpenAI təhlükəsizliyi araşdırmanın içinə daha dərin yerləşdirir, amma əsas sual açıq qalır: bu model riskləri daha tez görəcək, yoxsa təhlükəsizlik səsi daha zəif eşidiləcək?