OpenAI-də yenə ciddi kadr dəyişikliyi var və bu dəfə söhbət şirkətin gələcək strategiyasını düşünən əsas fiqurlardan birindən gedir. Joshua Achiam təxminən 9 ildən sonra OpenAI ilə yollarını ayırır.
WIRED-in əldə etdiyi məlumata görə, Achiam çərşənbə axşamı həmkarlarına bildirib ki, ayın sonunda şirkətdən ayrılacaq. O, qərarının konkret bir hadisə ilə bağlı olmadığını, bunu bir müddətdir düşündüyünü yazıb.
“Dünya artıq bu sirrdən xəbərdardır və indi missiya üzərində frontier lab divarlarından kənarda da işləmək mümkün görünür,” — Joshua Achiam.
OpenAI missiyasının içindən gələn ayrılıq
Achiam OpenAI-də daha əvvəl şirkətin qeyri-kommersiya missiyasını qorumağa yönələn komandaya rəhbərlik edirdi. Bu missiya süni ümumi intellektin, yəni AGI-nin bütün bəşəriyyətə fayda verməsini təmin etmək ideyası üzərində qurulub.
Onun son rolu “chief futurist” idi və bu vəzifə AI təhlükəsizliyi ilə siyasət komandalarının kəsişməsində dayanırdı. Başqa sözlə, Achiam həm texnologiyanın risklərini, həm də onun cəmiyyətə verə biləcəyi faydaları analiz edən əsas şəxslərdən biri idi.
Şirkətdə təhlükəsizlik komandaları niyə dəyişir?
ChatGPT-nin 2022-ci ildə partlayış kimi yayılmasından sonra OpenAI kiçik tədqiqat laboratoriyasından qlobal texnologiya nəhənginə çevrildi. Bu böyümə ilə birlikdə şirkət təhlükəsizlik, məhsul və tədqiqat komandalarını dəfələrlə yenidən qurdu.
2024-cü ildə OpenAI Achiam-ın rəhbərliyi ilə “mission alignment team” adlı komanda yaratmışdı. Məqsəd şirkətin sürətli kommersiya böyüməsi fonunda əsas missiyadan uzaqlaşmamasını təmin etmək idi.
Lakin həmin komanda fevral ayında ləğv edildi və Achiam yeni “chief futurist” roluna keçirildi. İndi isə OpenAI bu vəzifəyə kimin gətiriləcəyini hələ açıqlamayıb.
AI siyasəti və tədqiqatı bir-birinə daha da yaxınlaşır
Son bir ildə OpenAI süni intellekt tədqiqatları ilə siyasət komandaları arasındakı məsafəni azaltmağa çalışır. Şirkət texnologiyanın hara getdiyini öncədən görən qaydalar və standartlar hazırlamaq istəyir.
Bu prosesdə Boaz Barak, Noam Brown və Adrien Ecoffet kimi tədqiqatçılar siyasət mövzularına daha çox cəlb olunublar. Eyni zamanda, Ağ Evin keçmiş AI müşaviri Dean Ball bu həftə OpenAI-də “head of strategic futures” kimi işə başlayıb.
Ball qısa müddət ərzində Achiam ilə paralel işləyəcək. Onun da həm tədqiqatçılar, həm də siyasət rəhbərləri ilə sıx əməkdaşlıq edəcəyi gözlənilir.
Bu, OpenAI-də tək ayrılıq deyil
Achiam-ın gedişi OpenAI-də təhlükəsizlik yönümlü liderlərin son illərdəki ayrılıqları siyahısına əlavə olunur. Şirkətin gələcəkdə IPO-ya hazırlaşdığı bir vaxtda bu dəyişikliklər daha çox diqqət çəkir.
2024-cü ildə OpenAI-nin Superalignment komandasına hə rəhbərlik edən Jan Leike Anthropic-ə keçmişdi. Həmin komanda inkişaf etmiş AI modellərini insan nəzarəti altında saxlamaq yollarını araşdırırdı.
Elə həmin il policy research rəhbəri Miles Brundage və AI modellərinin təhlükəli bacarıqları üzrə araşdırmalara rəhbərlik edən Steven Adler də OpenAI-dən ayrıldı. Onlar AI laboratoriyalarında güclü təhlükəsizlik və qoruma standartlarını təşviq edən qeyri-kommersiya təşəbbüsləri qurmağa başladılar.
Nəticə: Joshua Achiam-ın ayrılığı OpenAI üçün sadəcə kadr dəyişikliyi deyil, şirkətin sürətli böyümə, təhlükəsizlik və missiya balansını necə qoruyacağına dair daha böyük sualın bir hissəsidir.