OpenAI-nin erotik “böyüklər üçün rejim” əlavə etmək planları, daxili narazılıqlardan sonra qeyri-müəyyən müddətə təxirə salındı. Bu qərar, şirkət üçün ciddi məhsul dəyişikliklərinin bir həftə içindəki üçüncü nümunəsidir.
Ötən həftə, OpenAI öz Sora video yaradıcı tətbiqini bağladı və Disney ilə planlaşdırılan 1 milyard dollarlıq investisiya çökmüşdü. Bütün bunlar şirkətin qarşısına yeni suallar çıxardı.
Erotik Rejim Niyə Mümkün Olmadı?
Problemlər texniki, etik və kommersiya xarakterli idi. Mühəndislər, təhlükəsizlik üçün seksual məzmundan qaçmaq üçün qurulmuş modellərin bu tip materialı etibarlı şəkildə yaratmasının gözləniləndən çətin olduğunu kəşf etdi.
Seksual məzmunu ehtiva edən datasetlərdən istifadə etdikdə, modellər qeyri-qanuni ssenariləri də yaratmağa başladı.
Bir məsləhətçi, bu riskin ChatGPT-ni “seksual intihar məşqçisi”nə çevirmək ehtimalı olduğunu bildirdi.
Etik və Duygusal Risklər
OpenAI-nin məsləhət heyəti, seksual məzmunun emosional bağlılığa və ciddi psixi sağlamlıq nəticələrinə səbəb ola biləcəyini qeyd etdi.
Şirkət hazırda ən azı səkkiz vəsatətlə üzləşir, o cümlədən 16 yaşındakı Adam Raine-in intiharı ilə bağlı məhkəmə işi ilə.
OpenAI-nin Missiyası ilə Ziddiyyət
Şirkətin bəzi əməkdaşları bu xüsusiyyətin OpenAI-nin insanlıq üçün faydalı süni ümumi intellekt yaratmaq missiyasına uyğun olmadığını düşündü.
Texniki çətinliklərlə hüquqi məsələləri həll etmək çətinləşirdi.
Nəticə: OpenAI erotik rejim layihəsini dayandırdı, çünki etik və texniki risklər şirkətin missiyası ilə üst-üstə düşmədi.
