Süni intellekt (Sİ) tədqiqatçıları arasında öz inkişaf etdirdikləri texnologiyanın bir gün çox təhlükəli ola biləcəyinə dair dərin bir inam var. Lakin bu dəyişkən alqoritmləri necə nəzarətdə saxlamaq lazım olduğu hələ də aydın deyil.
Son illərdə tədqiqatçılar Sİ-nin zərərli olmasının qarşısını almaq üçün müxtəlif ideyalar irəli sürüblər. Bura hökumət tənzimləmələri, irəliləyişi ölçmək üçün yeni üsullar və modellərin daxili işləmə mexanizmlərini araşdırmaq kimi daha az mübahisəli planlar daxildir.
Təhlükəli Təkliflər və Həll Yolları
Bəzi daha qəribə təkliflər arasında GPU-lara izləmə cihazları yerləşdirmək və hətta çox sayda Sİ çipini mərasimdə məhv etmək də var. Sİ-nin yaradılmasına daha ölçülü yanaşma üçün siyasi və ictimai təzyiq artmaqda olsa da, Sİ-ni təhlükəsiz saxlamağın cavabı hələ də bəlli deyil.
Toronto Universitetinin Sİ tədqiqatçısı Raymond Douglas deyir: "Biz bunu tədqiqat problemi kimi qəbul etməyə başlamalıyıq."
O, "Pacing the Frontier, A Research Agenda" adlı yeni hesabatın həmmüəllifidir və Sİ inkişafını yavaşlatmağın hələ də həll olunmamış bir tapmaca olduğunu vurğulayır. Douglas əlavə edir ki, "Biz variantlarımızın nə olduğunu və onların nəticələrinin nə olacağını həqiqətən də anlamırıq."
Sİ Qiyamətindən Qorxu və Şirkətlərin Reaksiyası
Anthropic-in bir tədqiqatçısının şirkətdən ayrılıb iki il ərzində Sİ-nin bəşəriyyəti məhv edə biləcəyi barədə xəbərdarlıq etməsindən sonra Sİ qiyaməti barədə danışıqlar son həftələrdə qızışıb. Anthropic-in Sİ təhlükəsizlik laboratoriyasının rəhbəri də bu narahatlıqları təsdiqləyib.
Amerika Sİ şirkətlərinin rəhbərləri – Anthropic-dən Dario Amodei, OpenAI-dən Sam Altman, SpaceXAI-dən Elon Musk və Google DeepMind-dən Demis Hassabis – hamısı Sİ-nin inkişafının yavaşladılması və ya dayandırılmasına dəstək verdiklərini bildiriblər. Məsələ xüsusilə aktuallıq kəsb edir, çünki Sİ şirkətləri indi daha güclü modellər yaratmaq üçün Sİ-nin özündən istifadə edirlər.
Özünü Təkmilləşdirmə Və İdarəetmə Problemi
Bu, Sİ-nin bir neçə il ərzində insanların onun fəaliyyətini dərk etmək qabiliyyətini aşacağını göstərən sürətlənən rekursiv özünü təkmilləşdirmə (RSI) dövrü qorxusunu alovlandırıb. Sİ laboratoriyaları artıq öz yeni yanaşmalarını təqdim edirlər.
Bu həftə Anthropic süni intellektin nə qədər sürətlə – və bəlkə də təhlükəli şəkildə – irəlilədiyini izləmək üçün bir neçə yeni üsul elan etdi. Bu üsullar göstərir ki, məsələn, Claude 2026-cı ilin əvvəlində sıfır faiz olduğu halda, indi Anthropic-in Sİ tədqiqatlarının 26 faizini təşkil edir.
Onlar həmçinin Anthropic-in hesablamalar büdcəsinin 6 faizini Sİ-ni daha təhlükəsiz etmək yollarını tapmağa sərf etdiyini aşkar edirlər. Lakin Douglas və digər ekspertlər Sİ inkişafına effektiv və etibarlı nəzarət etmək üçün Sİ laboratoriyalarının özlərindən kənardan maliyyə və təcrübə tələb olunacağını bildirirlər.
Nəticə: Süni intellektin sürətli inkişafı həm böyük imkanlar, həm də ciddi təhlükələr vəd edir, lakin onun təhlükəsizliyini təmin etmək üçün hələ də konkret və effektiv strategiyalar mövcud deyil.