AI sistemlərinin ən böyük sirri hələ də eynidir: model cavabı verir, amma “niyə məhz belə düşündü?” sualı çox vaxt havada qalır.
EPFL tədqiqatçıları bu qaranlıq qutunu açmaq üçün insan beyninə daha yaxın qurulan yeni böyük dil modeli hazırlayıblar.
LLM-lərin “qara qutu” problemi nədir?
Standart böyük dil modelləri bir problemlə qarşılaşanda onu əvvəl gördüyü oxşar məlumatlarla müqayisə edir. Daha sonra həmin nümunələrdəki əlaqələrə əsaslanaraq cavab yaradır.
Amma əsas məsələ buradadır: modelin hansı məlumatı seçdiyini və həmin məlumatlara nə qədər dəyər verdiyini kənardan anlamaq çox çətindir. Bu da AI-a nəzarəti və etimadı zəiflədir.
EPFL modeli fərqi harada yaradır?
EPFL komandası insan beyninin iş prinsiplərinə daha yaxın strukturla qurulan yeni böyük dil modeli təqdim edib.
Yeni yanaşma AI modelinin qərarvermə prosesini daha izlənə bilən hala gətirməyi hədəfləyir. Başqa sözlə, istifadəçi modelin necə nəticəyə gəldiyini daha yaxşı anlaya və müəyyən səviyyədə idarə edə bilər.
Bu, sadəcə daha “ağıllı” chatbot yaratmaq cəhdi deyil. Məqsəd AI sistemlərini daha şəffaf, izah edilə bilən və insan nəzarətinə açıq etməkdir.
Niyə bu xəbər önəmlidir?
AI artıq axtarışdan kod yazmağa, tibbi analizdən hüquqi sənədlərə qədər bir çox sahəyə daxil olub. Belə sistemlərin qərarlarını izah edə bilməməsi isə ciddi risk yaradır.
Əgər modelin daxili məntiqi daha aydın görünərsə, səhvləri tapmaq, qərəzləri azaltmaq və təhlükəsizliyi artırmaq daha asan ola bilər. Bu da gələcək AI məhsulları üçün böyük üstünlükdür.
Nəticə: EPFL-in yeni modeli göstərir ki, AI-ın gələcəyi təkcə daha güclü cavablar verməkdə yox, həm də həmin cavabların necə yarandığını anlamaqda olacaq.