AI chatbot-lara sadə bir hekayə yazdırırsınız, amma ekranda yenə eyni adam peyda olur: Elias Thorne. Təsadüf kimi görünən bu qəribə təkrarın arxasında süni intellekt təliminin görünməyən tərəfi dayana bilər.
Software engineer Daniel May bu nümunəni ilk fərq edənlərdən olub: müxtəlif modellərdən hekayə istəyəndə “mayak gözətçisi Elias” dönə-dönə ortaya çıxırdı. İndi Cornell University tədqiqatçıları Sil Hamilton və David Mimno bu sirri daha sistemli şəkildə araşdırıblar.
Eyni qəhrəman, minlərlə fərqli hekayə
Tədqiqatçılar OpenAI GPT-5.4 Mini, Anthropic Claude Haiku 4.5 və Google Gemini 3.1 Flash-Lite daxil olmaqla bir neçə AI modelinə beş fərqli hekayə tapşırığı veriblər. Nəticədə təxminən 20 min hekayə toplanıb və təkrarlar diqqətçəkən səviyyəyə çatıb.
Analiz göstərib ki, “Lighthouse”, “Keeper”, “Baker”, “Mayor”, “Clockmaker”, “Fisherman”, “Librarian”, “Conductor”, “Mara”, “Elias” və “Elara” kimi cəmi 11 söz bütün hekayələrin 88%-də görünüb.
Ən çox təkrarlanan kombinasiya isə “Elias the lighthouse keeper” olub. Bu obraz yaradılan hekayələrin təxminən üçdə ikisində peyda olub.
Problem təlim datasındadır, yoxsa təhlükəsizlik filtrində?
İlk ehtimal bu idi ki, modellərin əvvəlcədən öyrədildiyi mətnlərdə “Elias the lighthouse keeper” ifadəsi həddindən artıq çoxdur. Amma tədqiqatçılar təlim üçün istifadə oluna biləcək ədəbiyyat və mənbələrdə belə bir iz tapmayıblar.
Onların fikrincə, məsələ daha çox AI laboratoriyalarının geniş istifadə etdiyi xüsusi dataset-lərlə bağlı ola bilər. Məsələn, WildChat adlı açıq mənbəli dataset milyonlarla insan-chatbot söhbətindən ibarətdir və sonradan müxtəlif modellərin təlimində istifadə olunub.
Tədqiqatçıların versiyasına görə, alignment training — yəni modeli daha təhlükəsiz və “uyğun” cavablar verməyə yönəldən mərhələ — gözlənilməz nəticə doğurub. Modellər müəllif hüquqları ilə qorunan personajlardan və böyüklər üçün məzmundan qaçarkən “təhlükəsiz” alternativləri həddindən artıq çox seçməyə başlayıblar.
Uydurma ad real internetə sızanda nə baş verir?
Elias Thorne uşaq yatmazdan əvvəl oxunan sakit bir nağıl üçün zərərsiz səslənə bilər. Amma 404 Media-nın araşdırmasına görə, bu ad artıq chatbot cavablarından kənara çıxmağa başlayıb.
Nəşr Elias Thorne adının fantasy kitablarında baş qəhrəman kimi göründüyünü, Amazon-da ambient musiqi treklərində isə “artist” adı kimi istifadə edildiyini tapıb. Daniel May isə bu adla müəllif kimi yayımlanan kitab nümunələri aşkarlayıb.
Daha narahatedici məqam odur ki, həmin nümunələrdən biri alternativ xərçəng müalicələri haqqında məlumat verdiyini iddia edən kitabdır. Yəni AI-nin təkrar etdiyi uydurma ad real informasiya ekosisteminə qarışanda məsələ sadəcə gülməli internet qəribəliyi olmaqdan çıxır.
Bu hadisə AI yaradıcılığı haqqında nə deyir?
Elias Thorne fenomeni bizə vacib bir şeyi xatırladır: böyük dil modelləri “ilhamlanmır”, onlar ehtimal hesablayır. Əgər təlim və təhlükəsizlik mərhələlərində müəyyən nümunələr güclənirsə, model onları yaradıcılıq kimi təqdim edə bilər.
Bu, AI alətlərindən istifadə edən yazıçılar, müəllimlər, marketoloqlar və kontent yaradıcıları üçün ciddi siqnaldır. Chatbot-un cavabı axıcı səslənə bilər, amma arxasında təkrar, filtr və statistik üstünlük dayanır.
Nəticə: Elias Thorne sadəcə uydurma mayak gözətçisi deyil — o, AI modellərinin “yaradıcılıq” adı altında nə qədər asanlıqla eyni təhlükəsiz şablonlara ilişib qala bildiyini göstərən canlı nümunədir.