Süni intellekt hər suala cavab verə bilər kimi görünür, amma Margaret Atwood-un təcrübəsi bunun nə qədər riskli ola biləcəyini göstərdi. Məşhur yazıçı Claude-dan cəmi bir dəfə istifadə edib və nəticə onu heç də heyran qoymayıb.
The Handmaid’s Tale və The Blind Assassin əsərlərinin müəllifi Porto şəhərində keçirilən Babell Literary and Cultural Festival zamanı AI mövzusuna toxunub. Atwood-un sözlərinə görə, problem təkcə texnologiyada deyil, insanların ona kor-koranə inanmasındadır.
Claude “Father Brown” sualında niyə ilişdi?
Atwood Anthropic-in Claude chatbotundan Britaniya detektiv serialı Father Brown haqqında məlumat almaq istəyib. Lakin yazıçının dediyinə görə, chatbot ona yanlış cavab verib.
O, bunu belə izah edib: model serial haqda internetdəki rəyləri “oxuyub”, amma həmin rəylər adətən finalı və əsas sirri açıqlamır. Nəticədə Claude yarımçıq məlumatlardan səhv nəticə çıxarıb.
“AI ilə bağlı məsələ budur: zibil daxil olursa, zibil də çıxır. Hətta biznes üçün istifadə edənlər belə onu yoxlamalıdır, çünki səhv edir.”
Atwood-a görə AI “yalan danışmır”, amma səhv yönləndirə bilir
Yazıçı bildirib ki, Claude-un verdiyi yanlış cavabı insan kimi “yalan” adlandırmaq düzgün deyil. Çünki böyük dil modeli nə həqiqəti anlayır, nə də aldatmaq niyyəti daşıyır.
Amma nəticə istifadəçi üçün yenə də təhlükəlidir: cavab inamlı səslənir, səhv isə çox gec fərq edilə bilər. Bu da AI chatbotlarını xüsusilə araşdırma, yazı və biznes qərarlarında riskli alətə çevirir.
“Asan yol” axtaranlar üçün xəbərdarlıq
Atwood AI-dan yoxlamadan istifadə edənləri də tənqid edib. Onun fikrincə, insanlar fürsətcil davranır və əgər aldatmaq asandırsa, üstəlik bunu tutmaq çətindirsə, bəziləri həmin yola gedəcək.
Bu fikir AI dövründə müəlliflik, akademik dürüstlük və kontent istehsalı ilə bağlı müzakirələri yenidən gündəmə gətirir. Çünki LLM-lər nə qədər güclü görünsə də, onların cavabları topladıqları məlumatın keyfiyyətindən asılıdır.
AI alətləri köməkçidir, avtopilot deyil
Atwood-un çıxışı texnologiya əleyhinə sadə bir mövqe deyil. Əsas mesaj budur: AI istifadə oluna bilər, amma nəticələr mütləq insan tərəfindən yoxlanmalıdır.
Claude, ChatGPT və digər modellər sürətli xülasə, ideya və mətn hazırlamaqda faydalı ola bilər. Ancaq fakt, kontekst və mənbə yoxlanışı olmadan onlara tam etibar etmək ciddi səhvlərə yol aça bilər.
Nəticə: Margaret Atwood-un tənqidi bir şeyi xatırladır: AI ağıllı görünə bilər, amma məsuliyyət hələ də onu istifadə edən insanın üzərindədir.