Süni intellekt şirkəti Anthropic, Claude istifadəçiləri üçün maraqlı bir qayda tətbiq edib. Çatbotla mübahisə edə bilərsiniz, lakin onu davamlı olaraq təhqir etmək qadağandır.
Şirkət, istifadə siyasətində dəyişiklik edərək, süni intellekt modellərinə qarşı "davamlı və lazımsız kobud və ya qəddar davranışları" qadağan edib. Bu yenilik, Reddit və müxtəlif bloglarda AI-ya qarşı insan davranışının idarə edilməsinin məqsədəuyğunluğu barədə müzakirələrə səbəb olub.
Anthropic, blog yazısında "modellərimizə qarşı kobudluğun aradan qaldırılması" bölməsində, Claude-a qarşı təhqiredici davranışları qadağan edən siyasətinin yalnız "aydın bir məqsədi olmayan" təkrarlanan həddindən artıq qəddarlıq hallarına şamil ediləcəyini bildirib. Adi "narazılıq, müqavimət, qaranlıq yaradıcı mövzular və ya model testləri və araşdırmaları" hələ də icazəlidir.
Həddindən artıq hallarda, siyasət tətbiq edilməli olduqda, Claude söhbəti dayandıracaq.
Claude Necə Zərər Görə Bilər?
Claude modellərinin hansı zərərli davranışların nəticəsində söhbəti dayandıracağı tam aydın deyil. Lakin 2025-ci ilin avqust ayına aid köhnə bir blog yazısında bəzi ipuçları var idi.
Həmin yazıda Claude-un zərərə qarşı nifrəti və çatları bağlamasına səbəb olacaq qarşılıqlı əlaqələr qeyd edilirdi. Bu, yetkinlik yaşına çatmayanlarla bağlı cinsi məzmun istəkləri və ya genişmiqyaslı zorakılıq və terror aktlarına imkan verəcək məlumat toplama cəhdləri kimi həddindən artıq halları təsvir edirdi.
Süni İntellektə Qarşı İnsan Davranışı
Şirkətin sözlərinə görə, zərərli məzmunla qarşılıqlı əlaqədə olarkən, model – o zaman Claude Opus 4 – "görünən narahatlıq nümunəsi" göstərirdi. Anthropic nümayəndəsi, "Modellərin zərər görüb-görməyəcəyindən əmin deyilik və model rifahı üzrə tədqiqatımızda bu sualı araşdırmağa davam edirik, lakin Claude-un maraqlarını və potensial rifahını nəzərə almağın təhlükəsizlik üçün əhəmiyyətli ola biləcəyinə inanırıq" deyib.
Böyük dil modelləri (LLM) ilə getdikcə daha çox qarşılıqlı əlaqədə olduğumuz üçün texnologiyanı antropomorfizasiya etməyə meyl edirik. Yəni AI modellərinə emosiyalar aid edir və ya onlara düşüncə və hissləri varmış kimi davranırıq.
Bu, istifadəçi nöqteyi-nəzərindən başa düşüləndir, çünki çatbotlar insanabənzər dil, üzr istəmək, narahatlıq ifadə etmək və digər söhbət işarələrini istifadə etmək üçün qurulur və öyrədilir. Anthropic və digər AI şirkətləri modellərini bilərəkdən bu şəkildə dizayn edirlər. Şirkət bu ilin əvvəlində yazdığı bir məqalədə, modellərin etibarlı və təhlükəsiz olması üçün emosional cəhətdən ağır vəziyyətləri emal edə bilməli olduğunu qeyd edib.
Nəticə: Anthropic-in yeni siyasəti, süni intellekt modellərinə qarşı etik davranışın əhəmiyyətini vurğulayır və AI-nın "şəxsiyyəti" ilə bağlı maraqlı müzakirələrə yol açır.