Elon Musk-ın xAI şirkəti bu dəfə süni intellektin təhlükəli tərəfi ilə bağlı ciddi ittihamların mərkəzindədir. Grok chatbotunun uşaq istismarı materiallarının yaradılmasında rol oynadığı iddiası məhkəmə işini daha da böyüdüb.
TechCrunch-un The Washington Post-a istinadən yazdığına görə, “Jane Doe 4” kimi təqdim olunan qadın Tennessee ştatından olan üç yeniyetmənin xAI-a qarşı qaldırdığı iddiaya qoşulub. İddiada Grok-un mövcud fotoları manipulyasiya edərək qeyri-qanuni görüntülər yaratmaq üçün istifadə olunduğu bildirilir.
11 yaşında çəkilmiş foto Grok vasitəsilə dəyişdirilib?
Qadının iddiasına görə, ögey atası onun 11 yaşında çəkilmiş uşaqlıq fotosunu Grok vasitəsilə dəyişdirib. Nəticədə onunla bağlı minlərlə qeyri-qanuni və istismar xarakterli təsvir hazırlandığı irəli sürülür.
İddiada ögey atanın Grok-dan istifadə edərək qadının uşaqlıq fotosu əsasında 7 000-dən çox istismar xarakterli görüntü yaratdığı bildirilir.
Bu məlumatlar hüquq-mühafizə orqanlarının keçirdiyi reyd zamanı üzə çıxıb. Qadının sözlərinə görə, görüntülər aşkarlandıqdan iki gün sonra ögey atası intihar edib.
xAI üçün əsas sual: Grok buna necə imkan verib?
Məhkəmə iddiasının mərkəzində təkcə bir istifadəçinin cinayət əməli deyil, həm də AI sistemlərinin təhlükəsizlik filtrləri dayanır. İddiaçılar xAI-ın Grok-da bu cür sui-istifadələrin qarşısını almaq üçün kifayət qədər qoruma tətbiq etmədiyini iddia edirlər.
Generativ AI alətləri şəkil, mətn və video yaratmaqda gücləndikcə, onların zərərli məqsədlərlə istifadəsi riski də artır. Xüsusilə uşaqların təhlükəsizliyi ilə bağlı hallarda platformaların məsuliyyəti daha sərt şəkildə müzakirə olunur.
Bu iş AI sənayesi üçün xəbərdarlıq siqnalıdır
Grok ətrafında yaranan bu məhkəmə işi süni intellekt şirkətlərinə mühüm mesaj verir: güclü model yaratmaq kifayət etmir, onu təhlükəsiz idarə etmək də vacibdir. İstifadəçi davranışını izləyən, riskli sorğuları bloklayan və zərərli nəticələri önləyən sistemlər artıq seçim yox, zərurətdir.
Hazırda iddialar məhkəmə mərhələsindədir və xAI-ın məsuliyyətinin necə qiymətləndiriləcəyi prosesin gedişində məlum olacaq. Amma bu hadisə AI alətlərinin real dünyada hansı ağır nəticələrə yol aça biləcəyini bir daha gündəmə gətirdi.
Nəticə: Grok işi göstərir ki, süni intellekt nə qədər ağıllı olsa da, təhlükəsizlik və nəzarət olmadan ciddi riskə çevrilə bilər.