OpenAI-nin sistemləri təhlükəli bir istifadəçini müəyyən etsə də, polisə məlumat verməmək qərarı necə böyük faciə ilə nəticələndi?
Tumbler Ridge, British Columbia icmasına, OpenAI-nin sistemlərinin bir ChatGPT istifadəçisini işarələdikdən sonra polisə xəbərdarlıq etməməsi və bu şəxsin Kanadada 1989-dan bəri ən ölümcül məktəb atışmasını törətməsi səbəbilə Sam Altman üzr istədi.
Yaxlaşiq on iki OpenAI əməkdaşı, 2025-ci ilin iyun ayında işarələnmiş hesaba baxış keçirdi və bəziləri hüquq-mühafizə orqanlarına məlumat verməyi tövsiyə etdi, lakin rəhbərlik daha yüksək bir meyar tətbiq edərək bu tövsiyəni rədd etdi.
OpenAI-nin Daxili Mübahisələri
OpenAI rəhbərliyi, işarələnmiş hesabın hüquq-mühafizə orqanlarına bildirilməməsi qərarını verdi. Bu hesaba baxış keçirən əməkdaşlar, başqalarına ciddi zərər vermə riskinin olduğunu düşündülər və polisə məlumat verilməsini tövsiyə etdilər.
Rəhbərlik isə, "daha yüksək meyar" tətbiq edərək bu tövsiyəni rədd etdi. Hesab bağlandı, amma heç bir xəbərdarlıq edilmədi.
Faciənin Nəticələri
Səkkiz ay sonra, Jesse Van Rootselaar, ailə evində anasını və 11 yaşlı qardaşını öldürdü, sonra Tumbler Ridge Orta Məktəbinə gedərək beşini tələbə olmaqla səkkiz nəfəri öldürdü və 27 nəfəri yaraladı.
OpenAI, indi Kanada Kral Atlı Polisi ilə əlaqə qurdu və hesabat meyarlarını azaldıb, amma bu dəyişikliklər könüllülüdür və Kanadada AI şirkətlərinin təhdidləri bildirməyi tələb edən qanun yoxdur.
Üzr Və Dəyişikliklər
Sam Altman, Tumbler Ridge icmasına açıq məktub yazaraq, "Sözlərin kifayət olmadığını bilsəm də, üzrün zərər və itkiyə diqqət çəkmək üçün vacib olduğuna inanıram" dedi.
Nəticə: OpenAI, təhlükəsizlik meyarlarını yenidən nəzərdən keçirmək ehtiyacını dərk etdi və gələcəkdə bu kimi halların qarşısını almaq üçün tədbirlər gördü.
