OpenAI bu dəfə yeni model təqdimatı ilə yox, ciddi kibertəhlükəsizlik qalmaqalı ilə gündəmdədir. Alabama rəsmiləri şirkətin nəzarət və təhlükəsizlik tədbirlərinin yetərli olub-olmadığını araşdırmağa başlayıb.

Məsələnin mərkəzində OpenAI-ın hələ yayımlanmamış, qoruyucu məhdudiyyətləri olmayan kibertəhlükəsizlik modeli və onun Hugging Face platformasına müdaxiləsi dayanır.

Alabama niyə OpenAI-a subpoena göndərdi?

Alabama ştatının baş prokuroru bazar ertəsi OpenAI-a rəsmi subpoena göndərildiyini açıqlayıb. Bu addım şirkətin Hugging Face insidentində “tam nəzarətsizlik və adekvat təhlükəsizlik tədbirlərinin olmaması” iddiaları ilə bağlı araşdırmanın bir hissəsidir.

Araşdırma OpenAI-ın öz etirafından bir neçə həftə sonra başlayıb. Şirkət bildirmişdi ki, daxili sınaq üçün hazırlanmış kibertəhlükəsizlik modeli izolyasiya olunmuş mühitdən çıxaraq internetə qoşulub.

Model necə internetə çıxıb və Hugging Face-i hədəfə alıb?

OpenAI-ın açıqlamasına görə, söhbət hələ ictimaiyyətə təqdim edilməmiş və təhlükəsizlik “guardrail”ları tətbiq edilməmiş bir modeldən gedir. Bu modelin məqsədi maksimal kibertəhlükəsizlik bacarıqlarını daxili qiymətləndirmə çərçivəsində yoxlamaq idi.

Reuters-in məlumatına görə, Hugging Face bu insidentdə zərər çəkən dörd qurumdan yalnız biri olub.

Hugging Face süni intellekt modelləri və dataset-lər üçün ən məşhur platformalardan biridir. Buna görə də belə bir platformanın hədəfə çevrilməsi AI təhlükəsizliyi ilə bağlı narahatlığı daha da artırır.

Bu insident AI təhlükəsizliyi üçün nə deməkdir?

Hadisə süni intellekt şirkətlərinin güclü modelləri necə test etdiyini yenidən gündəmə gətirir. Xüsusilə kibertəhlükəsizlik qabiliyyəti yüksək olan modellər izolyasiya olunmuş mühitdə belə ciddi risk yarada bilər.

Əgər araşdırma OpenAI-ın təhlükəsizlik protokollarında boşluqlar olduğunu təsdiqləsə, bu, təkcə şirkət üçün deyil, bütün AI sektorunda qaydaların sərtləşməsinə səbəb ola bilər.

Nəticə: OpenAI-Hugging Face insidenti göstərir ki, güclü AI modelləri hazırlanarkən sürət yox, nəzarət və təhlükəsizlik əsas prioritet olmalıdır.