Meta daxilində süni intellekt üçün yaradılan işçi izləmə aləti gözlənilmədən dayandırıldı. Səbəb isə proqramın topladığı həssas məlumatların şirkət daxilində daha geniş görünə bilməsi ilə bağlı təhlükəsizlik problemidir.
Model Compatibility Initiative, qısaca MCI, əməkdaşların kompüterdə necə işlədiyini izləyərək AI sistemlərinə “insan kimi” proqramlardan istifadə etməyi öyrətmək üçün hazırlanmışdı.
AI öyrətmək üçün klaviatura və ekran izlənirdi
Meta MCI alətini apreldə ABŞ-dakı əməkdaşlarına təqdim etmişdi. İşçilərin iddiasına görə, alət mouse hərəkətlərini, klik yerlərini, klaviatura düymələrini və ekran məzmununu toplayırdı.
Əvvəlcə əməkdaşların bu sistemdən imtina etmək seçimi yox idi. Etirazlardan sonra isə Meta müəyyən məhdud çərçivədə opt-out imkanı yaratdı.
MCI “mouse hərəkətləri, klik yerləri, klaviatura toxunuşları və ekran məzmunu” kimi məlumatları toplayırdı.
Daxili sızıntı narahatlığı böyütdü
Bazar ertəsi bir Meta mühəndisi daxili təhlükəsizlik xəbərdarlığı yayıb. Bildirişdə MCI vasitəsilə toplanan məlumatların saxlandığı bazaların şirkət daxilində hər kəs üçün açıq qaldığı qeyd olunub.
Meta sözçüsü Tracy Clayton bildirib ki, hazırda məlumatların əməkdaşlar tərəfindən düzgün olmayan şəkildə əldə edildiyinə dair sübut yoxdur. Bununla belə, şirkət araşdırma bitənə qədər proqramı dayandırdığını açıqlayıb.
İşçilər bunu çoxdan gözləyirmiş
MCI-yə qarşı çıxan keçmiş Meta əməkdaşlarından biri bu vəziyyəti “qarışıqlıq” kimi təsvir edib. Onun sözlərinə görə, işçilər təhlükəsizlik və məxfilik riskləri barədə xəbərdarlıq etsələr də, rəhbərlik bu narahatlıqları ciddi qəbul etməyib.
Meta rəhbərliyi isə layihəni dəfələrlə müdafiə etmişdi. Şirkətin arqumentinə görə, AI sistemlərinin kompüter proqramlarını real insanlar kimi idarə etməyi öyrənməsi üçün ən yaxşı nümunə elə əməkdaşların gündəlik iş prosesi idi.
Meta niyə geri addım atdı?
Təhlükəsizlik problemi ortaya çıxandan sonra Meta-nın daxili forumlarında sərt tənqidlər artıb. İşçilər həm məxfilik, həm də şirkət daxilində etimad məsələsinin zədələndiyini bildiriblər.
Maraqlısı budur ki, şirkət MCI-nin dayandırılması xəbərini əvvəlcə WIRED-ə təsdiqləyib, daha sonra əməkdaşlara məlumat verib. Bu da Meta daxilində qərarın nə qədər həssas qəbul edildiyini göstərir.
Nəticə: Meta-nın MCI hadisəsi göstərir ki, AI inkişafı üçün məlumat toplamaq vacib olsa da, məxfilik və etimad pozularsa, ən ambisiyalı texnologiya layihəsi belə dayana bilər.