Süni intellekt dünyasının nəhəngi Anthropic, açıq mənbə layihələri üçün maraqlı bir təkliflə çıxış edib: pulsuz təhlükəsizlik skanları. Bu yeni xidmət, açıq mənbə cəmiyyəti üçün böyük bir dəstək vəd edir.
“OSS Scanner” adlanan bu yeni xidmət, layihələrin təhlükəsizlik zəifliklərini aşkarlamaq üçün Anthropic-in ən güclü modellərindən, o cümlədən Mythos-dan istifadə edəcək.
Yeni Xidmətin Detalları
Anthropic-in bildirdiyinə görə, bu xidmətdən yararlanmaq istəyən açıq mənbə layihələri, "ən güclü modellərimiz tərəfindən hərtərəfli, dövri təhlükəsizlik skanları" alacaqlar. Ən əsası isə, bu xidmət tamamilə ödənişsiz olacaq.
Bu, açıq mənbə layihələrinin potensial təhlükəsizlik problemləri barədə daha tez xəbərdar ola biləcəyi anlamına gəlir. Lakin bu xidmətin bir əvəzi də var: OSS Scanner hesabatları insan tərəfindən nəzərdən keçirilmir.
“Bu opt-in zəiflik skanerinin nəticələri insan nəzərdən keçirməsi və ya triajı olmadan tamamilə model tərəfindən yaradılacaq. Bu, daha sürətli və tez-tez skan etməyə imkan verəcək, lakin hesabatların səhv və ya etibarsız ola biləcəyi deməkdir.”
AI-ın Təhlükəsizlikdə Rolu
OSS Scanner, süni intellektin səhvləri aşkar etməyə kömək edən ilk vasitə deyil. Son aylarda AI alətləri, demək olar ki, hər Linux distribyutoruna təsir edən "Copy Fail" səhvi kimi bir sıra böyük təhlükəsizlik qüsurlarının tapılmasına kömək edib.
Eyni zamanda, bəzi açıq mənbə layihələri, o cümlədən Linus Torvalds və hətta Google, süni intellekt tərəfindən yaradılan səhv hesabatlarının qəfil axını ilə ayaqlaşmaqda çətinlik çəkirlər.
Nəticə: Anthropic-in pulsuz OSS Scanner xidməti, açıq mənbə layihələri üçün təhlükəsizliyi gücləndirmək üçün əhəmiyyətli bir addımdır, baxmayaraq ki, hesabatların insan nəzarəti olmadan yaradılması bəzi qeyri-dəqiqliklərə yol aça bilər.