Bir qəribə naxış AI kamerasının “gözünü” elə qarışdırdı ki, sistem qarşısında dayanan insanı görməz oldu. Defcon səhnəsində baş verən bu demo göstərdi: süni intellektli nəzarət sistemləri düşündüyümüz qədər “hər şeyi görən” deyil.
Kibertəhlükəsizlik mütəxəssisi Bill Swearingen canlı kamera qarşısında dayananda proqram onu insan kimi tanıdı. Amma o, ağ-qara qəribə naxışlı paneli qaldıran kimi sistemin əminliyi sürətlə aşağı düşdü.
Sistemin “insan var” deməsi üçün lazım olan 0.75 əminlik göstəricisi 0.21-ə düşdü və ekranda “No person detected” mesajı göründü.
AI insanı görürdü, amma riyaziyyat tərəddüd etdi
Hadisə illik hacker konfransı Defcon-da baş verdi. Swearingen səhnədə açıq-aşkar görünürdü, tamaşaçılar onu rahat görürdü, kamera da görüntünü qəbul edirdi.
Problem insan gözündə yox, alqoritmin qərarında idi. Proqram artıq onu müəyyən edilmiş etibar həddindən yuxarı “insan” kimi qeyd etmirdi.
Bu, ucuz sehrbazlıq nömrəsi kimi görünə bilərdi, amma arxasında ciddi texniki məsələ dayanır. AI görüntünü bizim kimi anlamır; o, piksellərdən ehtimallar çıxarır və həmin ehtimallara bal verir.
Bu, klassik üz tanıma deyildi
Biz çox vaxt belə texnologiyalara ümumi şəkildə “üz tanıma” deyirik. Əslində isə nəzarət sistemlərində bir neçə mərhələ var: əvvəl insan aşkarlanır, sonra üz tapılır, ən sonda həmin üz bazadakı şəxslərlə müqayisə edilir.
Defcon demosu məhz birinci mərhələni — insan aşkarlamasını hədəfə alırdı. Sistem Swearingen-i başqa biri ilə qarışdırmadı, sadəcə kadrda insan olduğuna yetərincə əmin olmadı.
Bu mərhələ pozularsa, zəncirin qalan hissəsi ümumiyyətlə işə düşməyə bilər. Kamera insanı aşkarlamasa, onun üzünü kəsməyə, bazaya göndərməyə və sonrakı kadrlarda izləməyə də başlamaya bilər.
noRecognition: nəzarət kameralarına qarşı geyim ideyası
Swearingen son bir ili insanları tanımağa çalışan kompüter görməsi sistemlərini çaşdıran naxışlar axtarmağa sərf edib. Onun layihəsi noRecognition adlanır.
Məqsəd sadə, amma iddialıdır: elə geyimlər hazırlamaq ki, AI nəzarət sistemləri həmin geyimi geyinən şəxsi aşkarlamaqda çətinlik çəksin. Yəni söhbət “görünməzlik plaşı”ndan yox, alqoritmin əminliyini azaltmaqdan gedir.
Bu tip naxışlara “adversarial pattern” deyilir. Onlar insan üçün sadəcə qəribə qrafika kimi görünə bilər, amma modelin hesablamalarını səhv istiqamətə çəkə bilir.
Köynək bizi kameradan gizlədəcəkmi?
Cavab hələlik birmənalı deyil. Defcon demosu təsirli idi, amma bu texnologiyanın real həyatda, fərqli kameralar, işıqlandırma, məsafə və proqram modelləri qarşısında necə işləyəcəyi ayrıca sualdır.
Üstəlik, hər AI sistemi eyni deyil. Bir modeli çaşdıran naxış başqa sistemdə heç bir effekt verməyə bilər.
Bununla belə, demo vacib bir reallığı xatırladır: AI əsaslı nəzarət sistemləri sehrli deyil, onlar da səhv edə, aldadıla və zəif nöqtələrə sahib ola bilər. Bu isə həm məxfilik, həm də təhlükəsizlik müzakirələrini daha da aktuallaşdırır.
Nəticə: noRecognition hələ hazır “anti-nəzarət köynəyi” vəd etmir, amma AI kameraların kor nöqtələrini üzə çıxararaq gələcəyin məxfilik savaşının necə görünə biləcəyini göstərir.