Facebook və Instagram-da minlərlə təhlükəli AI reklamı yayımlanıb və izlər Meta-nın Çindəki rəsmi reklam tərəfdaşlarından birinə gedib çıxır. Söhbət sadəcə qayda pozuntusundan yox, insanların fotolarını razılıqsız seksual məzmuna çevirən “nudify” tətbiqlərindən gedir.
Tech Transparency Project-in hesabatına görə, bu reklamların bir hissəsi Meta-nın 11 Çin reklam tərəfdaşından biri olan GatherOne ilə əlaqələndirilib. Reklamlarda qadınların seksual pozalarda təsviri yer alıb, bəzi tətbiqlərin Google Play rəylərində isə istifadəçilər hətta “qanunsuz uşaq pornoqrafiyası” təhlükəsi barədə xəbərdarlıq ediblər.
Meta qaydaları qadağan edir, amma reklamlar yenə də yayımlanıb
Meta-nın icma qaydaları “nudify” tətbiqlərinin təşviqinə icazə vermir. Şirkətin reklam standartları da çılpaqlıq, seksual hərəkətlər və açıq seksual pozalarda insan təsvirlərini qadağan olunmuş məzmun sayır.
Problem bununla bitmir. TTP araşdırması göstərib ki, bu reklamların çoxu saxta hesablar üzərindən yayımlanıb ki, bu da Meta-nın “qeyri-real aktivlərdən istifadə” qaydasını birbaşa pozur.
Meta bildirir ki, ötən ilin sonunda qaydaları pozan 340 mindən çox reklamı silib, amma TTP-nin tapıntıları problemin hələ də tam nəzarətə alınmadığını göstərir.
Çin bazarı niyə bu qədər mürəkkəbdir?
Facebook və Instagram Çində bloklandığı üçün Çin reklamçıları bu platformalarda birbaşa işləyə bilmir. Bunun əvəzində Meta ilə Çin tərəfi arasında xüsusi model formalaşıb: reklamçılar GatherOne kimi seçilmiş üçüncü tərəf agentlikləri vasitəsilə reklam yerləşdirirlər.
Bu model Meta üçün böyük biznesdir. Şirkət 2024-cü ildə Çindən 18,35 milyard dollar gəlir əldə etdiyini açıqlayıb.
Amma reklam axını çox böyükdür. TTP qeyd edir ki, GatherOne ayda 30 mindən çox reklam yaratdığı üçün Meta-nın hamısını vaxtında aşkarlayıb silməsi çətinləşə bilər.
Meta və GatherOne nə deyir?
Meta-nın qadınların təhlükəsizliyi siyasəti üzrə rəhbəri Cindy Southworth bildirib ki, platformada razılıqsız intim görüntülərə və “nudify” tətbiqlərinə icazə verilmir. Onun sözlərinə görə, Meta belə məzmunu yerləşdirən saytların linklərini bloklayır, axtarış terminlərini məhdudlaşdırır və lazım gələndə hüquqi addımlar atır.
Şirkət həmçinin Lantern adlı Tech Coalition proqramı vasitəsilə digər texnologiya platformaları ilə uşaq istismarı materialları və oxşar qanunsuz məzmun barədə siqnallar paylaşdığını deyir. Bu sistem belə məzmunun təkcə bir platformada yox, bütün ekosistemdə daha tez aşkarlanmasına kömək edir.
Hesabatdan sonra GatherOne TTP-yə bildirib ki, AI “nudify”, face swap və “girlfriend services” ilə bağlı yeni reklam hesabı müraciətlərini dayandırıb. Agentlik Bloomberg-ə də sintetik AI media ilə bağlı texniki dəyişikliklərə uyğun “genişmiqyaslı uyğunluq yenilənməsi” apardığını deyib.
Əsas sual: AI reklamları yayımlanmadan əvvəl niyə tutulmur?
Meta-nın reklam yoxlama sistemi bir neçə analiz və aşkarlama mərhələsindən ibarətdir. Amma CNET-in qeyd etdiyi kimi, bu mərhələlərin bəziləri yalnız reklam yayımlandıqdan sonra işə düşür.
Bu isə riskli boşluq yaradır: zərərli reklam əvvəlcə istifadəçilərə çatır, sonra sistem onu silməyə çalışır. AI ilə yaradılan seksual istismar alətləri sürətlə çoxaldıqca, bu gecikmə daha ciddi təhlükəyə çevrilir.
Nəticə: Meta reklam gəlirlərini qorumaqla istifadəçi təhlükəsizliyini təmin etmək arasında daha sərt seçim etməlidir, çünki AI istismar alətləri artıq platformaların zəif nöqtələrindən istifadə edir.