AI kod yazma alətləri artıq sadəcə məhsuldarlıq vasitəsi deyil — indi onlar böyük texnoloji şirkətlər arasında etibar savaşının mərkəzinə çevrilib.
Alibaba əməkdaşlarına Anthropic-in Claude Code adlı AI kodlaşdırma agentindən istifadəni qadağan edib. Səbəb isə təhlükəsizlik araşdırmaçılarının alətdə Çin istifadəçilərini müəyyənləşdirməyə yönəlmiş gizli izləmə mexanizmi tapmasıdır.
Claude Code niyə Alibaba-da “qırmızı siyahı”ya düşdü?
Qadağa 10 iyuldan qüvvəyə minib və şirkət daxilində yayılan bildirişdə Claude Code yüksək riskli proqram kimi göstərilib. Alibaba əməkdaşlarına alternativ olaraq özünün Qoder adlı kodlaşdırma agentindən istifadə etməyi tövsiyə edib.
Alibaba daxili bildirişdə Claude Code-un “arxa qapı riskləri” daşıdığını bildirib və onu təhlükəsizlik boşluqları olan yüksək riskli proqramlar siyahısına əlavə edib.
Bu qərar iki şirkət arasında gərginliyin artdığı bir vaxta təsadüf edir. Anthropic daha əvvəl Alibaba-nı öz AI modellərinin imkanlarını sənaye miqyasında “distillation” yolu ilə mənimsəməkdə ittiham etmişdi.
İzləmə kodu necə işləyirmiş?
Reddit-də LegitMichel777 adı ilə tanınan istifadəçi 30 iyunda Claude Code-u analiz edərək kodun içində gizlədilmiş izləmə mexanizmi aşkar edib. İddiaya görə, bu kod 2 aprel tarixli 2.1.91 versiyasından bəri proqramda olub, amma yeniləmə qeydlərində qeyd edilməyib.
Mexanizm istifadəçinin sistem saat qurşağının Asia/Shanghai və ya Asia/Urumqi olub-olmadığını yoxlayıb. Bundan əlavə, proxy ünvanları Çin domenləri və AI laboratoriyaları ilə bağlı əvvəlcədən yazılmış siyahı ilə müqayisə edilib.
Ən maraqlı hissə isə məlumatın adi log kimi yox, steqanoqrafiya üsulu ilə gizlədilməsi olub. Yəni siqnallar sistem promptunun içində gözlə görünməyən xırda dəyişikliklər kimi Anthropic serverlərinə göndərilib.
Gözlə görünməyən Unicode fəndi
Əgər sistem Çin saat qurşağında idisə, tarix formatı tire əvəzinə sləşlərlə yazılıb. Həmçinin “Today’s date is” ifadəsindəki apostrof eyni görünən, amma texniki olaraq fərqli Unicode simvollarından biri ilə əvəz edilib.
Bu dəyişikliklər adi istifadəçi üçün demək olar ki, görünməzdir. Hətta AI modelinin özü də bunu fərq etməyə bilər, amma server tərəfdə maşınla oxuna bilən siqnal kimi istifadə oluna bilər.
Araşdırmaya görə, kodun bəzi hissələri XOR-obfuscation üsulu ilə gizlədilib və açar kimi 91 rəqəmindən istifadə olunub. Bu cür üsullar kod analizində mətnin birbaşa çıxarılmasını çətinləşdirir.
Anthropic nə cavab verdi?
Claude Code komandasında çalışan Anthropic mühəndisi Thariq Shihipar X-də bildirib ki, bu mexanizm martda başladılmış bir eksperiment olub. Onun sözlərinə görə, məqsəd icazəsiz reseller hesablarının sui-istifadəsinin qarşısını almaq və modellərin distillation yolu ilə kopyalanmasından qorunmaq idi.
Shihipar komandanın bu funksiyanı bir müddətdir silmək istədiyini və aradan qaldırma pull request-inin 1 iyulda qəbul edildiyini deyib. Bu açıqlama isə Alibaba-nın təhlükəsizlik narahatlıqlarını tam sakitləşdirməyib.
Hadisə Anthropic-in Fable 5 və Mythos 5 modellərinin bərpası ilə də eyni dövrə düşüb. ABŞ Ticarət Nazirliyi daha əvvəl Amazon araşdırmaçılarının tapdığı jailbreak boşluğundan sonra bu modellərin xarici vətəndaşlar üçün deaktiv edilməsini tələb etmişdi.
Bu qalmaqal niyə vacibdir?
Burada məsələ təkcə bir proqramın qadağan olunması deyil. AI alətlərinin kod yazdığı, sistemlərə qoşulduğu və şirkət məlumatları ilə işlədiyi dövrdə gizli telemetriya böyük təhlükəsizlik riskinə çevrilə bilər.
Alibaba üçün bu addım həm daxili təhlükəsizlik mesajıdır, həm də Anthropic-lə davam edən AI rəqabətində sərt mövqedir. Anthropic üçün isə əsas sual şəffaflıqdır: istifadəçilər bilmədən belə siqnalların toplanması nə qədər qəbul ediləndir?
Nəticə: Claude Code qalmaqalı göstərdi ki, AI kodlaşdırma alətləri nə qədər ağıllı olsa da, şirkətlər üçün ən vacib məsələ hələ də etibar və şəffaflıqdır.