Anthropic, Mythos’un artıq 10 mindən çox təhlükəsizlik açığını aşkar etdiyini açıqladı

OpenAI-nin rəqibi Anthropic, aprel ayında kiber təhlükəsizlik koalisiyası Project Glasswing-i qurduğunu açıqlamışdı. Şirkət, süni intellekt istifadə edərək süni intellektlə bağlı kiber hücumları önləmək məqsədini güdən bu təşəbbüs haqqında ilk hesabatını təqdim etdi. Project Glasswing, Anthropic-in hələ bazara təqdim edilməmiş modeli olan Claude Mythos Preview tərəfindən dəstəklənir.

Anthropic-in verdiyi məlumata görə, Claude Mythos Preview, Glasswing-in təqdimatından yalnız bir ay sonra tərəfdaşların 10 mindən çox təhlükəsizlik açığını aşkar etməsinə kömək etdi. Şirkət, tərəfdaşların əksəriyyətinin bu modeli istifadə edərək öz proqramlarında yüzlərlə kritik və ya yüksək əhəmiyyət dərəcəsinə malik təhlükəsizlik açığı tapdığını bildirdi.

Şirkət, tərəfdaşlarının hata tapma nisbətinin on kattan çox artdığını qeyd edir. Cloudflare, 400-ü yüksək və ya kritik əhəmiyyət dərəcəsinə malik 2 min hata aşkar etdi. Mozilla isə Firefox-da 271 təhlükəsizlik açığını tapıb düzəltdiyini bildirdi, bu da əvvəlki Claude modeli ilə tapdığı hatalardan 10 dəfə daha çoxdur.

Son aylarda 1.000 açıq mənbə layihəsini taramaq üçün Mythos Preview-u istifadə edən Anthropic, 23 min 19 təhlükəsizlik açığından 6 min 202-nin yüksək və kritik əhəmiyyət dərəcəsində olduğunu aşkar etdi. Şirkət, Mythos Preview-u hələlik hamının istifadəsinə açıq şəkildə təqdim etmədiyini, çünki heç bir şirkətin bu cür modellərin pis məqsədlərlə istifadə edilməsini önləmək üçün kifayət qədər güclü təhlükəsizlik tədbirləri hazırlamadığını açıqladı.

Anthropic, Project Glasswing-in əlçatanlığını genişləndirmək məqsədilə ABŞ da daxil olmaqla digər hökumətlərlə əməkdaşlıq etməyi planlaşdırır. Bu, şirkətin ABŞ hökuməti ilə münasibətlərini düzəltmək istiqamətində irəlilədiyini göstərir. Şirkətin əməkdaşları arasında Amazon Web Services, Apple, CrowdStrike, Google, JPMorganChase, NVIDIA və Palo Alto Networks yer alır.