OpenAI, ChatGPT üçün məlumat təhlükəsizliyini artıran “Lockdown Mode” xüsusiyyətini təqdim etdi

Süni intellekt ekosistemində məlumat təhlükəsizliyi narahatlıqları artdıqca, OpenAI platformasını kiber təhdidlərə qarşı daha qorunmuş hala gətirən əhəmiyyətli bir addım atır. Şirkət, xüsusilə son dövrlərdə tez-tez rast gəlinən və sistemin təhlükəsizlik boşluqlarını hədəf alan komut manipulyasiyası (prompt injection) hücumlarına qarşı yeni bir təhlükəsizlik qatmanı olan Lockdown Mode xüsusiyyətini rəsmi olaraq təqdim edir.

Bu yeni mod, pis niyyətli istifadəçilərin söhbət robotunu manipulyasiya edərək sistemdəki həssas məlumatlara daxil olmasını tamamilə əngəlləyir. İstifadəçilər süni intellekt assistentini bu modda işə saldıqda, arxa plandakı bütün məlumat axını daha sərt bir nəzarət prosesindən keçir. Bu addım, məlumat gizliliyini maksimuma çatdırarkən, sistemin xaricdən gələ biləcək manipulyativ komutlara qarşı müqavimətini artırır.

Komut manipulyasiyası hücumları, pis niyyətli şəxslərin süni intellekt sistemlərinə xüsusi olaraq hazırlanmış mətnlər göndərərək modelin öz təhlükəsizlik qaydalarını pozmasını təmin edir. Lockdown Mode, tam da bu nöqtədə işə düşərək modelin aldığı komutları standart işleyişindən daha fərqli və sərt bir filtrasiya mexanizmi ilə analiz edir. Sistem, şübhəli bir komut dizisi və ya verilənlər bazasından məlumat sızdırmağa yönəlmiş bir yönləndirmə aşkar etdikdə, söhbəti dərhal dondurur və ya tələbini birbaşa rədd edir.

Bəzi istifadəçilər üçün çox sərt görünə bilsə də, bu xüsusiyyət korporativ şirkətlərin və gizlilikə önəm verən şəxslərin ən böyük təhlükəsizlik narahatlıqlarını köklü şəkildə həll edir. Söhbət robotu bu sayədə mürəkkəb hücum vektorlarına qarşı virtual bir qalxan yaradır. Bu yeni təhlükəsizlik memarlığı, xüsusilə müştəri məlumatları və şirkət daxili gizli sənədlərlə işləyən peşəkarlar üçün son dərəcə qorunmuş bir iş sahəsi təqdim edir.