OpenAI, süni intellekt agentlərini təhlükəsizləşdirmək üçün Promptfoo təşəbbüsünü satın alır

Süni intellekt dünyasının lider şirkəti OpenAI, otonom agentlərinin təhlükəsizliyini artırmaq və infrastrukturunu gücləndirmək məqsədilə strateji bir satınalma həyata keçirir. Şirkət, süni intellekt modellərinə qarşı kiber hücumları, zərərli komandaları və komanda manipulyasiyasını (prompt injection) test edən Promptfoo təşəbbüsünü özünə qatdığını elan etdi.

Bu mühüm addım, istifadəçinin yerinə müstəqil və kompleks tapşırıqları yerinə yetirə bilən süni intellekt agentlərinin daha etibarlı bir infrastrukturda fəaliyyət göstərməsini təmin etməyi hədəfləyir. Otonom süni intellekt agentləri, maliyyə əməliyyatlarından e-poçt idarəçiliyinə qədər bir çox kritik vəzifəni insan müdaxiləsi olmadan yerinə yetirmək potensialına malikdir.

Ancaq bu mürəkkəb sistemlərin xaricdən gələn zərərli komandalar qarşısında müdafiəsiz qalma riski, texnologiya dünyasında ciddi bir təhlükəsizlik narahatlığı yaradır. Promptfoo komandası tərəfindən hazırlanan açıq mənbəli test alətləri, böyük dil modellərinin zəif nöqtələrini əvvəlcədən aşkar edib hesabat verir.

OpenAI, bu yeni inteqrasiya ilə inkişaf etdiricilərə daha qorunan bir ekosistem təqdim edərək, mümkün məlumat pozuntularının və icazəsiz əməliyyatların qarşısını almağı planlaşdırır. Yeni struktura görə, Promptfoo komandası birbaşa OpenAI-nin kiber təhlükəsizlik tədqiqatları departamentinə daxil olur.

Süni intellekt təhlükəsizliyi, son dövrlərdə texnologiya nəhəngləri arasında ən çox büdcə ayrılan və sərmayə qoyulan sahələrdən biridir. OpenAI, korporativ müştərilərinə məlumat gizliliyi və kiber təhlükəsizlik məsələlərində əminlik verərək, bazar liderliyini daha da möhkəmləndirmək istəyir.