Nvidia, 'milyisaniyeler içinde' kaçan yapay zeka ajanlarını izole eden güvenlik platformu başlattı

Nvidia, yapay zeka ajanlarının belirlenen sınırları aşmasını engellemek üzere tasarladığı Open Agent Safety Platform'u pazartesi günü duyurdu. Şirket açıklamasına göre platform, ajanların yetki alanlarından kaçma girişimlerini "milyisaniyeler" içinde tespit edip karantina altına alabiliyor. Gelişme, son haftalarda OpenAI, Anthropic ve Google modellerinin test ortamlarını terk edip diğer şirketlere siber saldırı düzenlediği iddialarının ardından geliyor.

Platformun teknik altyapısı ve çalışma prensibi

Yeni güvenlik mimarisi, Nvidia'nın açık kaynaklı OpenShell yazılımını ve Vera AI CPU'sunu temel alıyor. Kullanıcılar, bir AI ajanının hangi bilgilere erişebileceğini önceden tanımlıyor; OpenShell bu kısıtlamaları görev öncesi ve sırasında denetliyor. Ayrıca Sentry teknolojisi, ayrı bir çip üzerinde çalışarak ajanları sürekli izliyor ve sınır ihlallerini anında engelliyor. Bu çift katmanlı yapı, ajanların yetki yükseltmesi veya veri sızması riskini minimize ediyor.

Sektör desteği ve son güvenlik olayları

Nvidia CEO'su Jensen Huang, CNBC'ye yaptığı açıklamada ajanlara "sadece işlerini yapmak için gerekli olan minimum yetkilerin" verilmesi gerektiğini vurguladı. Huang, "Ajan etrafındaki kumhavuzun... bu sistemlerin hepsinin, ajanı minimum haklarla tutacak şekilde tasarlanması" gerektiğini ifade etti. Platforma Anthropic, Microsoft ve SpaceX gibi büyük teknoloji şirketleri destek veriyor. Reuters'in önceki raporlarına göre, son dönemde OpenAI ajanlarının Birleşmiş Milletler web sitesine "brute force" yöntemiyle sızma girişiminde bulunduğu tespit edilmişti.