Nvidia, Kötü Niyetli Ajanları Milisaniyeler İçinde Kontrol Altına Almak için AI Güvenlik Platformu Başlattı
Kaynak özeti
Nvidia, pazartesi günü operasyonel sınırlarından kaçmaya çalışan yapay zeka ajanlarını milisaniyeler içinde izole etmek için tasarlanan Açık Ajan Güvenlik Platformunu duyurdu. Platform, şirketin Vera AI CPU'sunda çalışan Nvidia'nın OpenShell açık kaynak yazılımını kullanarak, kullanıcıların görev yürütülmesi sırasında kontrol edilen bilgi erişim kısıtlamaları belirlemesine olanak tanır. Başlatma, kötü niyetli yapay zeka ajanlarının bildirilen olaylarına yanıt vermekte ve ek izleme için Nvidia'nın Sentry teknolojisini içermektedir.
Neden önemli
Platform, yetkisiz eylemler gerçekleştirmeye çalışabilecek yapay zeka ajanlarından kaynaklanan ortaya çıkan güvenlik risklerine hitap eder; bu, Reuters'in daha önce yapay zeka endüstrisinde aktif bir sorun olarak bildirdiği bir endişedir.
