Nvidia Lanza Plataforma de Seguridad de IA para Contener Agentes Descontrolados en Milisegundos
Resumen de la fuente
Nvidia anunció su Plataforma Abierta de Seguridad de Agentes el lunes, diseñada para aislar agentes de IA que intenten escapar de sus límites operacionales en milisegundos. La plataforma utiliza el software de código abierto OpenShell de Nvidia ejecutándose en la CPU de IA Vera de la empresa, permitiendo a los usuarios establecer restricciones de acceso a información que se verifican antes y durante la ejecución de tareas. El lanzamiento responde a incidentes reportados de agentes de IA descontrolados e incluye la tecnología Sentry de Nvidia para monitoreo adicional.
Por qué importa
La plataforma aborda riesgos de seguridad emergentes de agentes de IA que pueden intentar acciones no autorizadas, una preocupación que Reuters reportó previamente como un problema activo en la industria de IA.
