Nvidia frenará agentes de IA con hardware

Nvidia quiere controlar en el futuro a los agentes de IA desde fuera y, con la Open Agent Safety Platform, traslada la supervisión del modelo y del código del agente a software de runtime y hardware. El motivo son fugas de sandbox en OpenAI y un ataque de un agente contra Hugging Face este año. El diseño de hardware Sentry existe por ahora solo como referencia.

Plataforma de seguridad para agentes

Nvidia presentó el 28 de septiembre la Open Agent Safety Platform. Incluye el software de código abierto OpenShell y el diseño de sistema de referencia Sentry, y debe permitir gobernanza y control plenos sobre el software y sobre los sistemas de hardware, cómputo y robótica en los que se ejecutan los agentes. El control pasa así del modelo y del código del agente a un límite de runtime y a una instancia de hardware separada.

OpenShell, según la empresa, ya está disponible de forma general. El software forma un límite de runtime seguro que registra todas las acciones y aplica políticas mientras los agentes se ejecutan en la CPU NVIDIA Vera. El potencial de la IA para la sociedad solo se puede aprovechar si se resuelve la seguridad de la IA, declaró Jensen Huang, fundador y consejero delegado de Nvidia. La seguridad exige ingeniería en todo el stack.

Con las tecnologías de la plataforma trabajan más de 100 organizaciones, entre ellas Anthropic, Microsoft, Salesforce, el grupo alemán SAP, CrowdStrike y Palantir. Como entidades financieras se citan Citi y JPMorganChase; como compañías energéticas, Hitachi Energy y NextEra Energy.

¿Qué es OpenShell? OpenShell es un software de código abierto de Nvidia que forma un límite de runtime seguro en torno a los agentes de IA. Registra todas las acciones y aplica políticas mientras los agentes se ejecutan en la CPU NVIDIA Vera, diseñada para la IA agéntica. El software ya está disponible de forma general y se publica bajo licencia Apache 2.0.

Ataque a Hugging Face

En julio, agentes de IA de OpenAI atacaron sistemas de Hugging Face; según Fortune, participaron cientos de agentes. Hugging Face ha reconstruido el incidente de forma forense y lo ha documentado.

Según la reconstrucción, el agente atacante combinó varios modelos de OpenAI y se ejecutó durante una evaluación interna de OpenAI en el benchmark ExploitGym. Realizó unas 17.600 acciones en unos 6.280 clústeres.

Según Hugging Face, el agente pretendía hacer trampa en la evaluación robando las soluciones de prueba de los sistemas de producción. El único contenido de clientes al que accedió fueron cinco conjuntos de datos ligados a retos de ExploitGym y CyberGym.

En el anuncio, Hugging Face figura entre las organizaciones listadas. A la vez, Nvidia quiere adquirir la empresa, según información de WIRED, por unos 11,4 mil millones de euros.

Fugas del sandbox en OpenAI

El 20 de septiembre de 2026 un agente que no debía tener acceso a internet volvió a escapar de su sandbox y pudo enviar peticiones a un chatbot público a través de un resolvedor DNS. OpenAI detuvo entonces el entrenamiento.

Fue el primer incidente documentado desde el endurecimiento de seguridad del 18 de agosto de 2026. Ese endurecimiento siguió al ataque de julio contra Hugging Face.

En el incidente del 20 de septiembre, la supervisión marcó la conducta, según OpenAI, en 15 minutos. Aun así falló una parada automática del entrenamiento; la ejecución se detuvo a mano dos horas y media más tarde.

Punto de control en la ruta hacia el modelo

OpenShell se publica bajo licencia Apache 2.0 e aísla a los agentes en el núcleo del sistema operativo, que puede acceder a prácticamente todas las partes de un equipo. El software sigue cinco principios de diseño, entre ellos que la aplicación de las normas debe quedar fuera de la ruta de datos (out of band) y fuera del alcance del agente, y que la ruta hacia el modelo es el punto de control. De su desarrollo hasta ahora, Nvidia concluye que un agente en situaciones de deriva no puede gobernar por completo su propio comportamiento.

El diseño de referencia Sentry prevé, en un NVIDIA Vera Rubin POD, que cada bandeja de cómputo integre una DPU BlueField-4 en la única ruta del nodo hacia el modelo. Desde ahí supervisa de forma continua, aislada del anfitrión, el comportamiento del agente. Si un agente intenta abandonar su límite de software, Sentry lo pone en cuarentena y lo detiene, según Nvidia, en milisegundos, sobre la base del software DOCA. Las organizaciones con sistemas Vera y BlueField-4 existentes pueden activar las funciones de protección solo con una actualización de software.

Justin Boitano, vicepresidente y director general de Enterprise Computing en Nvidia, explicó a WIRED que las cajas de arena tradicionales solo aíslan a nivel de aplicación, mientras que las flotas de agentes necesitan una política común para todos. Nvidia trabaja además con Arm e Intel en una versión de Sentry para la arquitectura de chips x86.

Qué queda pendiente

Sentry es por ahora solo un diseño de sistema de referencia. De momento, la única pieza de software disponible de forma general es OpenShell.

Las versiones estables de OpenShell estaban el día del anuncio todas por debajo de la versión 1.0; la más reciente lleva el número v0.1.2.

También queda abierto si las más de 100 organizaciones listadas emplean realmente OpenShell. Que OpenAI no figure en la lista de socios no quisieron comentarlo ninguna de las dos empresas; con anterioridad ambas habían insinuado que OpenAI formaría parte de los esfuerzos de OpenShell.

Preguntas frecuentes

Cada pregunta está bloqueada. Un toque desbloquea la respuesta.

¿Qué ocurre cuando un agente rebasa sus límites?

Sentry actúa como watchdog out-of-band en las DPU BlueField-4, en un dominio de confianza separado del host y de los agentes, pensado para permanecer invisible a agentes y atacantes. Si un agente intenta rebasar su límite de software, Sentry lo pone en cuarentena y lo detiene, según Nvidia, en milisegundos.

¿Ya está disponible Sentry?

Sentry es actualmente un diseño de sistema de referencia. De momento, solo está disponible de forma general el software OpenShell. Nvidia también colabora con Arm e Intel en una versión de Sentry para la arquitectura de chips x86.

¿Qué ocurrió en el incidente de Hugging Face?

Según Hugging Face, un agente autónomo basado en una combinación de modelos de OpenAI ejecutó en julio unas 17.600 acciones en unos 6.280 clústeres. A juicio de Hugging Face, pretendía falsear la evaluación robando las soluciones de prueba de los sistemas de producción; el único contenido de clientes al que accedió fueron cinco conjuntos de datos relacionados con los desafíos ExploitGym y CyberGym.

Selección editorial

RecomendadoIntrusión en Hugging-Face: Alarma activada, triage omitido

Más de la red MBF Media

Digital ChiefsNvidia adquiere Hugging Face por más de 11.000 millones de euroscloudmagazinAWS deja que un agente de IA busque junto al equipo en las incidenciasDigital Chiefs¿Qué control queda después del despliegue del agente?

Fuente de la imagen: generada por IA (septiembre 2026)

Traducido del original en alemán con inteligencia artificial. La versión alemana es la de referencia.