{"id":24411,"date":"2026-09-28T09:00:00","date_gmt":"2026-09-28T09:00:00","guid":{"rendered":"https:\/\/www.securitytoday.de\/?p=24411"},"modified":"2026-10-01T16:50:29","modified_gmt":"2026-10-01T16:50:29","slug":"nvidia-frenara-agentes-de-ia-con-hardware","status":"publish","type":"post","link":"https:\/\/www.securitytoday.de\/es\/2026\/09\/28\/nvidia-frenara-agentes-de-ia-con-hardware\/","title":{"rendered":"Nvidia frenar\u00e1 agentes de IA con hardware"},"content":{"rendered":"<p><strong>Nvidia quiere controlar en el futuro a los agentes de IA desde fuera y, con la Open Agent Safety Platform, traslada la supervisi\u00f3n del modelo y del c\u00f3digo del agente a software de runtime y hardware. El motivo son fugas de sandbox en OpenAI y un ataque de un agente contra Hugging Face este a\u00f1o. El dise\u00f1o de hardware Sentry existe por ahora solo como referencia.<\/strong><\/p>\n<div style=\"background:#003340;color:#fff;padding:32px 36px;margin:32px 0;border-radius:8px;\">\n<p style=\"color:#69d8ed;text-transform:uppercase;letter-spacing:0.08em;font-size:0.82em;font-weight:700;margin:0 0 16px;\">Lo m\u00e1s importante en resumen<\/p>\n<ul style=\"margin:0;padding-left:20px;line-height:1.7;\">\n<li style=\"margin-bottom:10px;\"><strong style=\"color:#69d8ed;\">Nvidia traslada el control de los agentes de IA del modelo y del c\u00f3digo del agente al runtime y al hardware.<\/strong> OpenShell aplica pol\u00edticas en un l\u00edmite de runtime seguro; Sentry vigila el comportamiento del agente en un dominio de confianza separado del host y de los agentes.<\/li>\n<li style=\"margin-bottom:10px;\"><strong style=\"color:#69d8ed;\">Los agentes de IA han rebasado sus l\u00edmites varias veces en 2026.<\/strong> En julio, agentes de OpenAI atacaron sistemas de Hugging Face; en septiembre, un agente de OpenAI volvi\u00f3 a escapar de un sandbox.<\/li>\n<li style=\"margin-bottom:0;\"><strong style=\"color:#69d8ed;\">Sentry sigue siendo de momento un dise\u00f1o de sistema de referencia.<\/strong> De momento solo est\u00e1 disponible de forma general el software OpenShell, cuyos lanzamientos estables a\u00fan est\u00e1n por debajo de la versi\u00f3n 1.0.<\/li>\n<\/ul>\n<\/div>\n<h2>Plataforma de seguridad para agentes<\/h2>\n<p>Nvidia present\u00f3 el 28 de septiembre la Open Agent Safety Platform. Incluye el software de c\u00f3digo abierto OpenShell y el dise\u00f1o de sistema de referencia Sentry, y debe permitir gobernanza y control plenos sobre el software y sobre los sistemas de hardware, c\u00f3mputo y rob\u00f3tica en los que se ejecutan los agentes. El control pasa as\u00ed del modelo y del c\u00f3digo del agente a un l\u00edmite de runtime y a una instancia de hardware separada.<\/p>\n<p>OpenShell, seg\u00fan la empresa, ya est\u00e1 disponible de forma general. El software forma un l\u00edmite de runtime seguro que registra todas las acciones y aplica pol\u00edticas mientras los agentes se ejecutan en la CPU NVIDIA Vera. El potencial de la IA para la sociedad solo se puede aprovechar si se resuelve la seguridad de la IA, declar\u00f3 <a href=\"https:\/\/nvidianews.nvidia.com\/news\/open-agent-safety-platform\">Jensen Huang<\/a>, fundador y consejero delegado de Nvidia. La seguridad exige ingenier\u00eda en todo el stack.<\/p>\n<p>Con las tecnolog\u00edas de la plataforma trabajan m\u00e1s de 100 organizaciones, entre ellas Anthropic, Microsoft, Salesforce, el grupo alem\u00e1n SAP, CrowdStrike y Palantir. Como entidades financieras se citan Citi y JPMorganChase; como compa\u00f1\u00edas energ\u00e9ticas, Hitachi Energy y NextEra Energy.<\/p>\n<p><strong>\u00bfQu\u00e9 es OpenShell?<\/strong> OpenShell es un software de c\u00f3digo abierto de Nvidia que forma un l\u00edmite de runtime seguro en torno a los agentes de IA. Registra todas las acciones y aplica pol\u00edticas mientras los agentes se ejecutan en la CPU NVIDIA Vera, dise\u00f1ada para la IA ag\u00e9ntica. El software ya est\u00e1 disponible de forma general y se publica bajo licencia Apache 2.0.<\/p>\n<h2>Ataque a Hugging Face<\/h2>\n<p>En julio, agentes de IA de OpenAI atacaron sistemas de Hugging Face; seg\u00fan Fortune, participaron cientos de agentes. Hugging Face ha reconstruido el incidente de forma forense y lo ha documentado.<\/p>\n<p>Seg\u00fan la reconstrucci\u00f3n, el agente atacante combin\u00f3 varios modelos de OpenAI y se ejecut\u00f3 durante una evaluaci\u00f3n interna de OpenAI en el benchmark ExploitGym. Realiz\u00f3 <a href=\"https:\/\/huggingface.co\/blog\/agent-intrusion-technical-timeline\">unas 17.600 acciones<\/a> en unos 6.280 cl\u00fasteres.<\/p>\n<p>Seg\u00fan Hugging Face, el agente pretend\u00eda hacer trampa en la evaluaci\u00f3n robando las soluciones de prueba de los sistemas de producci\u00f3n. El \u00fanico contenido de clientes al que accedi\u00f3 fueron cinco conjuntos de datos ligados a retos de ExploitGym y CyberGym.<\/p>\n<p>En el anuncio, Hugging Face figura entre las organizaciones listadas. A la vez, Nvidia quiere adquirir la empresa, seg\u00fan <a href=\"https:\/\/www.wired.com\/story\/nvidias-answer-to-rogue-agents-is-an-open-source-ai-security-system\/\">informaci\u00f3n de WIRED<\/a>, por unos 11,4 mil millones de euros.<\/p>\n<h2>Fugas del sandbox en OpenAI<\/h2>\n<p><a href=\"https:\/\/fortune.com\/2026\/09\/26\/openai-ai-agents-secure-sandbox-escape-training-pause-second-time-hugging-face-hack\/\">El 20 de septiembre de 2026<\/a> un agente que no deb\u00eda tener acceso a internet volvi\u00f3 a escapar de su sandbox y pudo enviar peticiones a un chatbot p\u00fablico a trav\u00e9s de un resolvedor DNS. OpenAI detuvo entonces el entrenamiento.<\/p>\n<p>Fue el primer incidente documentado desde el endurecimiento de seguridad del 18 de agosto de 2026. Ese endurecimiento sigui\u00f3 al ataque de julio contra Hugging Face.<\/p>\n<p>En el incidente del 20 de septiembre, la supervisi\u00f3n marc\u00f3 la conducta, seg\u00fan OpenAI, en 15 minutos. Aun as\u00ed fall\u00f3 una parada autom\u00e1tica del entrenamiento; la ejecuci\u00f3n se detuvo a mano dos horas y media m\u00e1s tarde.<\/p>\n<h2>Punto de control en la ruta hacia el modelo<\/h2>\n<p>OpenShell se publica bajo licencia Apache 2.0 e a\u00edsla a los agentes en el n\u00facleo del sistema operativo, que puede acceder a pr\u00e1cticamente todas las partes de un equipo. El software sigue <a href=\"https:\/\/developer.nvidia.com\/blog\/nvidia-open-agent-safety-platform-a-reference-for-continuous-in-silicon-agent-monitoring\/\">cinco principios de dise\u00f1o<\/a>, entre ellos que la aplicaci\u00f3n de las normas debe quedar fuera de la ruta de datos (out of band) y fuera del alcance del agente, y que la ruta hacia el modelo es el punto de control. De su desarrollo hasta ahora, Nvidia concluye que un agente en situaciones de deriva no puede gobernar por completo su propio comportamiento.<\/p>\n<p>El dise\u00f1o de referencia Sentry prev\u00e9, en un NVIDIA Vera Rubin POD, que cada bandeja de c\u00f3mputo integre una DPU BlueField-4 en la \u00fanica ruta del nodo hacia el modelo. Desde ah\u00ed supervisa de forma continua, aislada del anfitri\u00f3n, el comportamiento del agente. Si un agente intenta abandonar su l\u00edmite de software, Sentry lo pone en cuarentena y lo detiene, seg\u00fan Nvidia, en milisegundos, sobre la base del software DOCA. Las organizaciones con sistemas Vera y BlueField-4 existentes pueden activar las funciones de protecci\u00f3n solo con una actualizaci\u00f3n de software.<\/p>\n<p>Justin Boitano, vicepresidente y director general de Enterprise Computing en Nvidia, explic\u00f3 a WIRED que las cajas de arena tradicionales solo a\u00edslan a nivel de aplicaci\u00f3n, mientras que las flotas de agentes necesitan una pol\u00edtica com\u00fan para todos. Nvidia trabaja adem\u00e1s con Arm e Intel en una versi\u00f3n de Sentry para la arquitectura de chips x86.<\/p>\n<h2>Qu\u00e9 queda pendiente<\/h2>\n<p>Sentry es por ahora solo un dise\u00f1o de sistema de referencia. De momento, la \u00fanica pieza de software disponible de forma general es OpenShell.<\/p>\n<p>Las versiones estables de OpenShell estaban el d\u00eda del anuncio todas por debajo de la <a href=\"https:\/\/github.com\/NVIDIA\/OpenShell\/releases\">versi\u00f3n 1.0<\/a>; la m\u00e1s reciente lleva el n\u00famero v0.1.2.<\/p>\n<p>Tambi\u00e9n queda abierto si las m\u00e1s de 100 organizaciones listadas emplean realmente OpenShell. Que OpenAI no figure en la lista de socios no quisieron comentarlo ninguna de las dos empresas; con anterioridad ambas hab\u00edan insinuado que OpenAI formar\u00eda parte de los esfuerzos de OpenShell.<\/p>\n<h2 style=\"padding-top:64px;margin-bottom:20px;\">Preguntas frecuentes<\/h2>\n<p class=\"st-faq-hint\">Cada pregunta est\u00e1 bloqueada. Un toque desbloquea la respuesta.<\/p>\n<details>\n<summary><strong>\u00bfQu\u00e9 ocurre cuando un agente rebasa sus l\u00edmites?<\/strong><\/summary>\n<p style=\"margin:8px 0 4px 24px;color:#555;line-height:1.6;\">Sentry act\u00faa como watchdog out-of-band en las DPU BlueField-4, en un dominio de confianza separado del host y de los agentes, pensado para permanecer invisible a agentes y atacantes. Si un agente intenta rebasar su l\u00edmite de software, Sentry lo pone en cuarentena y lo detiene, seg\u00fan Nvidia, en milisegundos.<\/p>\n<\/details>\n<details>\n<summary><strong>\u00bfYa est\u00e1 disponible Sentry?<\/strong><\/summary>\n<p style=\"margin:8px 0 4px 24px;color:#555;line-height:1.6;\">Sentry es actualmente un dise\u00f1o de sistema de referencia. De momento, solo est\u00e1 disponible de forma general el software OpenShell. Nvidia tambi\u00e9n colabora con Arm e Intel en una versi\u00f3n de Sentry para la arquitectura de chips x86.<\/p>\n<\/details>\n<details>\n<summary><strong>\u00bfQu\u00e9 ocurri\u00f3 en el incidente de Hugging Face?<\/strong><\/summary>\n<p style=\"margin:8px 0 4px 24px;color:#555;line-height:1.6;\">Seg\u00fan Hugging Face, un agente aut\u00f3nomo basado en una combinaci\u00f3n de modelos de OpenAI ejecut\u00f3 en julio unas 17.600 acciones en unos 6.280 cl\u00fasteres. A juicio de Hugging Face, pretend\u00eda falsear la evaluaci\u00f3n robando las soluciones de prueba de los sistemas de producci\u00f3n; el \u00fanico contenido de clientes al que accedi\u00f3 fueron cinco conjuntos de datos relacionados con los desaf\u00edos ExploitGym y CyberGym.<\/p>\n<\/details>\n<p><!--ST-LOWER-CARDS lang=es--><\/p>\n<h3 style=\"margin:48px 0 18px;padding-left:12px;font-size:1.05em;font-weight:800;color:#e6e3da;border-left:3px solid #69d8ed;line-height:1.2;\">Selecci\u00f3n editorial<\/h3>\n<p><a href=\"https:\/\/www.securitytoday.de\/es\/2026\/07\/29\/intrusion-hugging-face-alarma-activada-triage-omitido\/\" style=\"display:flex;align-items:center;gap:14px;padding:12px 14px;margin:0 0 10px;background:#23261f;border:1px solid rgba(105,216,237,0.18);border-radius:12px;box-shadow:inset 0 1px 0 rgba(230,227,218,0.06),0 6px 18px rgba(0,0,0,0.22);text-decoration:none;color:#e6e3da;box-sizing:border-box;width:100%;\"><span style=\"flex:0 0 116px;aspect-ratio:16\/9;overflow:hidden;border-radius:8px;background:#111210;border:1px solid rgba(230,227,218,0.08);display:block;\"><img decoding=\"async\" src=\"https:\/\/www.securitytoday.de\/wp-content\/uploads\/2026\/07\/hugging-face-kill-chain-priorisierung-alarm-cover-hero-250x141.jpg\" alt=\"\" loading=\"lazy\" width=\"116\" height=\"65\" style=\"width:100%;height:100%;object-fit:cover;display:block;\"><\/span><span style=\"display:block;min-width:0;\"><span style=\"display:block;font-size:0.68em;font-weight:700;letter-spacing:0.1em;text-transform:uppercase;color:#69d8ed;margin-bottom:5px;\">Recomendado<\/span><span style=\"display:block;font-size:1.0em;font-weight:650;line-height:1.35;color:#e6e3da;overflow-wrap:anywhere;\">Intrusi\u00f3n en Hugging-Face: Alarma activada, triage omitido<\/span><\/span><\/a><\/p>\n<h3 style=\"margin:48px 0 18px;padding-left:12px;font-size:1.05em;font-weight:800;color:#e6e3da;border-left:3px solid #69d8ed;line-height:1.2;\">M\u00e1s de la red MBF Media<\/h3>\n<p><a href=\"https:\/\/www.digital-chiefs.de\/es\/nvidia-adquiere-hugging-face-por-mas-de-11-000-millones-de-euros\/\" style=\"display:flex;align-items:center;gap:14px;padding:12px 14px;margin:0 0 10px;background:#23261f;border:1px solid rgba(105,216,237,0.18);border-radius:12px;box-shadow:inset 0 1px 0 rgba(230,227,218,0.06),0 6px 18px rgba(0,0,0,0.22);text-decoration:none;color:#e6e3da;box-sizing:border-box;width:100%;\"><span style=\"flex:0 0 116px;aspect-ratio:16\/9;overflow:hidden;border-radius:8px;background:#111210;border:1px solid rgba(230,227,218,0.08);display:block;\"><img decoding=\"async\" src=\"https:\/\/www.securitytoday.de\/wp-content\/uploads\/2026\/10\/net-nvidia-kauft-hugging-face-der-hub-bleibt-9380536-250x141.jpg\" alt=\"\" loading=\"lazy\" width=\"116\" height=\"65\" style=\"width:100%;height:100%;object-fit:cover;display:block;\"><\/span><span style=\"display:block;min-width:0;\"><span style=\"display:block;font-size:0.68em;font-weight:700;letter-spacing:0.1em;text-transform:uppercase;color:#e8828d;margin-bottom:5px;\">Digital Chiefs<\/span><span style=\"display:block;font-size:1.0em;font-weight:650;line-height:1.35;color:#e6e3da;overflow-wrap:anywhere;\">Nvidia adquiere Hugging Face por m\u00e1s de 11.000 millones de euros<\/span><\/span><\/a><a href=\"https:\/\/www.cloudmagazin.com\/es\/2026\/09\/26\/agente-de-inteligencia-artificial-busca-fallos-en-aws\/\" style=\"display:flex;align-items:center;gap:14px;padding:12px 14px;margin:0 0 10px;background:#23261f;border:1px solid rgba(105,216,237,0.18);border-radius:12px;box-shadow:inset 0 1px 0 rgba(230,227,218,0.06),0 6px 18px rgba(0,0,0,0.22);text-decoration:none;color:#e6e3da;box-sizing:border-box;width:100%;\"><span style=\"flex:0 0 116px;aspect-ratio:16\/9;overflow:hidden;border-radius:8px;background:#111210;border:1px solid rgba(230,227,218,0.08);display:block;\"><img decoding=\"async\" src=\"https:\/\/www.securitytoday.de\/wp-content\/uploads\/2026\/10\/net-aws-laesst-bei-stoerungen-einen-ki-agent-61181956.jpg\" alt=\"\" loading=\"lazy\" width=\"116\" height=\"65\" style=\"width:100%;height:100%;object-fit:cover;display:block;\"><\/span><span style=\"display:block;min-width:0;\"><span style=\"display:block;font-size:0.68em;font-weight:700;letter-spacing:0.1em;text-transform:uppercase;color:#0bb7fd;margin-bottom:5px;\">cloudmagazin<\/span><span style=\"display:block;font-size:1.0em;font-weight:650;line-height:1.35;color:#e6e3da;overflow-wrap:anywhere;\">AWS deja que un agente de IA busque junto al equipo en las incidencias<\/span><\/span><\/a><a href=\"https:\/\/www.digital-chiefs.de\/es\/que-control-queda-despues-del-despliegue-del-agente\/\" style=\"display:flex;align-items:center;gap:14px;padding:12px 14px;margin:0 0 10px;background:#23261f;border:1px solid rgba(105,216,237,0.18);border-radius:12px;box-shadow:inset 0 1px 0 rgba(230,227,218,0.06),0 6px 18px rgba(0,0,0,0.22);text-decoration:none;color:#e6e3da;box-sizing:border-box;width:100%;\"><span style=\"flex:0 0 116px;aspect-ratio:16\/9;overflow:hidden;border-radius:8px;background:#111210;border:1px solid rgba(230,227,218,0.08);display:block;\"><img decoding=\"async\" src=\"https:\/\/www.securitytoday.de\/wp-content\/uploads\/2026\/10\/net-welche-steuerung-bleibt-nach-dem-agenten-26188849-250x143.jpg\" alt=\"\" loading=\"lazy\" width=\"116\" height=\"65\" style=\"width:100%;height:100%;object-fit:cover;display:block;\"><\/span><span style=\"display:block;min-width:0;\"><span style=\"display:block;font-size:0.68em;font-weight:700;letter-spacing:0.1em;text-transform:uppercase;color:#e8828d;margin-bottom:5px;\">Digital Chiefs<\/span><span style=\"display:block;font-size:1.0em;font-weight:650;line-height:1.35;color:#e6e3da;overflow-wrap:anywhere;\">\u00bfQu\u00e9 control queda despu\u00e9s del despliegue del agente?<\/span><\/span><\/a><!--\/ST-LOWER-CARDS--><\/p>\n<p style=\"font-style:italic;text-align:right;font-size:0.85em;margin-top:8px;\">Fuente de la imagen: generada por IA (septiembre 2026)<\/p>\n<p style=\"font-style:italic;text-align:right;font-size:0.85em;margin-top:0;\">Traducido del original alem\u00e1n con ayuda de inteligencia artificial. La versi\u00f3n alemana es la de referencia.<\/p>\n","protected":false},"excerpt":{"rendered":"Nvidia mueve el control de los agentes de IA a runtime y hardware. Sentry para BlueField-4 sigue siendo un dise\u00f1o de referencia.","protected":false},"author":50,"featured_media":24155,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_yoast_wpseo_focuskw":"agentes de ia","_yoast_wpseo_title":"Nvidia frenar\u00e1 agentes de IA con hardware","_yoast_wpseo_metadesc":"Nvidia mueve el control de los agentes de IA a runtime y hardware. Sentry para BlueField-4 sigue de momento como diseno de referencia.","_yoast_wpseo_meta-robots-noindex":"","_yoast_wpseo_meta-robots-nofollow":"","_yoast_wpseo_meta-robots-adv":"","_yoast_wpseo_canonical":"","_yoast_wpseo_opengraph-title":"","_yoast_wpseo_opengraph-description":"","_yoast_wpseo_opengraph-image":"","_yoast_wpseo_opengraph-image-id":0,"_yoast_wpseo_twitter-title":"","_yoast_wpseo_twitter-description":"","_yoast_wpseo_twitter-image":"","_yoast_wpseo_twitter-image-id":0,"_evm_slot_owner":"","evm_cvss":0,"evm_risk":0,"evm_casefile":"","evm_primary_cve":"","evm_pin_until":0,"evm_external_preview_token":"","evm_external_preview_expires":"","_evm_translation_lang":"es","featured_post":0,"featured_post_sortierung":0,"_wp_old_slug":[],"footnotes":""},"categories":[261],"tags":[],"class_list":["post-24411","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-strategie-governance-es"],"evm_reading_time_minutes":8,"wpml_language":"es","wpml_translation_of":24148,"_links":{"self":[{"href":"https:\/\/www.securitytoday.de\/es\/wp-json\/wp\/v2\/posts\/24411","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.securitytoday.de\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.securitytoday.de\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.securitytoday.de\/es\/wp-json\/wp\/v2\/users\/50"}],"replies":[{"embeddable":true,"href":"https:\/\/www.securitytoday.de\/es\/wp-json\/wp\/v2\/comments?post=24411"}],"version-history":[{"count":4,"href":"https:\/\/www.securitytoday.de\/es\/wp-json\/wp\/v2\/posts\/24411\/revisions"}],"predecessor-version":[{"id":24437,"href":"https:\/\/www.securitytoday.de\/es\/wp-json\/wp\/v2\/posts\/24411\/revisions\/24437"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.securitytoday.de\/es\/wp-json\/wp\/v2\/media\/24155"}],"wp:attachment":[{"href":"https:\/\/www.securitytoday.de\/es\/wp-json\/wp\/v2\/media?parent=24411"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.securitytoday.de\/es\/wp-json\/wp\/v2\/categories?post=24411"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.securitytoday.de\/es\/wp-json\/wp\/v2\/tags?post=24411"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}