El AI Act es en realidad una ley de ciberseguridad

El AI Act es visto por muchos como un tema de ética y cumplimiento normativo, una cuestión de transparencia y discriminación. Para los equipos de seguridad es algo distinto: una ley con requisitos de seguridad estrictos. Quien opera un sistema de IA de alto riesgo debe protegerlo de forma demostrable contra la manipulación. Y la inteligencia artificial puede atacarse por vías que la seguridad de TI clásica no conoce.

Por qué el AI Act es un tema de seguridad

El AI Act, Reglamento (UE) 2024/1689, clasifica los sistemas de IA según su nivel de riesgo. Para la categoría de sistemas de alto riesgo, por ejemplo en infraestructuras críticas, en recursos humanos o en la concesión de créditos, se aplican requisitos estrictos. Un componente central de ello es la seguridad. El sistema debe alcanzar un nivel adecuado de precisión, robustez y ciberseguridad y mantenerlo durante todo su ciclo de vida.

Este requisito no está solo. Se complementa con una gestión de riesgos obligatoria, con requisitos de calidad de los datos, con el registro automático de los eventos del sistema y con una supervisión humana efectiva. En conjunto, el AI Act describe así un marco de seguridad para la IA que se lee como un pliego de condiciones para un equipo de seguridad, no como una directriz puramente ética.

Para la práctica esto significa: un sistema de IA de alto riesgo que puede ser fácilmente engañado o manipulado no cumple los requisitos. La seguridad no es un añadido voluntario, sino una condición para poder utilizar el sistema en absoluto.

Las nuevas superficies de ataque

Los sistemas de IA amplían la superficie de ataque de una empresa con clases de ataques que no existen así en la TI clásica. En el envenenamiento de datos, los atacantes introducen datos manipulados en el entrenamiento para que el modelo reaccione después de forma incorrecta o deliberadamente defectuosa. El ataque no se sitúa en la operación, sino en la creación del modelo.

En los ataques adversariales se modifican las entradas de forma que un modelo las clasifique incorrectamente, sin que una persona note la manipulación. A esto se suman intentos de extraer un modelo o sus datos de entrenamiento. En los sistemas basados en lenguaje existe el riesgo de manipulación dirigida mediante entradas preparadas. Todo ello apunta a la lógica del modelo, no a una vulnerabilidad de software clásica.

Precisamente aquí radica el desafío. Un firewall o un parche no protege contra estos ataques. Se necesitan medidas de protección adaptadas al modelo y a su cadena de datos, desde la protección de los datos de entrenamiento hasta las pruebas contra manipulación y la supervisión del sistema en funcionamiento.

El calendario y sus aplazamientos

El AI Act entra en vigor de forma escalonada. El 2 de agosto de 2026 se aplica la siguiente fase de aplicabilidad. Sin embargo, el legislador europeo ha ajustado el calendario en puntos concretos a lo largo de 2026, de modo que ciertas obligaciones para los sistemas de alto riesgo entran en vigor más tarde de lo previsto inicialmente. Quien se prepara debe comprobar el estado actual de los plazos en cada caso, en lugar de fiarse de una sola fecha.

Los aplazamientos cambian poco la sustancia. Los requisitos de seguridad para la IA de alto riesgo se mantienen. Desarrollar las capacidades necesarias requiere tiempo. Un sistema de IA robusto no surge poco antes de un plazo, sino a lo largo de meses de trabajo cuidadoso con los datos, pruebas y protección. El aplazamiento no es por tanto motivo para esperar, sino un margen adicional.

Qué deben hacer ahora los equipos de seguridad

El primer paso es la visibilidad. Muchas organizaciones no saben qué sistemas de IA utilizan en absoluto, ni los introducidos oficialmente ni los que se usan silenciosamente en los departamentos. Sin un inventario de las aplicaciones de IA no se puede estimar el riesgo ni realizar la clasificación según el AI Act.

El segundo paso es la protección de la cadena de datos. Si los datos de entrenamiento manipulados son la mayor puerta de entrada, hay que verificar y proteger el origen y la integridad de estos datos. A esto se añade la prueba dirigida de los modelos contra la manipulación, un red teaming para IA que encuentra las debilidades antes de que lo haga un atacante.

El tercer paso se refiere a los proveedores. Quien adquiere modelos de IA o productos basados en IA de terceros debe evaluar su seguridad y asegurarla contractualmente. La responsabilidad por un sistema de alto riesgo no termina en el límite con el proveedor. Exige que el componente adquirido también cumpla los requisitos.

Interacción con NIS2 y CRA

El AI Act no se aplica de forma aislada. Complementa la regulación existente con una perspectiva específica de la IA. NIS2 obliga a los operadores a proteger su TI, lo que en el futuro incluirá también los sistemas de IA utilizados. El Cyber Resilience Act responsabiliza a los fabricantes cuyos productos pueden contener componentes de IA.

Para un equipo de seguridad esto significa pensar los requisitos de forma conjunta. Un sistema de IA puede ser al mismo tiempo parte de la TI protegible según NIS2, un sistema de alto riesgo regulado según el AI Act y un componente de un producto según el CRA. Quien separa estas perspectivas crea tres silos. Quien las conecta protege el sistema correctamente de una vez.

Preguntas frecuentes

Cada pregunta está cerrada. Un toque desbloquea la respuesta.

¿Exige realmente el AI Act ciberseguridad?

Sí. Para los sistemas de IA de alto riesgo, el AI Act prescribe explícitamente un nivel adecuado de precisión, robustez y ciberseguridad a lo largo de todo el ciclo de vida. La seguridad es una condición para su uso, no un añadido voluntario.

¿Qué es un ataque de envenenamiento de datos?

Los atacantes introducen datos manipulados en el entrenamiento de un modelo para que más tarde reaccione de forma incorrecta o deliberadamente defectuosa. El ataque se sitúa en la creación del modelo, no en el funcionamiento en curso. Con las medidas de protección clásicas es difícil de abordar.

¿A partir de cuándo se aplica el AI Act a los sistemas de alto riesgo?

El AI Act entra en vigor de forma escalonada; el 2 de agosto de 2026 se aplica la siguiente fase. Algunas partes del calendario se ajustaron en 2026, por lo que en cada caso concreto hay que comprobar el estado actual de los plazos. Los requisitos de seguridad en sí se mantienen.

¿Protege un firewall contra ataques a la IA?

Solo de forma limitada. Los ataques adversariales y el envenenamiento de datos apuntan a la lógica y a la cadena de datos del modelo, no a una vulnerabilidad de software clásica. Se necesitan medidas de protección adaptadas al propio modelo.

¿Cómo se relaciona el AI Act con NIS2 y el CRA?

El AI Act complementa ambos con una perspectiva específica de la IA. Un sistema de IA puede ser al mismo tiempo TI protegible según NIS2, un sistema de alto riesgo regulado según el AI Act y parte de un producto según el CRA. Lo mejor es protegerlo de forma integrada de una sola vez.

Selección de la redacción

RecomendadoCuando una llamada paraliza la producción automotriz

Más de la red MBF Media

Digital ChiefsLa inteligencia artificial escribe el código. ¿Quién responde por ello?