La rápida adopción de sistemas de Inteligencia Artificial basados en agentes autónomos está transformando de forma profunda la manera en que las organizaciones automatizan procesos, toman decisiones y operan en entornos complejos. Este nuevo paradigma, conocido como IA agéntica, introduce capacidades avanzadas de autonomía, razonamiento, planificación y ejecución de acciones sobre sistemas y datos, ampliando de forma significativa tanto el potencial de la tecnología como su superficie de riesgo.

En este contexto, ISMS Forum presenta el Decálogo de Seguridad en la IA Agéntica, un documento de referencia que aborda de forma específica los retos de seguridad, control y gobernanza asociados a los agentes de IA, proporcionando a las organizaciones un marco estructurado para diseñar, desplegar y operar ecosistemas de agentes de forma segura y responsable.

Un nuevo paradigma, nuevos riesgos

A diferencia de otros sistemas de IA más tradicionales, los agentes de IA no se limitan a generar recomendaciones o contenidos, sino que pueden ejecutar acciones de manera autónoma, interactuar con otros agentes, acceder a herramientas, consumir información externa y tomar decisiones en tiempo real. Esta combinación de autonomía, persistencia y capacidad de acción introduce riesgos emergentes que no quedan plenamente cubiertos por los enfoques clásicos de ciberseguridad o por los controles habituales aplicados a aplicaciones deterministas.

Entre estos riesgos destacan, entre otros, la pérdida de control sobre el comportamiento del agente, el abuso de identidades y privilegios, la exposición o exfiltración de datos sensibles, la ejecución de acciones no previstas, la propagación de fallos en arquitecturas multiagente o la explotación de la confianza humana depositada en sistemas aparentemente “inteligentes”.

El Decálogo parte de esta premisa: la IA agéntica exige principios de seguridad propios, complementarios a los controles tradicionales, y una aproximación específica que tenga en cuenta su naturaleza dinámica y no determinista.

Diez principios para un ecosistema de agentes confiable

El Decálogo de Seguridad en la IA Agéntica articula diez principios fundamentales que cubren todo el ciclo de vida del agente y su ecosistema, desde la identificación y el diseño hasta la operación, la monitorización y la respuesta ante incidentes.

Entre los ámbitos abordados se incluyen:

• La identificación e inventario de agentes, como primer paso para evitar escenarios de shadow AI.
• La gestión de la identidad y los privilegios de los agentes, tratándolos como identidades de alto valor.
• La protección de los datos a lo largo de todo el ciclo de vida del agente (ingesta, uso, salida y memoria).
• La aplicación de controles de protección y guardrails que limiten comportamientos no deseados.
• La gestión de la autonomía, incluyendo mecanismos de supervisión humana, reversibilidad y kill switch.
• La monitorización del comportamiento y las decisiones, con foco en la observabilidad y la detección de anomalías.
• La preparación para la respuesta ante incidentes específicos de entornos agénticos.
• El gobierno de la IA, alineado con normativa y estándares.
• La gestión dinámica del riesgo, adaptada a sistemas no deterministas.
• El control de la cadena de suministro de modelos, herramientas y dependencias.

Estos principios no se presentan como un ejercicio teórico, sino como una guía práctica orientada a su aplicación progresiva en entornos reales, teniendo en cuenta el estado actual de la tecnología y la evolución prevista del mercado.

Alineación con referentes internacionales y marcos regulatorios

Con el objetivo de reforzar su solidez y aplicabilidad, el Decálogo ha sido contrastado y alineado con referentes internacionales clave en seguridad de la IA agéntica, como el OWASP Top 10 for Agentic Applications y el AI Agents Attack Matrix, permitiendo mapear los principios del documento frente a amenazas concretas y escenarios de ataque reales.

Asimismo, el Decálogo se enmarca dentro del ecosistema regulatorio europeo y los principales estándares internacionales, sirviendo como apoyo práctico para iniciativas de gobierno de la IA, cumplimiento del AI Act, integración con ISO/IEC 42001, y alineación con marcos de gestión del riesgo y ciberseguridad existentes en las organizaciones.

Seguridad, gobernanza y control humano

Uno de los ejes transversales del Decálogo es la importancia del control humano significativo en entornos donde los agentes pueden operar de forma continua y autónoma. El documento pone el foco no solo en los controles técnicos, sino también en los aspectos organizativos y de gobernanza, subrayando la necesidad de definir responsabilidades claras, políticas específicas y mecanismos de supervisión proporcionales al nivel de riesgo.

El Decálogo reconoce, además, que muchos de los desafíos asociados a la IA agéntica evolucionarán con rapidez, y que algunos principios deberán adaptarse conforme maduren las herramientas y capacidades disponibles. Por ello, se concibe como un documento vivo, llamado a revisarse y ampliarse a medida que el paradigma agéntico se consolide.

ISMS Forum agradece expresamente la implicación y el conocimiento aportado por todas las personas participantes, cuyo trabajo ha sido clave para convertir un reto emergente en un marco comprensible, estructurado y aplicable por las organizaciones.

Autores:
Angel Pérez
Eduardo de Prado

Revisor:
Fernando Rubio

Editora:
Beatriz García

Coordinación del proyecto:
Susana Marín

Diseño y Maquetación:
Susana Marín