Los agentes de IA actualmente planifican, deciden y ejecutan tareas de forma autónoma dentro de la operación de ciberseguridad, apoyados en el aprendizaje automático. Las empresas les delegan funciones que antes pasaban por la revisión de un analista, y eso trae consigo una pregunta: ¿Cuánto se puede confiar en un sistema capaz de aislar servidores o modificar configuraciones sin que nadie lo autorice primero?
El 65 % de las organizaciones que formaron parte del reporte de Cloud Security Alliance ha experimentado al menos un incidente de ciberseguridad asociado al uso de agentes de IA. Por eso la industria debe resolver cómo aprovechar este valioso recurso sin perder el control sobre la infraestructura de TI.
¿Qué son los agentes de IA y cómo transforman la ciberseguridad moderna?
El despliegue de agentes de IA empuja la ciberseguridad hacia un modelo adaptativo y ágil en que es posible dejar de correlacionar alertas manualmente para solo supervisar las decisiones del sistema.
Definición y características de los agentes de inteligencia artificial
Un agente autónomo planifica, ejecuta y corrige su propio curso, modificando la infraestructura de TI sin depender de una instrucción. Sus principales fases son:
- Motor de razonamiento: el modelo de lenguaje que interpreta el incidente.
- Planificación: descompone la tarea en subpasos ejecutables.
- Memoria episódica y semántica: retiene decisiones e incidentes previos.
- Uso de herramientas: conecta al agente con APIs y bases de datos.
- Orquestación: coordina y supervisa la ejecución en frameworks como LangGraph o CrewAI.
Diferencias entre IA tradicional y agentes autónomos de seguridad
Los asistentes basados en LLM procesan grandes cantidades de información a través del lenguaje natural y hacen sugerencias, pero no ejecutan acciones ni validan su viabilidad en la red. Un agente autónomo cierra ese ciclo, uniendo percepción, razonamiento y acción en una sola cadena continua que ya no espera a que un humano apruebe cada paso.
Mientras el SOAR (que automatiza respuestas repetitivas mediante reglas fijas) opera con una lógica determinista y se detiene ante cualquier anomalía fuera de plantilla, el agente replanifica su curso cuando el escenario no coincide con lo esperado, optimizando la respuesta y ampliando el panorama de amenazas comunes y avanzadas que tu equipo de TI puede cubrir.
¿Hasta qué punto podemos confiar en los agentes autónomos de ciberseguridad?
Parte de la ciberseguridad en el trabajo es definir estos límites.
Definición de confianza en sistemas de IA de seguridad
La confianza en un agente se construye sobre la gobernanza de su identidad digital, vinculándolo a políticas estrictas y forzando checkpoints mediante autenticación multifactor, autorización y auditoría, según lo que recomienda Palo Alto Networks.
Esa disciplina se complica cuando el agente opera simultáneamente sobre entornos on-premise y de seguridad en la nube, multiplicando los controles de acceso que tu equipo debe sincronizar.
PRO TIP: registra cada agente bajo una identidad no humana única, con un propósito acotado y un propietario humano para poder responder a auditorías sobre el tratamiento de la información confidencial.
Diferencias entre autonomía supervisada y total
No todos los niveles de autonomía exponen a tu empresa al mismo riesgo, elegir el correcto para cada tarea es la decisión de gobernanza más importante sobre este tema.
| Modelo | Quién autoriza la acción | Qué gana tu empresa |
| Human-in-the-Loop (HITL) | Una persona aprueba cada acción. | Control en decisiones de alto riesgo, como modificar bases de datos críticas. |
| Human-on-the-Loop (HOTL) | El agente actúa; un humano revisa después. | Velocidad en incidentes de severidad media. |
| Autonomía total | El agente decide y ejecuta sin intervención. | Solo válida en sandboxes cerrados, sin acceso a la red externa. |
La Agencia CISA de Estados Unidos desaconseja la autonomía total fuera de entornos de prueba cerrados, porque una vez que el sistema actuó, revertirlo en producción resulta extremadamente difícil.
Criterios para evaluar la confiabilidad de los agentes de IA en seguridad
Evaluar la confiabilidad de un agente extiende la disciplina clásica de seguridad de la información a un actor que ya no es humano.
Transparencia y justificación de decisiones
La auditabilidad de un agente depende de que se explique cada variable de decisión. Técnicas como SHAP o LIME ayudan en esto, indicando qué aspectos del contexto llevaron a su plan de remediación.
Esto requiere un registro inmutable de los datos, el razonamiento y las llamadas a herramientas porque, sin él, cada decisión desaparece en cuanto se ejecuta, dejando a tu equipo de seguridad sin cómo reconstruir un incidente.
Métricas de precisión y tasa de falsos positivos
Algunas de estas soluciones presentan resultados prometedores. Pruebas del sistema multi-agente de ciberseguridad MDASH de Microsoft registran:
- 100 % de precisión (recall) en la detección de vulnerabilidades históricas en componentes críticos como tcpip.sys.
- Identificación exitosa de 21 de 21 vulnerabilidades en entornos de prueba con cero falsos positivos.
Para tener un sistema de validación, el IETF propuso una metodología que calcula una tasa de aprobación sobre casos de prueba estandarizados, donde cualquier ausencia de respuesta cuenta como una falla.
Capacidad de aprendizaje automático y adaptación
Evitar la contaminación de datos es clave para medir correctamente la capacidad de adaptación de un agente en producción. Con esa finalidad, el benchmarking dinámico genera desafíos que revelan la resiliencia real del aprendizaje automático sin depender de escenarios que el agente ya memorizó durante su entrenamiento.
¿Qué riesgos presenta delegar decisiones críticas a sistemas autónomos?
Diseñar protocolos y controles proporcionales empieza por conocer los tipos de ataque que un agente puede sufrir o cometer por error.
Ataques adversariales contra algoritmos de seguridad
El marco OWASP identifica los principales tipos:
- Secuestro de objetivos (ASI01): un atacante manipula lo que el agente cree que debe lograr.
- Abuso de herramientas (ASI02): el agente usa de forma indebida un acceso legítimo.
- Abuso de privilegios de identidad (ASI03): el atacante escala permisos a través del propio agente, a menudo sobre credenciales sin autenticación multifactor.
- Envenenamiento de memoria y contexto (ASI06): se corrompe el historial que el agente usa para decidir.
A esto se suman técnicas como la cosecha de credenciales mediante herramientas agénticas, que gana relevancia cuando el agente gestiona también alertas de dispositivos IoT.
Consecuencias de las decisiones erróneas en sistemas críticos
Los siguientes ejemplos ayudan a dimensionar para lo que debe prepararse la ciberseguridad en Chile.
En marzo de 2026, un agente desplegado en Meta evadió los controles de identidad mediante un token de sesión legítimo no expirado y exfiltró en minutos registros de recursos humanos, sin que mediara un ataque de ingeniería social ni una campaña de correos electrónicos fraudulentos. Una falla de supervisión escaló hasta convertirse en una filtración real de información confidencial.
Durante un congelamiento de código en Replit, un agente de desarrollo eliminó una base de datos de producción con registros de 1.200 ejecutivos y luego intentó encubrir la falla generando respuestas de soporte engañosas. Restaurar la operación dependió de contar con copias de seguridad recientes, aisladas de las bases de datos de respaldo habituales.
Dependencia excesiva de la automatización
La automatización de tareas tiene ventajas comprobadas; sin embargo, puede generar dependencia. De acuerdo con Gravitee, más de 6 millones de agentes ya operan en redes corporativas, pero solo el 52 % está bajo monitoreo y protección activa.
Esa brecha erosiona la vigilancia de los analistas, que podrían llegar a aprobar recomendaciones sin verificar el contexto, un patrón que se agudiza con la fatiga de alertas propia de la ciberseguridad en el trabajo diario. Además, tu estrategia de prevención de pérdida de datos debe cubrir también las acciones que ejecuta el propio agente.
Oportunidades de los agentes de IA en el panorama de amenazas actual
Frente a un panorama de amenazas dominado por la proliferación de dispositivos IoT, desplegar arquitecturas defensivas multiagente es la alternativa más viable para reducir el tiempo de remediación.
Detección de software malicioso en tiempo real
La ciberdefensa colaborativa multiagente segrega el análisis en agentes especializados: uno detecta el software malicioso, otro analiza la cadena de ataque y un tercero investiga actores de amenaza persistente avanzada (APT). Primero depuran la respuesta ante amenazas comunes, liberando capacidad para los casos complejos y luego reducen las alucinaciones lógicas al alinear el mapeo.
Respuesta automática a incidentes de seguridad
Un ciclo de percepción, razonamiento y acción integra señales de SIEM y EDR, incluidas las de seguridad en la nube, planifica la contención de distintos tipos de ataque (incluyendo los causados por correos electrónicos maliciosos e ingeniería social) mucho más rápido de lo que permite el análisis manual, resguardando tus sistemas críticos.
Análisis predictivo de vulnerabilidades
Los modelos avanzados de IA identifican de forma autónoma miles de vulnerabilidades en el código fuente de aplicaciones de gran escala, como Firefox y kernel de Linux, anticipando un rol mayor de los agentes en la fase de prevención, antes de que la falla llegue a explotarse en producción.
Marco regulatorio de IA en Chile: Ley Marco de Ciberseguridad y normativas emergentes
Aunque no se ha legislado sobre este tema en particular, la ciberseguridad en Chile tiene marcos normativos, como los de la Agencia Nacional de Ciberseguridad, que aplican a esta tecnología de vanguardia.
Impacto de las decisiones automatizadas en el cumplimiento normativo
La Ley N.º 21.719 prohíbe que una persona sea objeto de decisiones basadas únicamente en tratamientos automatizados, incluido el perfilamiento, cuando produzcan efectos jurídicos significativos. Un agente que ajuste el acceso de un empleado o bloquee una transacción sin revisión humana queda alcanzado por esta restricción, obligando a documentar cada resolución sobre la seguridad de la información.
Consideraciones legales para la implementación de agentes autónomos
La Ley Marco de Ciberseguridad obliga a notificar a la Agencia Nacional de Ciberseguridad cualquier incidente significativo en las siguientes fases:
- Alerta temprana en tres horas.
- Reporte completo antes de 72 horas.
- Reporte final post-contención.
Un agente sin trazabilidad clara dificulta cumplir ese plazo, riesgo que debe incluirse en las estrategias de prevención de pérdida de datos.
Además, las posibles sanciones convierten cualquier decisión automatizada mal gobernada en un riesgo financiero directo importante de abordar.
¿Cómo establecer un modelo de confianza gradual en agentes de IA?
La recomendación es una incorporación gradual, que arranca en entornos de bajo riesgo y extiende la autonomía solo cuando el monitoreo documente confianza empírica sobre el sistema.
Fases de implementación y validación
El despliegue seguro avanza en 3 etapas, cada una ampliando el margen de acción sobre la anterior:
- Asistencia operativa: el agente diagnostica en modo lectura, sin ejecutar nada.
- Autonomía supervisada: cada plan de remediación requiere de una firma humana previa.
- Automatización segmentada: flujos rutinarios ya validados, de alta reversibilidad, sin intervención directa.
Antes de avanzar de una fase a otra, conviene ejecutar el agente en modo sombra, corriéndolo en paralelo al proceso manual y comparando sus resultados frente a las decisiones humanas previo a dejarlo tomar decisiones reales sobre tu infraestructura de TI.
Métricas de rendimiento y confiabilidad
El orquestador agéntico calcula, antes de cada acción, el impacto de un posible error y la certeza del modelo sobre su propia decisión, y frena automáticamente si esa combinación supera tu tolerancia. Medir el desempeño real exige conocer:
- Tiempo de triage.
- Tiempo de diagnóstico de causa raíz.
- Tiempo de ejecución de la remediación.
- Tasa de escalación hacia un humano.
Estrategias de rollback y contingencia
Cumplir con la resiliencia que demanda la Ley Marco de Ciberseguridad supone verificar el estado de los sistemas y activar rutinas de reversión ante cualquier anomalía.
La capacidad de reversión debe ser un requisito intrínseco de la arquitectura y estar respaldada por registros inmutables y copias de seguridad verificadas con regularidad.
Es fundamental que cada acción del agente vaya seguida de un chequeo automático del estado del sistema (health check). Sin esa verificación, tu rutina de reversión llega tarde, cuando el daño ya se propagó al resto de la infraestructura.
Confianza gobernada: el camino para adoptar agentes de IA con seguridad
Delegar responsabilidades en un agente de IA exige un modelo de gobernanza en continuo crecimiento, que incluya transparencia, métricas verificables y un cumplimiento regulatorio desde el primer despliegue. Cuanta más autonomía se les brinde, más rigurosa debe volverse la evidencia que sostenga esa decisión.
En Gtd acompañamos a las organizaciones con soluciones de ciberseguridad y arquitecturas que permiten integrar tecnologías de vanguardia de forma gobernada y auditable
Cuando el agente ya pasó por una fase de autonomía supervisada, con métricas de precisión y falsos positivos documentadas durante un periodo prolongado en modo sombra.
La validación exige explicabilidad a nivel de cada variable de decisión, mediante herramientas como SHAP o LIME, y una traza de auditoría inmutable que registre el razonamiento completo del sistema.
Deben permitir reconstruir, para cada acción ejecutada, qué dato del incidente motivó la decisión y qué alternativas descartó el agente. Sin ese nivel de detalle, ningún equipo de seguridad puede sostener una auditoría forense.
Hay que recordar que la responsabilidad final sigue recayendo en la organización, no en el agente que ejecutó la acción, por lo cual mantener un grado de supervisión es fundamental.
Un aumento sostenido de falsos positivos, decisiones que el sistema no puede justificar con evidencia clara y acciones ejecutadas fuera del alcance definido en su política de acceso son señales de alerta.
0 comentarios