La nueva generación de inteligencia artificial ya no solo genera respuestas: puede ejecutar acciones utilizando credenciales, permisos y accesos corporativos. El cambio plantea una nueva pregunta: ¿cuánta autonomía están preparadas las organizaciones para entregar?
Durante los últimos años, las empresas se acostumbraron a una inteligencia artificial que redacta correos, resume documentos, analiza información o genera código. En todos esos casos, la IA entrega un resultado y una persona decide qué hacer con él.
Los agentes de IA cambian esa dinámica. Estos sistemas pueden recibir un objetivo, determinar los pasos para alcanzarlo, utilizar herramientas, consultar información y desplazarse entre aplicaciones y APIs para ejecutar acciones con un mayor grado de autonomía.
En la práctica, un agente podría consultar registros, actualizar información, gestionar solicitudes o enviar comunicaciones utilizando credenciales, permisos y acceso real a los sistemas de una compañía.
El tema ya ocupa un lugar prioritario en la agenda de ciberseguridad. Gartner identificó la supervisión de la IA agéntica como una de las principales tendencias de ciberseguridad para 2026 y ha proyectado que, para 2028, el 25 % de las brechas empresariales estarán relacionadas con el abuso de agentes de IA.
Colombia: preparados para la IA, pero atentos a sus riesgos
El desafío cobra especial relevancia en Colombia. El estudio El Estado de la Transformación Digital en Latinoamérica de ManageEngine, que incluyó a 200 líderes y tomadores de decisiones de TI en el país, encontró que 92 % considera que su organización está preparada para la IA.
Sin embargo, 66 % manifestó una mayor preocupación por las filtraciones de información derivadas del uso inadecuado de IA generativa por parte de empleados, mientras que 58 % reportó más ataques exitosos de ciberseguridad durante 2025 que en años anteriores.
“Pasamos de una IA que solo aconsejaba a una tecnología con capacidad de tomar decisiones y ejecutar acciones en nombre de la empresa. La llegada de los agentes autónomos no es un asunto exclusivo del departamento de sistemas; es un debate de gobernanza corporativa. Antes de delegarle tareas clave a un agente, la alta dirección debe definir qué nivel de autonomía está dispuesta a otorgarle y mantener siempre una supervisión humana clara.”, explicó Wilson Calderón, Associate Technical Director de ManageEngine.
La autonomía no debería venir activada por defecto
Muchos de los controles necesarios ya son conocidos por los equipos de seguridad. El primero es el mínimo privilegio: cada agente debe acceder únicamente a los sistemas y datos necesarios para realizar su función.
Pero los agentes introducen una segunda dimensión: la mínima autonomía o least agency. El principio, incluido por OWASP dentro de sus recomendaciones para aplicaciones agénticas, plantea establecer hasta dónde puede actuar un agente por sí solo antes de necesitar autorización humana.
Por ejemplo, consultar información podría realizarse autónomamente, mientras acciones como eliminar registros, modificar permisos, realizar transacciones o enviar comunicaciones sensibles deberían requerir aprobación.
También es fundamental que cada agente tenga una identidad propia, credenciales de corta duración y un registro trazable de sus acciones.
Seis controles antes de poner un agente en producción
ManageEngine recomienda revisar seis aspectos fundamentales: identidad y acceso, permisos, protección de datos, herramientas autorizadas, monitoreo y gobernanza. Además, cada agente debería tener un responsable humano claramente identificado.
Este control resulta aún más importante en ecosistemas tecnológicos complejos. La encuesta de ManageEngine encontró que 48 % de los participantes colombianos trabaja con entre 11 y 25 herramientas tecnológicas diferentes, mientras que 78% considera que la proliferación de herramientas ha aumentado significativamente la complejidad operativa.
“No se trata de limitar el potencial de los agentes, sino de acompañar la autonomía con controles proporcionales al riesgo. Cuando una acción pueda tener consecuencias importantes para la organización o sus clientes, la intervención humana debe seguir siendo parte del proceso”, agregó Calderón.
Los agentes autónomos pueden convertirse en una herramienta importante para aumentar la capacidad operativa de las empresas. Pero, como cualquier usuario con acceso a sistemas corporativos, necesitan una identidad, un rol definido, límites claros y supervisión.
Para CIO y CISO, la pregunta deja entonces de ser únicamente qué puede hacer la inteligencia artificial y pasa a ser una mucho más relevante: ¿qué debería estar autorizada a hacer por sí sola?