Hasta ahora, buena parte de la adopción empresarial de inteligencia artificial se ha basado en un modelo relativamente sencillo: una persona pregunta y una IA responde. Copilotos, asistentes, generación de contenidos, análisis de información o apoyo al desarrollo han extendido la IA por prácticamente todas las áreas de la organización. Pero estamos entrando en una fase diferente. La IA ya no solo responde. Empieza a actuar.
Los agentes de IA pueden consultar información, conectarse con aplicaciones, desencadenar procesos y ejecutar determinadas acciones con diferentes grados de autonomía. El salto tecnológico es considerable, pero también lo es el desafío para las organizaciones: ¿cómo gobernamos una IA que puede tomar decisiones y actuar en nuestros sistemas?
Más autonomía exige una gobernanza diferente
La cuestión está ganando peso rápidamente. Gartner acaba de señalar que establecer una responsabilidad clara entre CIO, responsables de IA y líderes de negocio será fundamental para escalar los agentes de forma segura. No todos los agentes presentan además el mismo riesgo: un sistema que únicamente consulta información requiere controles diferentes de otro capaz de modificar datos o ejecutar acciones autónomamente.
La diferencia es importante: Con la IA generativa tradicional, buena parte del control podía situarse alrededor del resultado: comprobar una respuesta, validar un documento o revisar una recomendación antes de utilizarla.
Cuando un agente tiene capacidad de actuar, el control debe producirse también antes y durante la acción.
Esto obliga a responder nuevas preguntas. ¿Qué sistemas puede utilizar el agente? ¿A qué información tiene acceso? ¿Qué acciones puede ejecutar? ¿Cuándo necesita autorización humana? ¿Cómo registramos lo que ha hecho? ¿Quién responde cuando una decisión no produce el resultado esperado? La gobernanza deja así de ser únicamente una cuestión de políticas para convertirse en parte de la propia operación de la IA.
Descubre las claves para gobernar la IA en tu empresa
Del human in the loop al control por niveles de autonomía
No todos los usos necesitan la misma supervisión. Gartner propone precisamente diferenciar los agentes según su autonomía: desde aquellos que únicamente observan o asesoran hasta sistemas capaces de actuar con autorización humana o hacerlo autónomamente dentro de unos límites establecidos.
Este enfoque permite evitar dos extremos igualmente problemáticos: controlarlo todo hasta bloquear la innovación o conceder demasiada autonomía sin conocer realmente el riesgo.
Desde Entelgy entendemos que el Gobierno de la IA debe partir precisamente de esa proporcionalidad. Identificar los casos de uso, determinar su nivel de riesgo, establecer responsabilidades, definir permisos y accesos, introducir mecanismos de supervisión y formar a las personas que trabajan con estos sistemas.
Y, a medida que aumenta la autonomía, también deben hacerlo la trazabilidad y la capacidad de intervención.
Gobernar en tiempo real
La evolución hacia los agentes introduce además otro cambio. La gobernanza tradicional basada únicamente en revisiones periódicas puede resultar insuficiente cuando un sistema está tomando decisiones o ejecutando procesos de forma continua.
El debate tecnológico está avanzando por ello hacia una gobernanza integrada en la propia ejecución de la IA: controles sobre accesos y acciones, supervisión continua, registros de actividad, límites operativos, mecanismos de aprobación y capacidad para detener o revertir determinadas actuaciones.
No es un escenario futuro. Gartner estima que, para 2028, una gran compañía global podría llegar a utilizar más de 150.000 agentes y advierte del riesgo de una proliferación difícil de controlar. Actualmente, solo el 13% de las organizaciones consultadas considera que dispone de la gobernanza adecuada para gestionarlos.
La oportunidad no está en frenar la IA, sino en poder confiar en ella
La respuesta ante este escenario no debería ser impedir que los agentes entren en las organizaciones. De hecho, unos controles excesivamente restrictivos pueden provocar el efecto contrario y favorecer que los usuarios recurran a soluciones fuera de los canales corporativos. La oportunidad está en crear un marco que permita innovar con límites claros.
En Entelgy ayudamos a las organizaciones a construir ese marco de Gobierno de la IA: saber qué sistemas existen, para qué se utilizan, qué riesgo presentan, quién responde por ellos y qué mecanismos de control necesitan.
Porque cuanto mayor sea la capacidad de la IA para actuar por nosotros, más importante será poder responder una pregunta esencial: ¿hasta dónde estamos dispuestos a dejarla actuar?
