El resultado es una nueva pregunta para los responsables de tecnolog\u00eda y negocio: \u00bfsabemos realmente qu\u00e9 inteligencia artificial est\u00e1 utilizando nuestra organizaci\u00f3n?<\/strong> <\/p>\n\n\n\n La cuesti\u00f3n cobra especial relevancia ante el crecimiento de lo que empieza a denominarse Shadow AI<\/em> o, en el caso de sistemas aut\u00f3nomos, shadow agents<\/em>. Investigaciones publicadas recientemente apuntan precisamente a una brecha entre la velocidad de adopci\u00f3n de la IA y la capacidad de las organizaciones para supervisarla. En EMEA, por ejemplo, un estudio reciente se\u00f1ala que el 67% de las organizaciones consultadas reconoce que sus empleados est\u00e1n creando flujos aut\u00f3nomos de IA que los equipos de TI no pueden rastrear completamente. <\/p>\n\n\n\n Durante los \u00faltimos a\u00f1os, buena parte de la conversaci\u00f3n empresarial se ha centrado en c\u00f3mo adoptar la IA<\/strong>. Ahora aparece una cuesti\u00f3n previa: c\u00f3mo gobernar todo lo que ya se est\u00e1 utilizando. <\/p>\n\n\n\n Porque incorporar controles sobre las herramientas corporativas no resuelve necesariamente el problema. Una organizaci\u00f3n puede tener una estrategia de IA perfectamente definida y, al mismo tiempo, desconocer que determinados equipos est\u00e1n utilizando aplicaciones externas, introduciendo informaci\u00f3n corporativa en modelos generativos o construyendo automatizaciones basadas en IA. <\/p>\n\n\n\n Con los agentes, esta dificultad aumenta. Ya no se trata \u00fanicamente de controlar qu\u00e9 informaci\u00f3n recibe o genera un modelo, sino de determinar qu\u00e9 puede hacer, a qu\u00e9 sistemas puede acceder y bajo qu\u00e9 l\u00edmites puede actuar<\/strong>. Gartner se\u00f1ala precisamente la necesidad de establecer responsabilidades claras entre CIOs y responsables de negocio para poder escalar estos sistemas de forma segura. <\/p>\n\n\n\n En Entelgy entendemos la Gobernanza de la IA como algo m\u00e1s amplio que el cumplimiento normativo. El punto de partida es disponer de visibilidad suficiente para responder preguntas aparentemente sencillas: qu\u00e9 soluciones de IA utilizamos, para qu\u00e9 las utilizamos, qu\u00e9 informaci\u00f3n manejan, qui\u00e9n es responsable de ellas y qu\u00e9 impacto pueden tener sobre personas, procesos y decisiones. <\/p>\n\n\n\n A partir de ese inventario es posible construir un mapa de riesgos de IA<\/strong> y establecer diferentes niveles de control. Porque el riesgo no depende \u00fanicamente de la tecnolog\u00eda. Una misma soluci\u00f3n puede tener implicaciones completamente distintas si se utiliza para resumir documentaci\u00f3n interna o si interviene en una decisi\u00f3n sobre selecci\u00f3n de personal, concesi\u00f3n de financiaci\u00f3n o acceso a un determinado servicio. <\/p>\n\n\n\n Gobernar significa, por tanto, establecer criterios que permitan decidir qu\u00e9 usos son aceptables, cu\u00e1les requieren supervisi\u00f3n y cu\u00e1les necesitan controles adicionales<\/strong>. <\/p>\n\n\n\n La llegada de la IA ag\u00e9ntica hace todav\u00eda m\u00e1s urgente este cambio. Los agentes pueden interactuar con aplicaciones empresariales, acceder a datos, desencadenar procesos y ejecutar acciones dentro de unos l\u00edmites determinados. Por eso la gobernanza est\u00e1 evolucionando desde revisiones peri\u00f3dicas hacia mecanismos integrados en la propia operaci\u00f3n de la tecnolog\u00eda. <\/p>\n\n\n\n Desde Entelgy abordamos este desaf\u00edo combinando tecnolog\u00eda, procesos, regulaci\u00f3n y, especialmente, adopci\u00f3n. Porque disponer de pol\u00edticas no garantiza por s\u00ed mismo un uso responsable de la IA. Las personas deben conocer qu\u00e9 pueden hacer con estas herramientas, cu\u00e1les son los l\u00edmites y qu\u00e9 responsabilidad tienen cuando las utilizan. <\/p>\n\n\n\nNo puedes gobernar una IA que no sabes que existe<\/strong> <\/h3>\n\n\n\n
Del inventario de IA al mapa de riesgos<\/strong> <\/h3>\n\n\n\n
La gobernanza debe avanzar tan r\u00e1pido como la propia IA<\/strong> <\/h2>\n\n\n\n