La inteligencia artificial ya no se limita a responder preguntas o generar contenido. Cada vez tiene acceso a más información y sistemas corporativos y puede realizar acciones en nombre de las organizaciones. Entelgy Security América pone el foco en este nuevo desafío de ciberseguridad: saber qué puede ver la IA, qué puede hacer y, sobre todo, quién controla sus permisos.
El cambio importante es que la IA ya no solo responde o recomienda. Cada vez más, se conecta con correos, repositorios, bases de datos, aplicaciones corporativas y otros sistemas de la organización.
Y, desde el punto de vista de la ciberseguridad, eso cambia el nivel de riesgo.
La pregunta ya no es únicamente qué herramientas de IA utiliza una empresa, sino a qué información pueden acceder, qué permisos tienen y qué acciones están autorizadas a realizar.
El Global Cybersecurity Outlook 2026 del World Economic Forum refleja esta preocupación: el 87 % de los encuestados identificó las vulnerabilidades relacionadas con la inteligencia artificial como el riesgo cibernético que más creció durante 2025
De la fuga de información a la capacidad de actuar
Uno de los primeros riesgos aparece con el llamado Shadow AI: el uso de herramientas de inteligencia artificial que no han sido autorizadas o que funcionan fuera de la visibilidad de las áreas de Tecnología y Seguridad.
No siempre existe una mala práctica intencional. Muchas veces un profesional utiliza una herramienta externa simplemente porque necesita resolver una tarea con mayor rapidez.
El problema aparece cuando información de clientes, documentos internos, código o datos sensibles comienzan a procesarse en entornos que la organización no controla.
Si no sabemos qué herramientas se utilizan, qué información reciben o con qué sistemas están conectadas, resulta muy difícil protegerlas.
Con los agentes de IA este escenario se vuelve todavía más relevante.
Un agente puede consultar información, acceder a aplicaciones, modificar registros, generar código o ejecutar determinadas tareas. Por eso, principios de seguridad que ya conocemos bien —como identidad, autorización, mínimo privilegio y trazabilidad— adquieren ahora una nueva dimensión.
Un agente que necesita consultar información no debería tener capacidad para modificarla o eliminarla. Y un sistema que prepara una operación no necesariamente debería poder aprobarla.
La autonomía también necesita límites.
Cuando una instrucción puede convertirse en una amenaza
Otro de los riesgos que cobra especial relevancia es el prompt injection.
Una instrucción maliciosa puede estar escondida dentro de un correo, un documento, una página web o cualquier otra fuente que posteriormente procese un sistema de IA.
Si hablamos de un asistente que únicamente genera texto, el resultado podría ser una respuesta incorrecta. Pero si ese mismo sistema tiene acceso a aplicaciones corporativas y permisos para actuar, el impacto puede ser mucho mayor.
OWASP incluye el prompt injection, la exposición de información, el uso indebido de herramientas y los excesos de autonomía entre los riesgos que deben considerarse al proteger aplicaciones de IA generativa y sistemas agénticos.
Por eso, proteger la IA no consiste únicamente en proteger el modelo.
También es necesario controlar las identidades que utiliza, las integraciones con las que se conecta, la información a la que puede acceder y las acciones que tiene permitido ejecutar.
Entelgy Security América te enseña los cinco pilares para adoptar la IA de forma segura
Una estrategia de ciberseguridad preparada para este nuevo escenario debería contemplar, como mínimo, cinco aspectos.
- Visibilidad sobre el uso de IA
El primer paso es saber qué herramientas, modelos, agentes, extensiones e integraciones están siendo utilizados dentro de la organización y qué información o sistemas pueden alcanzar. Lo que permanece fuera del radar de Seguridad también queda fuera de su capacidad de protección.
- Identidad y mínimo privilegio
Los agentes deben tener identidades diferenciadas y permisos limitados a aquello que realmente necesitan para cumplir su función. Además, esos accesos deben poder ser identificados, auditados y revocados cuando sea necesario.
- Protección de la información
Datos personales, credenciales, información de clientes, código fuente, secretos corporativos y documentación crítica necesitan controles específicos. No podemos hacer depender toda la seguridad de que cada persona recuerde qué información puede o no introducir en una herramienta de IA.
- Pruebas y evaluación de seguridad
Los sistemas de IA también deben someterse a pruebas específicas. Prompt injection, filtración de información, manipulación de instrucciones, abuso de herramientas o escalamiento de privilegios son algunos de los riesgos que deben evaluarse de forma continua, especialmente cuando hablamos de sistemas capaces de actuar de manera autónoma.
- Monitorización, trazabilidad y comportamiento seguro
Cuando un agente realiza una acción, la organización debería poder responder preguntas muy concretas: qué hizo, qué identidad utilizó, sobre qué recurso actuó y bajo qué autorización. En operaciones críticas también deben existir mecanismos que permitan detener una acción o solicitar una validación antes de ejecutarla.
Pero la tecnología, por sí sola, no es suficiente.
La seguridad también se construye a partir de las decisiones que toman las personas cada día: qué información comparten, qué herramientas utilizan, qué permisos conceden y, especialmente, cuándo es necesario cuestionar, validar o supervisar una recomendación generada por inteligencia artificial antes de convertirla en una acción.
En Entelgy abordamos esta dimensión a través de IAbility, nuestro enfoque para promover una adopción de la inteligencia artificial segura, ética, responsable y alineada con los objetivos de negocio.
Porque la concienciación no debe limitarse a transmitir conocimiento. Cuando logra transformar hábitos, fortalecer el criterio de las personas y fomentar una cultura de responsabilidad frente al uso de la IA, se convierte en una capa adicional de protección para toda la organización.
Seguridad para avanzar, no para frenar
El objetivo no es bloquear la inteligencia artificial.
El verdadero reto consiste en incorporarla al negocio sin perder el control sobre la información, las identidades y los sistemas de la organización.
Desde Entelgy Security América abordamos este escenario como una evolución natural de la ciberseguridad: identificar nuevas superficies de exposición, proteger accesos e información, evaluar los riesgos asociados a la IA y mantener visibilidad sobre las acciones que realizan estos sistemas.
Pero la protección tecnológica necesita ir acompañada de una cultura de uso seguro y responsable.
Por eso, ciberseguridad y concienciación no deberían avanzar por caminos separados. Una protege la tecnología y los sistemas; la otra ayuda a que las personas utilicen esa tecnología con mayor criterio.
Porque cuanto mayor sea la autonomía que damos a la inteligencia artificial, más importante será tener claro qué puede hacer, a qué puede acceder y quién mantiene realmente el control.
