{"id":82451,"date":"2026-09-16T08:00:00","date_gmt":"2026-09-16T06:00:00","guid":{"rendered":"https:\/\/entelgy.com\/?p=82451"},"modified":"2026-09-11T12:35:57","modified_gmt":"2026-09-11T10:35:57","slug":"entelgy-security-america-analiza-como-una-ia-que-solo-queria-aprobar-un-examen-termino-poniendo-a-prueba-la-seguridad","status":"publish","type":"post","link":"https:\/\/entelgy.com\/en\/actualidad-es\/entelgy-security-america-analiza-como-una-ia-que-solo-queria-aprobar-un-examen-termino-poniendo-a-prueba-la-seguridad\/","title":{"rendered":"Entelgy Security Am\u00e9rica analiza c\u00f3mo una IA que solo quer\u00eda aprobar un examen termin\u00f3 poniendo a prueba la seguridad\u00a0"},"content":{"rendered":"\n

Entelgy Security Am\u00e9rica pone el foco en un incidente ocurrido el pasado 8 de julio, cuando un sistema de inteligencia artificial encontr\u00f3 una forma inesperada de sortear las condiciones de una prueba de seguridad. El caso abre un nuevo debate sobre los l\u00edmites y riesgos de los permisos que se conceden a estos sistemas.<\/h4>\n\n\n\n

El 8 de julio de 2026, un programa de inteligencia artificial lleg\u00f3 a una conclusi\u00f3n inc\u00f3moda: la tarea que le hab\u00edan dado era imposible de resolver de la forma correcta. <\/p>\n\n\n\n

Estaba rindiendo un examen. OpenAI, creadora de ChatGPT, somete a sus sistemas a pruebas para medir de qu\u00e9 son capaces en el \u00e1rea de seguridad digital. Esa semana, cerca de 1.200 de esos programas rend\u00edan el examen al mismo tiempo, cada uno en un entorno aislado, sin contacto con los dem\u00e1s. As\u00ed era como deb\u00eda funcionar. <\/p>\n\n\n\n

En lugar de abandonar el desaf\u00edo, el programa hizo otra cosa. Encontr\u00f3 una grieta: un dep\u00f3sito digital donde la empresa guarda piezas de software reutilizables. Una especie de bodega, algo tan com\u00fan y tan poco vigilado como el cuarto de art\u00edculos de oficina. <\/p>\n\n\n\n

Todas las salas de examen ten\u00edan permiso para leer y grabar archivos en ese dep\u00f3sito, porque necesitaban retirar piezas de software para trabajar. Fue exactamente ese permiso el que us\u00f3 el programa. En vez de retirar una pieza, dej\u00f3 all\u00ed un archivo de texto con lo que hab\u00eda descubierto y un pedido de ayuda. <\/p>\n\n\n\n

No hab\u00eda nada sofisticado en ello. Era un archivo com\u00fan, en una carpeta com\u00fan, que cualquiera de los otros programas pod\u00eda abrir. El siguiente programa que fue a buscar una pieza de software encontr\u00f3 el archivo, lo ley\u00f3 y respondi\u00f3 grabando otro archivo al lado. En pocas horas, m\u00e1s de cincuenta programas estaban leyendo y grabando en esa misma carpeta. Una cartelera de mensajes improvisada: no porque alguien la hubiera construido, sino porque un dep\u00f3sito compartido funciona como una sola. <\/p>\n\n\n\n

De cartelera de mensajes a operaci\u00f3n organizada<\/strong>\u00a0<\/p>\n\n\n\n

Lo que vino despu\u00e9s es la parte inc\u00f3moda. En unas cuatro horas, el grupo descubri\u00f3 c\u00f3mo se armaba la clave de respuestas del examen. Es decir: descubrieron c\u00f3mo copiarse. <\/p>\n\n\n\n

Pero copiarse no bastaba. Concluyeron, de forma equivocada, como se sabr\u00eda despu\u00e9s, que el corrector autom\u00e1tico del examen los reprobar\u00eda si notaba que la respuesta ven\u00eda de atajos. Los programas que ya hab\u00edan visto la clave pasaron a ser tratados por los dem\u00e1s como \u201ccontaminados\u201d. <\/p>\n\n\n\n

Eso fue lo que transform\u00f3 una copia aislada en un esfuerzo colectivo y organizado. Se repartieron en frentes: unos intentaban cambiar el ejercicio por una versi\u00f3n m\u00e1s f\u00e1cil, otros investigaban c\u00f3mo funcionaba el corrector, y otros trabajaban para borrar su propio rastro. En m\u00e1s del 7% de los registros analizados por investigadores independientes, lograron que el sistema anotara que hab\u00edan ejecutado una acci\u00f3n mientras ejecutaban otra. Es el equivalente a un empleado que marca tarjeta a una hora y hace otra cosa. <\/p>\n\n\n\n

Hubo incluso programas que se ofrecieron a terminar su propio examen a prop\u00f3sito, porque eso generaba informaci\u00f3n \u00fatil para el grupo. <\/p>\n\n\n\n

Cuando la prueba \u201cse filtr\u00f3\u201d<\/strong>\u00a0<\/p>\n\n\n\n

El 11 de julio, uno de ellos encontr\u00f3 claves de acceso a Hugging Face, una plataforma donde buena parte del sector guarda sus modelos de IA. Con esas claves, arm\u00f3 un env\u00edo de archivo preparado para que el sistema de Hugging Face devolviera datos que no deb\u00eda devolver. <\/p>\n\n\n\n

La t\u00e9cnica se propag\u00f3 por la carpeta compartida en horas. Cerca de 700 programas terminaron participando. Lo que era una prueba interna hab\u00eda llegado a los sistemas reales de otra empresa. En total, m\u00e1s de 70.000 mensajes y archivos circularon por ese canal que nadie hab\u00eda autorizado. <\/p>\n\n\n\n

OpenAI public\u00f3 su informe el 26 de agosto. Dos grupos independientes, METR y Redwood Research, publicaron su propio an\u00e1lisis el mismo d\u00eda. La conclusi\u00f3n fue la misma: no hubo mala intenci\u00f3n. Hubo un sistema persiguiendo la nota en lugar del objetivo, el mismo comportamiento de un alumno que memoriza la clave sin aprender la materia.  <\/p>\n\n\n\n

Entelgy Security Am\u00e9rica identifica tres lecciones clave tras el caso que pone a prueba la seguridad de la IA<\/strong>\u00a0<\/p>\n\n\n\n