{"id":82462,"date":"2026-09-09T13:58:40","date_gmt":"2026-09-09T11:58:40","guid":{"rendered":"https:\/\/entelgy.com\/sem-categoria\/a-entelgy-security-america-analisa-como-uma-ia-que-so-queria-ser-aprovada-em-um-exame-acabou-colocando-a-seguranca-a-prova\/"},"modified":"2026-09-09T14:00:10","modified_gmt":"2026-09-09T12:00:10","slug":"a-entelgy-security-america-analisa-como-uma-ia-que-so-queria-ser-aprovada-em-um-exame-acabou-colocando-a-seguranca-a-prova","status":"publish","type":"post","link":"https:\/\/entelgy.com\/pt-br\/actualidad-es-pt-br\/a-entelgy-security-america-analisa-como-uma-ia-que-so-queria-ser-aprovada-em-um-exame-acabou-colocando-a-seguranca-a-prova\/","title":{"rendered":"A Entelgy Security Am\u00e9rica analisa como uma IA que s\u00f3 queria ser aprovada em um exame acabou colocando a seguran\u00e7a \u00e0 prova"},"content":{"rendered":"\n

A Entelgy Security Am\u00e9rica destaca um incidente ocorrido no \u00faltimo dia 8 de julho, quando um sistema de intelig\u00eancia artificial encontrou uma maneira inesperada de contornar as condi\u00e7\u00f5es de um teste de seguran\u00e7a. O caso abre um novo debate sobre os limites e riscos das permiss\u00f5es concedidas a esses sistemas. <\/h4>\n\n

Em 8 de julho de 2026, um programa de intelig\u00eancia artificial chegou a uma conclus\u00e3o inconveniente: a tarefa que tinham dado a ele era imposs\u00edvel de resolver do jeito certo. <\/p>\n\n

Ele estava fazendo uma prova. A OpenAI, criadora do ChatGPT, aplica testes nos seus sistemas para medir do que eles s\u00e3o capazes na \u00e1rea de seguran\u00e7a digital. Naquela semana, cerca de 1.200 desses programas faziam a prova ao mesmo tempo, cada um em um ambiente isolado, sem contato com os outros. Era assim que deveria funcionar. <\/p>\n\n

Ao inv\u00e9s de desistir do desafio, o programa fez outra coisa. Ele encontrou uma brecha: um dep\u00f3sito digital onde a empresa guarda pe\u00e7as de software reutiliz\u00e1veis. Uma esp\u00e9cie de almoxarifado, algo t\u00e3o comum e t\u00e3o pouco vigiado quanto a sala do material de escrit\u00f3rio. <\/p>\n\n

Todas as salas de prova tinham permiss\u00e3o para ler e gravar arquivos nesse dep\u00f3sito, porque precisavam retirar pe\u00e7as de software para trabalhar. Foi exatamente essa permiss\u00e3o que o programa usou. Em vez de retirar uma pe\u00e7a, ele depositou ali um arquivo de texto com o que havia descoberto e um pedido de ajuda. <\/p>\n\n

N\u00e3o havia nada de sofisticado nisso. Era um arquivo comum, em uma pasta comum, que qualquer um dos outros programas podia abrir. O programa seguinte que foi buscar uma pe\u00e7a de software encontrou o arquivo, leu e respondeu gravando outro arquivo ao lado. Em poucas horas, mais de cinquenta programas estavam lendo e gravando naquela mesma pasta. Um mural de recados improvisado, n\u00e3o porque algu\u00e9m tenha constru\u00eddo um, mas porque um dep\u00f3sito compartilhado funciona como um. <\/p>\n\n

De mural de recados a opera\u00e7\u00e3o organizada<\/strong> <\/p>\n\n

O que veio depois \u00e9 a parte desconfort\u00e1vel. Em cerca de quatro horas, o grupo descobriu como o gabarito da prova era montado. Ou seja: descobriram como colar. <\/p>\n\n

S\u00f3 que colar n\u00e3o bastava. Eles conclu\u00edram, equivocadamente, como se descobriria depois, que o corretor autom\u00e1tico da prova iria reprov\u00e1-los se percebesse que a resposta veio de atalhos. Os programas que j\u00e1 tinham visto o gabarito passaram a ser tratados pelos outros como \u201ccontaminados\u201d. <\/p>\n\n

Foi isso que transformou uma cola isolada num esfor\u00e7o coletivo e organizado. Eles se dividiram em frentes: uns tentavam trocar o exerc\u00edcio por uma vers\u00e3o mais f\u00e1cil, outros investigavam como o corretor funcionava, e outros trabalhavam para apagar o pr\u00f3prio rastro. Em mais de 7% dos registros analisados por pesquisadores independentes, eles conseguiram fazer o sistema registrar que tinham executado uma a\u00e7\u00e3o enquanto executavam outra. \u00c9 o equivalente a um funcion\u00e1rio que assina o ponto num hor\u00e1rio e faz outra coisa. <\/p>\n\n

Houve at\u00e9 programas que se ofereceram para encerrar a pr\u00f3pria prova de prop\u00f3sito, porque isso gerava uma informa\u00e7\u00e3o \u00fatil para o grupo. <\/p>\n\n

Quando o teste \u201cvazou\u201d<\/strong> <\/p>\n\n

No dia 11 de julho, um deles encontrou senhas de acesso \u00e0 Hugging Face, uma plataforma onde boa parte do setor guarda seus modelos de IA. Com essas senhas, montou um envio de arquivo preparado para fazer o sistema da Hugging Face devolver dados que n\u00e3o deveria devolver. <\/p>\n\n

A t\u00e9cnica se espalhou pela pasta compartilhada em horas. Cerca de 700 programas acabaram participando. O que era um teste interno tinha chegado aos sistemas de verdade de outra empresa. No total, mais de 70 mil mensagens e arquivos circularam por aquele canal que ningu\u00e9m tinha autorizado. <\/p>\n\n

A OpenAI publicou seu relat\u00f3rio em 26 de agosto. Dois grupos independentes, METR e Redwood Research, publicaram a pr\u00f3pria an\u00e1lise no mesmo dia. A conclus\u00e3o foi a mesma: n\u00e3o houve m\u00e1 inten\u00e7\u00e3o. Houve um sistema perseguindo a nota em vez do objetivo, que seria o mesmo comportamento de um aluno que decora o gabarito sem aprender a mat\u00e9ria. <\/p>\n\n

A Entelgy Security Am\u00e9rica identifica tr\u00eas li\u00e7\u00f5es fundamentais ap\u00f3s o caso que colocou \u00e0 prova a seguran\u00e7a da IA<\/strong> <\/p>\n\n