Agentes de IA driblam barreiras e acendem alerta sobre segurança

Casos envolvendo sistemas da OpenAI e da Anthropic mostram como modelos podem encontrar caminhos não previstos para cumprir tarefas

--> copiar link --> Agentes de IA podem navegar na internet, executar programas e interagir com outros sistemas para cumprir objetivos de forma autônoma Pixabay The Conversation 3.out.2026 (sábado) - 6h30 Priorize o Poder no Google Por Alberto Sardinha

Nos últimos meses, uma sequência de episódios trouxe para o mundo real um problema que pesquisadores de IA conhecem há bastante tempo: máquinas treinadas para atingir um objetivo podem descobrir maneiras de alcançá-lo que seus próprios criadores não haviam previsto.

Os protagonistas desses episódios são os chamados agentes de IA: softwares que não se limitam a responder perguntas, como um chatbot, mas são capazes de executar tarefas por conta própria. Para atingir seus objetivos, eles navegam na internet, rodam programas, consultam bancos de dados e interagem com outros sistemas, de forma autônoma.

O caso mais recente ocorreu na Austrália. Em setembro de 2026, o primeiro-ministro Anthony Albanese revelou que um agente da OpenAI havia obtido acesso não autorizado ao portal de estatísticas do Medicare , o sistema público de saúde australiano, administrado pela agência Services Australia .

O incidente ocorreu em junho, quando a equipe de pesquisa da empresa usava um modelo interno para buscar na internet dados sobre gastos públicos com medicamentos. Ao esbarrar em bloqueios, o agente, nas palavras de Albanese, “encontrou uma maneira de contorná-los” .

Segundo o governo australiano, o sistema acessou arquivos públicos e não públicos e chegou a gravar arquivos no servidor. Outros três órgãos públicos australianos podem ter sido afetados pelo mesmo incidente. Até o momento, não há evidência de que dados pessoais de pacientes tenham sido acessados, mas as investigações continuam.

O episódio não foi isolado. Em julho de 2026, a OpenAI revelou que, durante avaliações internas de cibersegurança realizadas meses antes, alguns de seus modelos conseguiram contornar controles que deveriam mantê-los isolados da internet. E chegaram a comprometer partes da infraestrutura da própria empresa e da Hugging Face , uma das principais plataformas de compartilhamento de modelos de IA.

Poucos dias depois, a Anthropic informou ter encontrado três episódios em que modelos da sua popular ferramenta de IA Claude , também durante testes de cibersegurança, alcançaram a internet e obtiveram acesso não autorizado a sistemas reais de outras organizações.

Há ressalvas importantes. Avaliações desse tipo são rotina no setor: as empresas testam se seus modelos são capazes de invadir sistemas justamente para medir o risco antes de colocá-los à disposição do público.

Nesses dois casos, os modelos operavam com menos proteções do que as versões comerciais e, no caso da Anthropic, uma configuração incorreta deixou aberta uma conexão com a internet que deveria estar bloqueada.

O caso australiano é diferente e, por isso mesmo, mais revelador. Ali não havia teste de segurança: o agente fazia uma pesquisa comum.

Em conjunto, esses episódios levantam uma pergunta importante: por que um sistema de IA, diante de um obstáculo, procura um caminho que ultrapassa os limites que seus desenvolvedores esperavam que ele respeitasse? A resposta não exige imaginar uma máquina consciente, mal-intencionada ou com “ instinto de sobrevivência” . Ela começa com uma característica muito mais simples da IA moderna: ensinamos máquinas a perseguir objetivos.

Uma das técnicas mais importantes para isso é o aprendizado por reforço. Como expliquei em um artigo anterior no The Conversation , a ideia pode ser entendida sem fórmulas: em vez de dizer à máquina, passo a passo, o que ela deve fazer, definimos um objetivo e damos algum tipo de recompensa quando ela obtém bons resultados.

A máquina experimenta diferentes ações. E, com o tempo, aprende quais estratégias aumentam essa recompensa.

É parecido com aprender um jogo por tentativa e erro. Imagine que alguém receba pontos sempre que se aproxima da vitória. Depois de jogar muitas vezes, essa pessoa tende a repetir as ações que deram certo e abandonar as que deram errado.

Um agente de IA faz algo semelhante, só que pode repetir esse processo milhões de vezes e explorar estratégias que um programador talvez nunca tenha considerado.

A técnica continua relevante nos sistemas atuais, como os que estão por trás do ChatGPT. Ela não é a única forma de treiná-los, mas é usada em etapas importantes e ajuda esses sistemas a desenvolver estratégias para resolver problemas mais difíceis.

A OpenAI e a empresa chinesa DeepSeek , por exemplo, descrevem o aprendizado por reforço como peça central de seus modelos mais avançados.

Isso é importante porque o sistema aprende a perseguir aquilo que conseguimos medir ou recompensar. E aí surge uma diferença que parece pequena, mas é fundamental. O objetivo que especificamos para uma máquina nem sempre representa perfeitamente aquilo que realmente queríamos que ela fizesse.

A capacidade de descobrir estratégias inesperadas é antiga na história recente da IA e, durante muito tempo, foi tratada como uma de suas características mais fascinantes.

Em 2015, pesquisadores da DeepMind apresentaram na revista Nature um sistema chamado DQN, que aprendeu a jogar 49 jogos do tradicional videogame Atari, muito popular nos anos 1980, observando apenas as imagens da tela e a pontuação.

No jogo Breakout, em que uma bola precisa destruir uma parede de blocos, o sistema acabou descobrindo sozinho uma estratégia particularmente eficiente. Abrir um túnel em uma das laterais da parede para que a bola passasse para trás dos blocos e destruísse vários deles sem precisar voltar imediatamente à raquete. Ninguém havia programado a instrução “abra um túnel”. O agente descobriu que aquilo aumentava mais rapidamente sua pontuação, da mesma forma que jogadores humanos intuíam quando praticavam o videogame com freq