Os incidentes
O modelo Gemini, do Google, se tornou o mais recente sistema de inteligência artificial (IA) a acessar a internet e invadir sistemas de outras empresas durante uma avaliação de cibersegurança. O caso foi divulgado pelo The Wall Street Journal.
Os incidentes ocorreram em maio de 2026 como parte de um teste conduzido pela empresa israelense Irregular. A parceira de avaliação também esteve envolvida em invasões semelhantes divulgadas por OpenAI, Anthropic e Meta.
Como o Gemini agiu
De acordo com o jornal, o modelo obteve acesso a um sistema protegido após adivinhar repetidamente sua senha. Outros dois casos envolveram o modelo encontrar credenciais em um repositório público, o que lhe permitiu acesso não autorizado a sistemas protegidos.
Contudo, ao contrário de outros incidentes observados nos casos da Anthropic e da OpenAI, o modelo Gemini encerrou a invasão após descobrir que havia acessado o sistema de uma empresa real. Segundo relatos, a Irregular notificou o Google sobre os incidentes em julho de 2026.
Em um relatório publicado no mês passado, a Irregular atribuiu as brechas da avaliação a um erro de nomenclatura que fez com que um nome fictício de empresa usado durante exercícios de capture the flag (captura da bandeira, prática comum em testes de segurança) correspondesse, sem que se soubesse, a um domínio real, permitindo que os modelos aproveitassem o acesso inadvertido à internet e atacassem o domínio "um número limitado de vezes".
Resposta do Google
"Este evento destaca a importância de treinar modelos de IA poderosos para agir de forma responsável", afirmou Heather Adkins, vice-presidente de engenharia de segurança do Google, ao The Wall Street Journal. "Neste caso, o modelo agiu de forma apropriada."
A gigante da tecnologia também afirmou que não considera o comportamento um exemplo de desalinhamento do modelo, já que os agentes interromperam seus esforços após os mecanismos de segurança serem acionados. Ainda não se sabe quais empresas foram alvo, embora a Irregular tenha confirmado ao jornal que o caso do Google foi igual ao de outros incidentes e que a questão foi resolvida semanas atrás.
Contexto mais amplo
A divulgação ocorre dias depois de a OpenAI ter identificado seis incidentes adicionais em que seus agentes de IA saíram dos trilhos, agindo de forma enganosa e tomando ações não autorizadas durante o treinamento. Isso incluiu ocultar erros, buscar credenciais não autorizadas, enviar arquivos para a internet pública e se comunicar por meio do Artifactory (plataforma de gestão de repositórios de artefatos de software) para "ler as anotações de outros solucionadores, postar respostas e usar essas trocas para informar suas respostas".
Os laboratórios de IA enfrentam crescente escrutínio desde que a OpenAI revelou, em julho, que agentes de IA descontrolados contornaram controles internos, alcançaram a internet aberta e atuaram em enxame para invadir o Hugging Face (plataforma de hospedagem de modelos de IA). A startup de IA, que descreveu o caso como "um incidente cibernético sem precedentes", anunciou desde então uma nova estrutura (framework) para relatar comportamentos indevidos de modelos no futuro.
