A OWASP (Projeto Aberto de Segurança de Aplicações Web) emitiu um alerta de que agentes de IA e chatbots estão reduzindo as habilidades necessárias para certas etapas de ciberataques, especialmente em áreas como a descoberta de alvos e a pesquisa de vulnerabilidades.
Segundo a pesquisa mais recente, iniciantes podem avançar com o uso de orientações da IA. No entanto, a experiência humana continua essencial quando as ferramentas falham ou quando se trata de ataques complexos.
Publicado em 27 de outubro, o guia LLM Exploit Generation Guide 2.0 (LLM, sigla de modelos de linguagem de grande porte) compara modelos de linguagem guiados por humanos com agentes autônomos. A mensagem é clara: a IA pode facilitar invasões sem transformar todo iniciante em um atacante qualificado. Nenhuma das abordagens eliminou a necessidade de julgamento humano.
OWASP alerta sobre agentes de IA
Os pesquisadores testaram as duas abordagens contra o Silentium e o MonitorsFour, duas máquinas de treinamento da plataforma Hack The Box lançadas após os cortes de treinamento dos modelos testados. Isso reduziu a chance de os modelos estarem reproduzindo soluções já publicadas. A trilha com agentes abrangeu quatro frameworks em nove configurações, incluindo CAI, HexStrike AI, Claude Code e OpenAI Codex.
O exemplo mais marcante envolveu o chamado “vibe hacking”, em que um operador sem conhecimento de segurança ofensiva seguiu as instruções de um modelo. O modelo identificou um site de homologação (ambiente de testes), localizou contas válidas e orientou o operador na tomada de controle de uma conta de administrador. A pessoa, basicamente, copiou comandos, devolveu as saídas e inseriu informações em formulários. Ainda assim, o operador precisou de habilidade básica com linha de comando e de técnica para formular prompts.
Agentes autônomos também encontraram sites de homologação, identificaram versões de software e as relacionaram a vulnerabilidades conhecidas. Esses achados ajudam a explicar a crescente preocupação com agentes de IA automatizando a etapa de reconhecimento e a pesquisa de exploração, tarefas que antes exigiam um trabalho manual considerável.
Os resultados não mostraram comprometimento confiável e totalmente autônomo. No Silentium, configurações de agentes mais robustas chegaram à fase de tomada de conta, mas as barreiras de proteção (guardrails) dos provedores interromperam a ação final. Os pesquisadores ressaltaram que identificar um caminho de ataque funcional não é o mesmo que concluir a tomada de controle. Operadores humanos finalizaram etapas que os agentes não conseguiram executar.
Os agentes também repetiram varreduras que haviam falhado, perseguiram pistas fracas e tiveram dificuldades com permissões ausentes e erros de nome de host. Um deles insistiu em quebrar um hash de senha enquanto ignorava uma rota de redefinição de senha que já havia descoberto. Configurações com múltiplos agentes melhoraram o progresso, mas montá-las exigiu habilidade técnica.
A OWASP identificou o uso repetido e de alta frequência de ferramentas contra um mesmo alvo, sem progresso significativo, como um possível sinal de detecção. Esse comportamento não comprova a participação de IA. Ataques guiados por humanos podem permanecer mais discretos, enquanto criminosos experientes ganham mais com agentes, pois conseguem corrigir erros e redirecionar trabalhos travados.
