Conforme ferramentas de IA se proliferam e se tornam essenciais no desenvolvimento de software em todo o mundo, nova pesquisa da empresa de cibersegurança CrowdStrike mostra como atacantes estão mirando ativamente a cadeia de ferramentas de IA para roubar credenciais de acesso, ganhar acesso mais profundo a ambientes-alvo, exfiltrar dados sensíveis e até destruir arquivos e sistemas — tudo isso enquanto encontram novas formas de ocultar seus rastros.
Pesquisadores descobriram um worm em atividade real durante a investigação de ataques à cadeia de suprimentos de software de IA. Adam Meyers, vice-presidente sênior de trabalho contra adversários da CrowdStrike, afirma que a empresa ainda não atribuiu a atividade a um agente específico, mas que ela se encaixa em evoluções mais amplas na forma como atacantes como o TeamPCP (rastreado pela CrowdStrike como "Altered Spider") e grupos norte-coreanos estão mirando a cadeia de suprimentos de software de IA.
"Esta é uma das campanhas que vimos mostrando que se trata de uma classe emergente de ataques", diz Meyers à WIRED. "À medida que os agentes de codificação de IA se tornam o padrão de desenvolvimento, as ameaças à cadeia de suprimentos estão evoluindo para explorar essas relações de confiança. Pela primeira vez, estamos vivenciando o quanto a IA e sua cadeia de ferramentas se integraram ao ecossistema tecnológico mais amplo."
O worm identificado pela CrowdStrike opera em fases. Primeiro, realiza reconhecimento para avaliar o ambiente-alvo. Em seguida, procura por tokens de acesso e outros dados sensíveis, como chaves criptográficas e credenciais de acesso a servidores, que podem ser entregues aos atacantes. Conforme o malware obtém privilégios, ele se descompacta ainda mais e continua coletando credenciais, especialmente tokens do npm (gerenciador de pacotes para JavaScript) que concedem acesso a servidores essenciais de gerenciamento de pacotes de software e outras capacidades de desenvolvimento, como pull requests (solicitações de integração de código).
Quanto mais fundo o malware se infiltra no sistema, mais dados sensíveis consegue coletar. Nesse ponto, o malware também pode acionar sua capacidade destrutiva, ou o que Meyers chama de "interruptor de morte", para destruir arquivos ou bloquear o acesso legítimo à infraestrutura comprometida.
O achado principal, no entanto, é que grande parte da atividade maliciosa do worm ocorre em pontos essencialmente cegos, porque seu comportamento imita ações legítimas. "É como uma agulha num palheiro, só que aqui é uma agulha numa pilha de agulhas", afirma Meyers. "Isso se parece muito com a automação que as organizações usam para construir código, então é muito difícil de detectar."
Meyers acrescenta que, nesses pipelines de desenvolvimento de software com IA, é mais difícil reunir os pontos de dados que scanners de segurança e ferramentas de análise tradicionalmente utilizam para detectar atividades potencialmente suspeitas.
"Há muita sobreposição de telemetria porque sistemas legítimos de codificação com IA operam da mesma forma que este worm, então fica muito difícil distinguir, a partir da telemetria disponível, o que é legítimo e o que é ilegítimo", diz Meyers.
Para se esconder ainda mais descaradamente, os criadores do worm incluíram atrasos temporais em que várias capacidades são executadas horas ou até dias após o trabalho preparatório, tornando ainda mais difícil para os defensores estabelecerem uma relação de causa e efeito entre determinados eventos e seus desdobramentos.
Meyers afirma que a CrowdStrike tem trabalhado em estratégias para conectar mais pontos, mas enfatiza que, à medida que o desenvolvimento de software com IA explode, há uma necessidade urgente de que todos os atores colaborem em soluções estruturais.
"É uma superfície de detecção limitada porque apenas parte dessa atividade realmente vai produzir algum tipo de sinal de telemetria para analisarmos", diz Meyers, "então fica extremamente oneroso determinar o que é comportamento legítimo e o que é ilegítimo".
