A plataforma de colaboração em aprendizado de máquina Hugging Face revelou uma violação de dados resultante de um ataque cibernético conduzido por um agente autônomo de inteligência artificial (IA).
O ataque mirou a infraestrutura de produção da empresa e resultou em acesso não autorizado a conjuntos de dados internos e a credenciais de serviço.
Segundo a Hugging Face, um pipeline de processamento de dados foi usado como ponto de entrada, seguido por escalonamento de privilégios em nível de nó, coleta de credenciais e movimento lateral.
"Um conjunto de dados malicioso abusou de dois caminhos de execução de código em nosso processamento de conjuntos de dados (um carregador de conjuntos de dados com execução remota de código e uma injeção de template em uma configuração de conjunto de dados) para executar código em um worker de processamento", explica a Hugging Face.
Os atacantes usaram uma estrutura autônoma, construída sobre uma plataforma agêntica de pesquisa de segurança, para executar dezenas de milhares de ações em sandboxes de curta duração, e se apoiaram em serviços públicos para preparar capacidades de comando e controle (C&C) auto-migráveis.
A Hugging Face afirma que respondeu ao ataque, em grande parte, com sua própria IA, corrigiu os caminhos de execução de código em conjuntos de dados explorados para o acesso inicial, removeu os atacantes de sua infraestrutura, reconstruiu os nós afetados e revogou e rotacionou todas as credenciais impactadas.
Como medida de precaução, a empresa também começou a revogar amplamente segredos, implantou controles de admissão mais rígidos e barreiras de proteção adicionais, além de melhorar a detecção e os alertas.
A companhia comunicou o incidente às autoridades policiais e está investigando o caso em colaboração com especialistas externos em perícia forense de cibersegurança.
"Não encontramos evidências de adulteração em modelos, conjuntos de dados ou Spaces voltados ao público, e nossa cadeia de suprimentos de software (imagens de contêiner e pacotes publicados) foi verificada como íntegra", afirma a Hugging Face.
A empresa informa que seus sistemas registraram mais de 17.000 eventos associados à intrusão e executaram análise agêntica para reconstruir a linha do tempo do incidente e determinar seu escopo. No entanto, não foi possível identificar qual grande modelo de linguagem (LLM, na sigla em inglês) foi utilizado pelo autor do ataque para automatizar a ação.
"Ferramentas ofensivas autônomas, movidas por IA, não são mais uma hipótese teórica. Elas reduzem o custo de executar uma campanha ampla, paciente e em múltiplas etapas, e operam na velocidade das máquinas. Defender uma plataforma online agora significa tratar a superfície de dados e modelos como uma superfície de ataque de primeira classe e usar IA na defesa para acompanhar o ritmo", destaca a empresa.
