Uma página maliciosa poderia extrair conversas privadas de um usuário do Meta Muse e memórias armazenadas pelo assistente, sem acionar nenhuma solicitação de aprovação, mostraram pesquisadores.
O mesmo ataque poderia ser estendido para alcançar as credenciais que o Muse armazena para as contas conectadas do usuário.
O trabalho foi uma demonstração em laboratório, não um ataque a usuários reais, e permaneceu dentro da máquina na nuvem do usuário individual. A NebuSec, empresa de segurança que divulgou o estudo ontem, afirma que a equipe do Muse já corrigiu todas as falhas descritas.
O Muse é o agente pessoal de inteligência artificial (IA) da Meta, lançado em 8 de setembro, que atua por meio das contas online conectadas pelo usuário e pode fazer compras em seu nome. O agente de cada pessoa roda em um computador próprio na nuvem.
Nesse ambiente, uma camada de monitoramento chamada Sentinel deveria ser o único filtro para tudo o que o agente envia para fora, e as senhas e os tokens das contas conectadas deveriam ficar fora do alcance do agente.
A equipe do Muse descreveu o objetivo no lançamento: “Por isso projetamos o sistema para presumir que o agente pode estar sob ataque e limitar o possível dano.”
Na demonstração, uma página maliciosa aberta pelo agente conseguiu enviar o histórico de conversas e as memórias armazenadas do usuário para um servidor externo e alterá-las, sem que nenhuma solicitação fosse exibida ao usuário, segundo o relatório de pesquisa da empresa.
A partir daí, os pesquisadores encadearam uma falha no navegador embutido do Muse, usado pelo assistente em tarefas como a criação de arquivos em PDF (formato de documento portátil), a uma falha do núcleo (kernel) do Linux, assumindo o controle total da máquina na nuvem do usuário. Eles detalharam essa cadeia em um relatório técnico.
Esse controle total alcançou o armazenamento de credenciais, os arquivos salvos e o próprio Sentinel, partes que a arquitetura de segurança do Muse mantém isoladas do agente.
O comprometimento não foi além dessa única máquina. Os pesquisadores não chegaram ao servidor compartilhado por baixo dela nem às máquinas de outros usuários.
Controles não foram suficientes
O Muse foi construído para presumir que seu próprio agente poderia ser voltado contra o usuário e para conter qualquer invasão. Cada um desses controles funcionou como previsto, afirmou a empresa, mas o ataque ainda percorreu todo o caminho.
A NebuSec diz que comunicou as descobertas à equipe do Muse e que todas as explorações foram corrigidas antes da publicação. A Meta não confirmou publicamente as correções nem comentou o trabalho, e o relatório não informa se algum dado de usuário foi acessado antes da aplicação das correções.
A pesquisa da empresa sobre o Muse invadiu o sistema em nuvem por trás do assistente, diferentemente de uma falha anterior do Muse identificada em setembro, que apenas permitia que um malware já instalado no Mac do usuário sequestrasse o assistente no próprio dispositivo.