A Meta pagou cerca de US$ 1,2 milhão em recompensas por falhas de segurança (programa conhecido como bug bounty) para o Muse, seu agente de inteligência artificial (IA), incluindo US$ 300 mil por uma falha identificada antes do lançamento que expôs dados em sistemas internos de teste.
O Muse é um agente pessoal de IA que age em nome do usuário em seus e-mails, calendário, aplicativos de mensagens e outras contas. Cada agente recebe sua própria máquina virtual (VM, ambiente computacional isolado).
O programa de recompensas funcionou de forma privada desde abril e se tornou público no lançamento do agente, em 8 de setembro, segundo David Singleton, da Meta, em uma publicação no blog da empresa. Dos mais de 630 relatórios recebidos, 64 foram considerados válidos.
A recompensa de US$ 300 mil foi paga quatro meses antes do lançamento, quando o Muse ainda estava em fase inicial de testes internos. O pesquisador demonstrou acesso a conversas e tokens em máquinas virtuais de pré-lançamento usadas por funcionários da Meta para testar o produto.
“Uma verificação de autenticação tratou um cabeçalho adicionado por um proxy HTTPS (protocolo seguro de transferência de hipertexto) local como prova de que a requisição vinha de uma fonte confiável. Durante uma migração de sistema, o ambiente ganhou uma segunda camada de proxy. Isso significava que requisições vindas de fora também podiam carregar esse cabeçalho confiável”, explicou Singleton.
A Meta tirou o serviço do ar, corrigiu a falha e deixou de tratar a máquina local como confiável.
Uma recompensa de US$ 90 mil foi paga por um relatório sobre uma página web maliciosa que, ao ser usada em um pedido de resumo ao Muse, imitou mensagens de status da ferramenta de navegação do agente. “Isso fez o agente executar algumas ações que deveriam ter sido bloqueadas”, observou Singleton.
Desde então, a Meta acrescentou sinais de detecção e mudou a forma como o Muse trata saídas de ferramentas que parecem suspeitas. A empresa afirma que, em testes, seus classificadores agora identificam o ataque e outras 100 variações.
Outros US$ 90 mil foram pagos por um relatório que mostrou que uma formatação específica podia fazer códigos de acesso de uso único passarem pelos filtros de ocultação de dados de e-mail do Muse. A Meta descreveu o caso como parte de um ataque de ponta a ponta.
Uma recompensa de US$ 50 mil foi paga por uma falha em um aplicativo Android que permitia a um app malicioso enviar um link para uma webview privilegiada (componente que exibe páginas da web dentro de um aplicativo). “O manipulador de links reconheceu um caminho de página compartilhada sem validar o host e o carregou”, escreveu Singleton, o que permitia que a página de um atacante capturasse as credenciais da webview.
Uma recompensa de US$ 1 mil cobriu uma falha em um aplicativo para Mac que permitia a um invasor com acesso ao computador sequestrar o recurso de atualização automática para executar código com as permissões do aplicativo.
A Meta paga até US$ 300 mil por relatório válido, valor que a empresa afirma ser várias vezes superior às maiores recompensas anunciadas por outros desenvolvedores líderes de IA. Ataques de injeção de prompt que afetam um único usuário podem render até US$ 130 mil, enquanto um comprometimento de toda a base de usuários pode render até US$ 250 mil.
