Dos 37.571 aplicativos criados com o Grok encontrados na internet pela empresa de segurança Claroc, 35.578 estavam abertos a qualquer pessoa, sem necessidade de login, informaram os pesquisadores ontem.
Entre eles estavam 24 aplicativos criados por funcionários da rede social X e da SpaceXSI, empresa que desenvolve o assistente de inteligência artificial (IA) Grok. A maioria dos aplicativos abertos era de jogos, páginas de destino e calculadoras, mas cerca de 1 em cada 10 continha dados internos de negócios ou pessoais.
Os aplicativos dos funcionários incluíam um plano confidencial de integração para um novo contratado da área de vendas, um mapa de territórios de vendas com 594 contas e uma proposta publicitária da X para uma agência federal dos EUA marcada como confidencial. A SpaceXSI, antes conhecida como xAI, já removeu os 24 aplicativos dos funcionários, mas não os de outros usuários, segundo os pesquisadores.
Além desses aplicativos de funcionários, os aplicativos abertos continham dados internos de outras 30 organizações que os pesquisadores conseguiram identificar, em setores que vão da construção civil e energia à saúde e defesa. Dessas, 26 têm mais de 1.000 funcionários e 6 estão na lista Fortune 500.
Segundo estimativa dos pesquisadores em seu relatório, cerca de 2% dos aplicativos abertos continham material grave o suficiente para ser classificado como alto ou crítico.
O material exposto incluía a lista pesquisável de mais de 3.500 funcionários de um grupo hospitalar, um briefing de terapia intensiva sobre um único paciente, o painel ao vivo de turnos de um corpo de bombeiros e a planilha de horas de um prestador de serviços cujo código continha todas as senhas dos funcionários em texto simples.
O Grok consegue criar um aplicativo funcional a partir de uma descrição digitada no chat, recurso que a empresa liberou para todos os planos do Grok em 19 de agosto. Esse criador por chat compartilha o nome Grok Build com uma ferramenta separada de programação em terminal, cujos envios de repositórios foram noticiados em 14 de julho.
Cada aplicativo publicado recebe um subdomínio próprio de grok.me, e quem o criou escolhe quem pode abri-lo, segundo o anúncio de lançamento da empresa.
Nenhum aplicativo fica público até que o criador clique em Publicar. Na conta paga usada pelos pesquisadores, a etapa seguinte oferecia 3 configurações de acesso: "Qualquer pessoa com o link", "Usuários convidados" e "Somente você". "Qualquer pessoa com o link" já estava selecionada.
A configuração é importante porque o endereço de um aplicativo não permanece secreto, afirmam os pesquisadores. Ao abrir um aplicativo, o computador do visitante consulta seu subdomínio no DNS (Sistema de Nomes de Domínio). Serviços de DNS passivo registram essas consultas, e qualquer pessoa com uma conta pode pesquisar esses registros por padrão.
O Grok sugere 4 palavras aleatórias como nome de cada aplicativo, e cerca de metade dos nomes encontrados pelos pesquisadores seguia esse padrão. Esses nomes são difíceis de adivinhar, mas isso não protege um aplicativo cujo nome já está em uma lista pesquisável.
O criador de aplicativos do ChatGPT também coloca cada app em um subdomínio próprio. Mas, quando os pesquisadores compartilharam um aplicativo ali, o acesso estava definido como "Somente eu" até que o alterassem. Um endereço de aplicativo do ChatGPT encontrado nos dados de DNS levaria a um app que só o dono pode abrir, afirmam.
Os pesquisadores encontraram os nomes dos aplicativos do Grok com métodos comuns de descoberta de subdomínios e carregaram a primeira página de cada aplicativo uma vez, sem fazer login.
Para verificar que proteção o Grok oferece por conta própria, os pesquisadores criaram 2 aplicativos de teste com dados fictícios e publicaram ambos com a configuração de acesso já selecionada, "Qualquer pessoa com o link".
O primeiro, uma lista de contatos, ganhou um banco de dados, mas nenhum login. Sem fazer login, os pesquisadores adicionaram um registro por uma janela privada do navegador, e o visitante seguinte o viu.
O segundo, uma lista de clientes para uma equipe de vendas de 4 pessoas, ganhou botões de login que o Grok acrescentou por conta própria: "Continuar com o Google" e "Continuar com o X". Mas o código escrito pelo Grok adicionava cada pessoa que fazia login à equipe antes de verificar se ela fazia parte dela, então a verificação sempre passava.
Uma conta do Google não convidada, de alguém diferente do dono, conseguiu entrar, visualizou todos os clientes, editou um registro e apagou outro.
Os pesquisadores fizeram esses testes apenas em seus próprios aplicativos. Não testaram se algum dos aplicativos abertos que encontraram aceitaria alterações desse tipo.
Os pesquisadores comunicaram as descobertas à SpaceXSI no domingo, pelo endereço indicado em seu arquivo security.txt, incluindo 2 dos aplicativos dos funcionários. Os outros 22 foram informados na segunda-feira.
Até a publicação da pesquisa ontem, a empresa não tinha respondido ao relatório, mas havia respondido a perguntas de um repórter sobre o estudo.
De acordo com os pesquisadores, a empresa afirmou que os aplicativos do Grok permanecem privados até que o criador os compartilhe. A publicação envolve várias etapas, incluindo a escolha entre "Somente você" e "Qualquer pessoa com o link", além de um aviso legal. As contas de funcionários são configuradas como "Somente você" por padrão.
Mesmo assim, 24 aplicativos criados por funcionários da empresa e da X estavam abertos a qualquer pessoa, afirmam os pesquisadores.
Com o relatório, os pesquisadores pediram à empresa que definisse "Somente você" como padrão e que acrescentasse uma opção para limitar um aplicativo ao domínio de e-mail corporativo da organização.
Segundo os pesquisadores, a resposta da empresa não informou que entraria em contato com os donos dos outros aplicativos abertos. Eles começaram a enviar e-mails às organizações afetadas e tinham escrito a 3 delas até a publicação. Omitiram do relatório todos os endereços e títulos dos aplicativos.
Em 18 de outubro, os mesmos pesquisadores publicaram uma pesquisa sobre o Muse, mostrando que páginas compartilhadas a partir do agente de IA Muse, da Meta, podiam ser encontradas por meio do DNS passivo. A Meta desativou o compartilhamento e, em 22 de outubro, anunciou uma correção que deu novos endereços aos itens compartilhados.
Como verificar os aplicativos do Grok da sua organização
A Claroc, que vende ferramentas para encontrar e proteger aplicativos criados com IA, recomenda estas verificações:
- Descubra quais criadores de aplicativos com IA sua equipe usa. Ferramentas como Grok, Lovable, Replit, v0, Bolt, Base44 e Google AI Studio podem ser usadas sem que a TI (tecnologia da informação) as configure e sem uma conta corporativa.
- Se você tiver acesso a dados de DNS passivo, pesquise os domínios dos criadores e abra os resultados em uma janela privada do navegador.
- Garanta que qualquer aplicativo do Grok com dados internos esteja definido como "Usuários convidados" ou "Somente você", e que um estranho receba uma página de erro.
- Tente fazer login com uma conta de fora da sua empresa. Se ela conseguir entrar, o aplicativo precisa de uma lista de quem tem permissão.
- Verifique os scripts que cada aplicativo carrega em busca de nomes, endereços de e-mail e senhas, e despublique os aplicativos que não têm dono.
Nos testes dos pesquisadores, definir um aplicativo como "Somente você" fez com que ele retornasse um erro 401 a um estranho, tanto para a página quanto para os dados, e despublicar tirou um aplicativo do ar em segundos.
