Bem-vindo à Kernel Panic!, a newsletter semanal de Lily Hay Newman e Matt Burgess sobre o novo mundo da privacidade e da segurança digital. Para receber esta newsletter na sua caixa de entrada toda semana, cadastre-se aqui.
Mesmo enquanto a IA turbina golpes digitais e cibercrimes, ela também está sendo recrutada na luta para proteger possíveis vítimas. Governos ao redor do mundo têm lutado de forma consistente para enfrentar a crise global do crime online, lidando com as limitações de tentar reprimir criminosos além de suas fronteiras. Isso inspirou esforços alternativos, como usar automação para atacar golpistas em massa — talvez enchendo os spammers de spam para desperdiçar seus recursos. Agora, plataformas de IA estão transformando esse tipo de experimento em ferramentas reais no combate ao cibercrime.
Nos últimos dois anos, a empresa australiana Apate, batizada em homenagem à deusa grega do engano, vem construindo um sistema que desvia golpistas de telefone para chamadas com bots de IA treinados para manter conversas pelo maior tempo possível sem, claro, nunca cair de fato no golpe. O objetivo é dar aos golpistas esperança suficiente para que fiquem na linha, enquanto também coleta inteligência sobre os golpes que estão aplicando.
"O que a gente realmente gosta de pensar é que estamos construindo as vítimas perfeitas para os golpistas", conta Dali Kaafar, fundador e CEO da Apate. "Um minuto que um golpista está falando com um bot ou agente é um minuto em que você provavelmente está salvando centenas, se não milhares, de possíveis pessoas sendo contatadas por esse mesmo golpista", afirma, referindo-se à capacidade dos golpistas de usarem ferramentas de discagem automatizada.
Kaafar diz que a plataforma da Apate, usada por bancos e com apoio de operadoras de telecomunicações, conta com cerca de 350 mil bots. Eles não apenas atendem chamadas, mas também se infiltram em grupos de golpe em aplicativos de mensagem e respondem a SMS com objetivos semelhantes: frustrar golpistas enquanto coletam informações sobre eles. Segundo ele, a empresa já reuniu mais de 250 mil informações sobre fraudadores em tempo real, desde URLs de golpes até contas de laranja e dados bancários.
Os bots têm diferentes personalidades, habilidades linguísticas e perfis, diz Kaafar, para que os golpistas não percebam que estão conversando com uma IA. Como pessoas reais, "às vezes [os bots] têm WhatsApp, às vezes não. Às vezes atendem o telefone, às vezes simplesmente desligam na cara do golpista dizendo: 'Te ligo depois'", explica.
Mas será que eles são convincentes? A Kernel Panic testou a ferramenta usando uma versão demo em que os usuários fazem o papel do golpista e conversam com uma das "vítimas" de IA da Apate. As personas são projetadas para expressar uma quantidade saudável de ceticismo, mas deixam aberturas suficientes para que os golpistas continuem tentando conquistá-las — uma dinâmica que sentimos na hora e achamos intensamente frustrante.
Os golpistas provavelmente já estão familiarizados com esse tipo de interação cética, e Kaafar diz que as ligações com a Apate frequentemente passam de duas horas. Em nosso teste, o sistema da Apate se mostrou engajado e responsivo, e o ritmo da conversa pareceu natural, mesmo com nós dois nos revezando para falar com a IA como uma amiga, "Lucy", e seu assessor financeiro "Mickey". Não conseguimos fazer o sistema de IA da Apate investir na nossa oportunidade de criptomoeda nem depois de seis minutos de esforço dedicado. (Os rendimentos são realmente incríveis, juro.)
Por enquanto, mesmo com o enorme enxame de bots da Apate em ação, é questão de tempo até você receber sua próxima ligação ou mensagem de golpe. Cibercriminosos iniciam bilhões de mensagens e ligações por ano, com as operações mais sofisticadas administrando locais de golpe em escala industrial. E enquanto scambaiters profissionais e iniciativas para se infiltrar em operações de golpe vêm fazendo um trabalho essencial de dissuasão há anos, os esforços policiais e de pesquisa não conseguiram conter a expansão dos golpes digitais como um todo.
Mas a IA pode abrir uma nova era para os esforços ant golpe, não apenas para os próprios golpistas. Um melhor compartilhamento de inteligência entre polícia, empresas de redes sociais, bancos e outros setores é desesperadamente necessário e pode ser potencialmente apoiado por monitoramento e análise de dados baseados em IA. Cada vez mais, também, esforços inovadores têm buscado atrapalhar cibercriminosos explorando suas "vulnerabilidades psicológicas". Em alguns casos, essas operações psicológicas incluíram trollar diretamente os responsáveis por ataques de ransomware. À medida que o foco em atrapalhar golpistas e cibercriminosos se expande, o uso de IA generativa como forma de mantê-los ocupados, desperdiçando recursos e não lançando outros ataques parece ser cada vez mais eficaz.
Tomemos os honeypots como exemplo. Há anos, empresas e pesquisadores de segurança implantam máquinas virtuais falsas para atrair hackers, desperdiçar seu tempo, coletar informações e entender suas técnicas secretas de invasão. Mark Vero, pesquisador de doutorado no departamento de ciência da computação da ETH Zurich, afirma que provedores de honeypots de código aberto têm incorporado cada vez mais LLMs (Modelos de Linguagem de Grande Porte) em seus sistemas para torná-los mais realistas.
Em pesquisa recente, Vero e colegas descobriram que um honeypot equipado com LLM mantém agentes de IA atacando seu sistema "por um tempo significativamente maior" do que um honeypot com comportamento mais previsível. "Os atacantes agênticos ficam muito mais convencidos pelos honeypots simulados por LLM e também os identificam como honeypots reais em uma taxa muito menor", diz ele. "Se esses sistemas forem bem construídos, acho que são bastante vantajosos para os defensores."
Achou algo que deveríamos incluir na próxima semana? Mande para kernelpanic@wired.com. E se cuide.
