Ao longo dos anos, o resumo semanal conquistou um público fiel, e algumas edições chegaram a se tornar virais — o que é, honestamente, estranho, mas a comunidade de cibersegurança é ótima e estranha, então faz sentido. Fique tranquilo: algo novo e empolgante está chegando no lugar do resumo, então continue acompanhando! Por enquanto, como sempre, mantenha-se seguro.
A Meta não conseguiu barrar cerca de 350 anúncios de abuso infantil gerados por IA (Inteligência Artificial), segundo uma nova pesquisa divulgada nesta semana, incluindo alguns que mostravam imagens de crianças reais. Em um caso, uma criança retratada em um anúncio era membro de uma família real europeia. Parlamentares afirmaram que pretendem investigar, e a Procuradoria da Cidade de São Francisco ordenou nesta semana que a empresa parasse de "permitir" anúncios de abuso infantil gerados por IA.
Em outras notícias sobre a Meta, a empresa anunciou nesta semana um novo agente pessoal de IA capaz de reservar passagens aéreas ou vender seu carro, mas destacou o forte investimento em recursos de segurança e privacidade, aparentemente antecipando a desconfiança dos consumidores. Nesse mesmo contexto, a empresa foi alvo nesta semana de uma proposta de ação coletiva (class action) por suposto uso ilegal de fotos do Facebook e do Instagram para treinar sistemas de IA e de reconhecimento facial.
A Clearview AI está testando um protótipo de ferramenta de IA nunca antes divulgado, chamado InquiryIQ, que ajudaria forças policiais a encontrar associados, contas em redes sociais e outras informações pessoais de um alvo. Já a Apple anunciou nesta semana um conjunto de novos recursos de "inteligência de áudio" para os dispositivos Apple Watch Series 12 e Ultra 4, que envolvem o processamento de áudio no ambiente do usuário. A empresa enfatizou bastante as proteções de segurança e privacidade incorporadas aos recursos, talvez antecipando que eles poderiam parecer, bem, assustadores.
Os EUA e o México têm uma nova operação conjunta para detectar, rastrear e derrubar drones na fronteira usando tecnologia a laser. E há um novo mod de GTA V que permite ganhar dinheiro (dentro do jogo) destruindo câmeras de reconhecimento de placas Flock (também dentro do jogo).
Mas espere, tem mais! Veja as notícias de segurança e privacidade que não cobrimos em profundidade nesta semana. Clique nos títulos para ler as matérias completas.
De ataques patrocinados por Estados a armas biológicas, o abuso de Claude está simplesmente em toda parte
A Anthropic tem sido talvez a empresa de IA mais vocal sobre a tendência de suas ferramentas serem usadas de forma indevida. Ela publicou alguns dos primeiros relatos de uso de seu serviço de IA Claude em operações de hacking cibercriminoso, além da descoberta de que seus agentes de IA — assim como os de sua concorrente OpenAI — escaparam de seus ambientes controlados (sandboxes) e invadiram de forma autônoma as redes de várias organizações ao tentar cumprir os comandos de seus usuários.
Nesta semana, a empresa divulgou um novo relatório abrangente sobre como o Claude tem sido abusado nos últimos oito meses, e os resultados são impressionantes em sua amplitude — embora talvez inevitáveis em um mundo onde a IA é usada simplesmente como atalho de produtividade para quase tudo. Estudo de caso após estudo de caso, a empresa documenta como o Claude foi explorado para hacking patrocinado por Estados e cibercriminoso, campanhas de desinformação e operações de influência, e até mesmo tentativas de desenvolvimento de armas biológicas. Em todos esses casos, a Anthropic afirma que interrompeu a atividade em andamento.
Em um caso, um grupo de hackers patrocinados pelo Estado russo, identificado pela Microsoft como Midnight Blizzard, utilizou o Claude para reconhecimento, invadindo alvos que incluíam redes governamentais da Ucrânia e de outros países europeus, roubando dados e mantendo acesso. O grupo cibercriminoso ShinyHunters usou o Claude em praticamente todas as etapas de suas campanhas de hacking e extorsão. Campanhas de desinformação focadas em política em locais que vão do Quênia a Bangladesh também utilizaram a ferramenta. E, talvez o mais perturbador, em alguns casos a Anthropic descobriu o que pareciam ser usuários de suas ferramentas tentando desenvolver potenciais armas biológicas, como patógenos causadores de doenças e toxinas.
Embora a Anthropic apregoe seu sucesso no relatório ao neutralizar essas ameaças — enquanto se gaba discretamente do poder de suas ferramentas —, o efeito dos estudos de caso é mais perturbador do que tranquilizador. Afinal, não há garantia de que a Anthropic tenha identificado todos os usos malévolos de sua IA. Somando-se a isso os concorrentes e as ferramentas de IA de código aberto (open source) menos protegidas, o relatório se lê menos como uma volta vitoriosa das barreiras de proteção da IA e mais como um prenúncio do caos habilitado por IA que está por vir.
Autoridades dos EUA desarticulam Xinbi Guarantee, o maior mercado negro da internet
Ao longo de seus quatro anos de existência, a Xinbi Guarantee se transformou no maior mercado ilícito da internet. Realizou mais de 30 bilhões de dólares em vendas estimadas, a maior parte em forma de lavagem de dinheiro para operações de golpes cripto conhecidos como "pig butchering" (literalmente "abate de porcos", esquema em que a vítima é convencida a investir quantias cada vez maiores) — em grande parte baseadas no Sudeste Asiático —, mas que também incluíam tráfico sexual e assédio pago. Tudo prosperou no serviço de mensagens Telegram, que desativou a Xinbi há um ano, mas a plataforma ressurgiu e acabou ficando maior do que nunca. Nesta semana, finalmente, o governo dos EUA interveio para fazer o que o Telegram não fez, apreendendo os canais da Xinbi na plataforma do Telegram e sancionando o mercado. O Departamento de Justiça anunciou simultaneamente operações em 13 complexos de golpes em Madagascar — um sinal de que a aplicação da lei ocidental está começando a levar a sério a epidemia de golpes cripto com trabalho forçado, mas também uma evidência de quão amplamente essas operações se espalharam.
Membro do grupo de ransomware Conti é condenado a 4 anos de prisão nos EUA
O grupo de ransomware Conti foi, até seu disband oficial em 2022, uma das quadrilhas de hackers mais perigosas do mundo. Segundo a polícia dos EUA, atingiu mais de mil vítimas, extorquindo milhões e, em um momento, prejudicou sistemas governamentais na Costa Rica a ponto de provocar estado de emergência. Agora, um membro desse grupo responde perante a Justiça: o ucraniano de 44 anos Oleksii Oleksiyovych Lytvynenko foi condenado a quatro anos de prisão nesta semana, em um exemplo raro de operador de ransomware que de fato verá o interior de uma prisão americana.
Meta manteve online vídeos de abuso infantil gerados por IA após denúncias de jornalistas
O Facebook está hospedando uma grande rede de contas que enviam vídeos gerados por IA que retratam violência contra crianças, segundo o Futurism, que passou dias catalogando o material e continuou encontrando mais do que conseguia contar. Os clipes mostram crianças pequenas sendo espancadas, queimadas, trancadas e privadas de alimentos. Muitos atraem milhares de reações de usuários que parecem acreditar que as imagens são reais. O Futurism disse que descobriu a maior parte das contas abrindo uma e seguindo o feed de recomendações do Facebook, que forneceu um fluxo contínuo de vídeos semelhantes — um sinal de que os próprios sistemas da Meta já conseguem identificar a categoria de conteúdo que a empresa diz proibir.
O Futurism denunciou oito das contas pelo canal padrão de usuários. A Meta removeu duas, uma delas após rejeitar inicialmente a denúncia. Várias decisões levaram mais de uma semana. A empresa apagou a maior parte dos vídeos enviados à sua assessoria de imprensa, mas inicialmente deixou outros no ar, incluindo um que mostrava uma criança trancada em um freezer.
Além das proibições gerais a material de abuso sexual infantil, a política escrita da Meta proíbe representações de abuso infantil não sexual, sejam reais ou sintéticas, com exceções para arte, desenhos animados, filmes e jogos. A política não esclarece se vídeo gerado por IA se enquadra nessas exceções. Em comunicado, a Meta afirmou aos repórteres que alguns dos links denunciados não violavam suas regras e pediu que não publicassem o contrário.
