Personagens que não existem no mundo real, mas acumulam milhares de seguidores, vendem produtos e até orientam tratamentos de saúde. Essa é a realidade do mercado de avatares criados por inteligência artificial (IA) que cresce de forma acelerada no Brasil e no exterior, movimentando cifras expressivas em plataformas como TikTok, YouTube e Instagram.
Tutoriais compartilhados nas próprias redes sociais revelam o mecanismo por trás do fenômeno. Frases como "Ela não existe, mas paga meu cartão todo mês" e "Tenho um plano infalível para o milhão" viraram jargão entre criadores que ensinam como transformar perfis automatizados em fonte de renda.
A receita vem de diversas fontes: verba pela monetização dos vídeos, comissões por cada venda concretizada em marketplaces, propaganda de produtos digitais e até a valorização de contas que, devido ao alto engajamento, podem ser revendidas ou redirecionadas para outros fins.
Diferentemente dos chatbots, esses influenciadores sintéticos imitam pessoas reais em vídeos, transmissões ao vivo e anúncios. Em situações mais graves, chegam a promover produtos de saúde, oferecer conselhos e divulgar tratamentos sem qualquer respaldo científico.
Conversão de atenção em dinheiro
Fernando Ferreira, pesquisador do NetLab (Laboratório de Estudos de Internet e Mídias Sociais) da Universidade Federal do Rio de Janeiro (UFRJ) e doutor em IA, explica que a lógica central é transformar a atenção dos usuários em faturamento. Os algoritmos das plataformas direcionam os vídeos para públicos específicos, alcançando justamente pessoas que buscam respostas para problemas ou demonstram interesse em determinados temas. Com ferramentas de automação cada vez mais acessíveis, a produção alcançou escala industrial.
"Antes a automação era só um ato de curtir, compartilhar, agora pode dar voz, pode dar imagem, então isso é uma coisa mais personalizada e mais difícil ainda do usuário conseguir identificar que aquilo é realmente uma campanha, por exemplo, alguma coisa nesse sentido", afirma Ferreira.
Nichos explorados: da saúde ao público infantil
Levantamentos da organização Ctrl Z mostram que os segmentos de atuação vão de conteúdos históricos, como o período escravocrata, e infantis a narrativas apelativas, incluindo a história de um suposto fazendeiro viúvo em busca de uma esposa. O ponto em comum entre todos é a manipulação de sentimentos básicos.
"Todos eles, de algum jeito, têm uma coisa muito em comum que é mexer com o medo das pessoas, com a curiosidade, com a esperança. Nos de saúde tem essa coisa do senso de urgência. Tipo: faça isso agora, não faça isso, compartilhe com alguém", aponta Luã Cruz, diretor de litigância da Ctrl Z.
Segundo Cruz, a produção em massa adota um único roteiro traduzido para vários idiomas e interpretado por dezenas de avatares sintéticos. Em tutoriais, criadores relatam que um mesmo texto pode ser encenado por 20 personagens diferentes para atingir países e públicos distintos.
No YouTube, a estratégia também ajuda a cumprir os requisitos de monetização - 4 mil horas de exibição e mil inscritos - por meio do envio massivo de vídeos genéricos, conhecidos como slop, conteúdos de baixa qualidade gerados por IA. Para Cruz, o slop não é necessariamente ruim do ponto de vista estético, mas se baseia em "IAs mal feitas" em relação às informações, com erros históricos e desinformação, usando conteúdos sensacionalistas para atrair públicos vulneráveis.
Uma vez atingida a meta, o canal pode migrar para outros nichos, apostando em infoprodutos, como ebooks com supostas receitas caseiras para curar doenças, ou até ser vendido para uso em campanhas políticas.
As consequências mais sérias, porém, atingem a área da saúde. "Vemos uma série de comentários de pessoas que de fato existem e que falam que estão seguindo aquele tratamento, que abandonaram o tratamento tradicional para seguir, enfim, aquele tratamento que [a IA] sugere", diz o representante da Ctrl Z.
O avanço tecnológico e o fim das pistas visíveis
Se antes imperfeições em mãos, vozes robotizadas ou cenários distorcidos denunciavam a natureza sintética dos vídeos, o avanço da tecnologia reduziu drasticamente essas falhas. Em telas pequenas de celular, os especialistas avaliam que transferir ao usuário a responsabilidade de checar a veracidade do material se tornou inviável.
"Em um olhar mais atento ainda conseguimos ver se há sincronia entre a voz e a boca. São imagens muito brilhantes, é uma coisa ainda um pouco robotizada, menos do que já foi, mas ainda tem uma coisa meio robotizada. Mas são coisas muito imperceptíveis", diz Cruz.
"Cada vez vai estar melhor. Tem alguns detalhes, como observar um texto que não fica bem formatado no fundo, coisas milagrosas também. Uma pessoa que você nunca viu na vida e agora virou um influenciador", observa Ferreira. O pesquisador pondera, porém, que "acho que a responsabilidade não é do usuário final. A gente tem que entrar em uma maneira de monitoramento e de clara intenção das plataformas de indicar que aquilo ali é um conteúdo de IA".
Os pesquisadores defendem a adoção de sinalização obrigatória e em destaque para esse tipo de material, somada a uma postura mais ativa das plataformas na moderação de conteúdos monetizados por IA, com o objetivo de resguardar usuários contra manipulações e prevenir crimes.
Para eles, a responsabilização deve recair sobre as empresas de tecnologia. Hoje, a maioria das redes sociais exige apenas uma autodeclaração do criador, sem mecanismos eficazes de verificação.
O pesquisador argumenta que as plataformas dificilmente arcam com responsabilidade pelo conteúdo veiculado. Segundo ele, a empresa costuma alegar que "eu não tenho como saber, quem tem que dizer é o usuário", embora seja ela própria a divulgar o canal e a recomendar o material. "A plataforma tende a passar a responsabilidade para a ponta, e dizer assim: eu me protejo disso dizendo que ele não pode fazer, mas se ele faz e eu recomendo, paciência", critica Ferreira. Para ele, "é esse o problema".
Riscos jurídicos e impactos na percepção de realidade
Do ponto de vista jurídico, o uso de ferramentas avançadas não isenta os criadores de responsabilidade criminal. A advogada e especialista em cibersegurança Gisele Kauer lembra que perfis sintéticos podem se enquadrar nos mesmos crimes já previstos no Código Penal Brasileiro, como estelionato, fraude, exercício ilegal da medicina e falsidade ideológica. "O crime continua sendo crime independente do meio utilizado."
Além das consequências financeiras e legais, a proliferação desses personagens hiper-realistas altera a forma como as pessoas percebem a realidade. Diogo Cortiz, professor da Pontifícia Universidade Católica de São Paulo (PUC-SP) e coordenador de um grupo que pesquisa intimidade artificial, avalia que a criação de padrões estéticos inalcançáveis e de interações afetivas simuladas pode aprofundar a insegurança humana, com repercussões tanto para quem consome o conteúdo quanto para quem produz.
Para o pesquisador, a IA funciona como uma "caixa de multiversos" capaz de fabricar realidades paralelas que reforçam distorções sociais iniciadas pelas próprias redes sociais, como os famosos filtros de fotos.
"Começamos a criar realidades que são verossímeis, que poderiam ser possíveis, mas que não são. E isso traz uma certa insegurança, um certo desejo muito maior do que a gente tinha antes", diz Cortiz. "Temos modelos, influencers, com um corpo perfeito que é anatomicamente quase impossível chegar nele, tudo feito por inteligência artificial. Então, se a gente já se comparava com uma realidade produzida por pessoas que eram reais, imagina com uma questão sintética?", indaga.
Para a advogada, o problema não está no uso de personagens de IA em si para gerar renda, mas na utilização deles para enganar usuários e obter vantagens financeiras ilícitas.
O posicionamento das plataformas
Procurado, o YouTube afirmou que todo o conteúdo da plataforma, incluindo o gerado por IA, precisa seguir as diretrizes da comunidade, com regras contra desinformação médica que proíbem dados incorretos capazes de provocar danos à saúde.
A empresa também informou que exige que criadores divulguem o uso de mídia alterada ou sintética fotorrealista e que insere rótulos nesses vídeos para alertar os espectadores. "Embora dependamos da autodivulgação do criador, o YouTube usa tecnologia e análise humana para identificar conteúdos que deveriam ter sido rotulados, mas não foram", declarou a companhia, destacando que pode aplicar os avisos de forma proativa quando o criador não faz a autodeclaração.
A empresa destaca ainda que a violação das regras pode resultar na retirada do conteúdo e, em casos de reincidência, na exclusão do canal do programa de parcerias (YPP, na sigla em inglês para YouTube Partner Program).
Em nota à DW Brasil (Deutsche Welle), o TikTok afirmou que os criadores precisam sinalizar materiais feitos com IA e proibiu a publicação de vídeos que induzam o público ao erro. A plataforma disse ainda disponibilizar rótulos para informar quando um material foi criado com uso da tecnologia. Sobre monetização, a rede informa que perfis que violarem as regras podem ter a conta removida, de forma permanente ou temporária, do Programa de Recompensas do Criador, conforme a gravidade da violação.
A Meta, responsável pelo Instagram e pelo Facebook, informou que não iria comentar.
