Se os nossos olhos já não podem ser mais confiáveis para distinguir o real do fabricado, como manter a credibilidade na informação quando a tecnologia já é capaz de deturpar a realidade? 

 

Os efeitos especiais, algo que antes era exclusivo dos filmes, são, agora, acessíveis a todos que possuem um aparelho eletrônico com internet e uma assinatura simples em alguma IA. Essa facilidade de acesso à fabricação expandiu, em larga escala, a disseminação desses vídeos e áudios, tanto os de entretenimento, quanto os fraudulentos. Essa vasta geração de conteúdo gera uma desordem informacional, onde a verdade  passa a ser questionada a todo instante.

 

Esses conteúdos, chamados de deepfakes, são montagens ultra-realistas feitas a partir de inteligência artificial com o intuito de enganar ou ironizar seu público. O nome dado à essa tecnologia nasce a partir da junção do conceito de deep learning (aprendizado profundo) e do termo fake (falso). Por meio da clonagem de voz, troca de rostos e sincronia labial, as deepfakes se tornaram poderosas ferramentas para atos criminosos e manipulação da desinformação, impactando a confiança coletiva e a democracia.

 

É comum observar o discurso de que apenas os grupos vulneráveis, como os idosos e as crianças, são as únicas vítimas desse sistema, por possuírem uma ingenuidade ou pela falta de intimidade com as tecnologias. No entanto, isso é um mito. Segundo a pesquisa publicada pelo DataSenado, em abril de 2025, o grupo mais afetado pelas deepfakes são jovens entre 16 e 29 anos, correspondendo a 27% das vítimas, enquanto os idosos, representam 16%. 

 

​

​

​

​

​

​

​

​

​

​

​​

​

Ninguém está imune a ser enganado. Com a sofisticação dos softwares, esses conteúdos estão atingindo um nível de aprimoramento que torna a fronteira entre o real e o sintético quase imperceptível. Mas será que os seus sentidos estão aguçados o suficiente para não cair nessa “mentira perfeita”? Faça o teste no quiz abaixo:

​

Veriff: Real ou Falso?

 

Meus parabéns caso tenha acertado todas, mas, caso tenha errado, fique tranquilo, você não está só. É justamente para isso que estamos aqui, te ajudaremos a entender as engrenagens desse sistema e como evitar ser enganado. Mas antes de te apresentar as soluções, vamos começar pelo básico: Por que esses audiovisuais são tão perigosos e como eles te impactam. 

​​

A Engenharia da fraude: A anatomia e o funcionamento de uma deepfake

 

Diferente de uma edição comum, a deepfake nasce com o intuito de enganar. Por isso elas se tornaram uma ameaça, pois, como defende a pós-doutora pelo Departamento de Informação e Cultura da Escola de Comunicações e Artes da Universidade de São Paulo (ECA-USP), Magaly Prado, a fronteira entre a criação e a fraude é demarcada pela intencionalidade de ferir ou não a integridade dos indivíduos ou entidades.

 

"Deepfake não é simplesmente uma edição de vídeo, de áudio ou de texto, ela é com o intuito de enganar. [...] Se você não tem a intenção de enganar, não chega a ser uma desinformação. A desinformação na sua raiz é quando alguém quer realmente prejudicar ou uma pessoa, ou uma empresa, ou uma instituição", explica Magaly.

 

Embora o termo deepfake tenha se popularizado, a tecnologia que o forma não nasceu agora. O engenheiro de software, Jeferson de Oliveira, explica que as bases da IA emergiram na década de 1950, quando os pesquisadores da época tentaram criar um modelo de neurônio humano, sendo nomeado de Perceptron, o que posteriormente acabou sendo evoluído para os modelos de bigramas, sistemas que preveem/deduzem a próxima palavra que você irá digitar, como ocorre nos teclados dos smartphones. 

 

Atualmente, o modelo mais tecnológico que temos chama-se LLMs (Large Language Models) que foi definitivo para a evolução das IAs, no qual o sistema possui uma maior complexidade de compreensão, entendendo não apenas tokens (unidade de representação digital) isolados, mas em frases inteiras. 

 

Essa engrenagem opera a partir do auto treinamento das inteligências artificiais, que ocorre a partir do armazenamento e da construção de bases de dados, com as informações fornecidas por produtores e usuários. A cada prompt enviado e resultado gerado pelas LLMs, as informações são auditadas e constantemente armazenadas, sendo assim que o sistema se sustenta e permanece evoluindo.

 

"Uma IA tenta gerar uma imagem e comparar como verdadeira ou falsa, aí ela joga para um outro modelo que consegue tentar melhorar em cima disso. Fica um ciclo se melhorando [...], até ele não conseguir mais descobrir o que é real e o que não é real. [...] A IA não é inteligente, ela não pensa. Ela tem um conjunto de informações e tenta deduzir qual é a próxima informação baseada no treinamento que ela teve", exemplifica Jeferson.

 

Portanto, nem todo resultado gerado por uma IA é necessariamente uma deepfake, mas pode ser utilizada como uma: quando não sinalizado o uso da tecnologia e consequentemente enganando o consumidor, ou em fraudes criminosas: atualmente, esses formatos sintéticos foram subvertidos até para aplicar golpes na população de forma individual e direta.

​

Segue abaixo dados da pesquisa "Painel TIC - Integridade da Informação" realizada pelo Núcleo de Informação e Coordenação do Ponto BR (NIC.br) e pelo Comitê Gestor da Internet no Brasil (CGI.br) de como as deepfakes afetam a população brasileira.

​​​

​

​

​

​

​

​

​

​

​

​​

​

​

Identidades violadas: o uso das deepfakes como violência

 

Através da tecnologia das LLMs, hoje o ser humano é capaz de, em poucos minutos, gerar produtos de imagem ou áudio, de alguém que nunca disse ou fez aquilo. Os objetivos podem ser múltiplos: como gerar engajamento nas redes sociais; extrair dados privados de pessoas ou instituições; difamação; descredibilização; além da extorsão, estelionato ou pornografia.

 

Deepfakes de clonagem de voz, criadas a partir de poucos segundos de áudio original, são utilizadas em muitos golpes cibernéticos: O mais comum caso, conhecido como “golpe do pix”, se resume em: O golpista realiza uma ligação para a primeira vítima, que ao atender provavelmente diz alguma saudação e aguarda uma resposta, e então desliga - assim ele consegue um áudio base para dar continuidade. Depois de um tratamento com a Inteligência Artificial, chega-se em uma mensagem de voz completa, com um texto construído e a sonoridade quase idêntica: pedindo para que, a segunda vítima, realize um pix para uma chave aleatória, geralmente alegando uma situação de emergência. Assim, o golpe está pronto, enviado via Whatsapp, geralmente para algum parente próximo, que desatento ou desinformado, facilmente cai na armadilha.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

As criações de imagem (estática ou vídeos) também se tornaram uma problemática crescente desde o avanço da IA generativa, consolidando-se em manipulações onde se coloca o rosto de uma pessoa no corpo de outra, mesclando falas ou as adulterando. Potencialmente, podem usar de um tom cômico, como no recente caso do vídeo onde supostamente, Erling Haaland, jogador de futebol noruêgues, se assusta ao se olhar no espelho. 

 

Mas os atos criminosos relacionados à criação destas montagens já chegam na população geral e tem seu alvo majoritário bem estabelecido. Segundo o DeepStrike, em 2025, 98% das deepfakes em vídeo são de conteúdo pornográfico e em 99% dos casos, as vítimas são mulheres. A atriz brasileira de 44 anos, Paolla Oliveira, comentou publicamente, em seu instagram, que enfrenta situações envolvendo imagens e vídeos falsos com seu rosto circulando na internet e alertou que isso “Não seria problema de famosa”.

 

De fato, dentre os afetados pelo abuso de imagem das deepfakes não estão apenas pessoas relevantes para mídia, qualquer um que disponibilize uma imagem clara do seu rosto está passível de sofrer este tipo de ataque, mesmo que isso independa de sua idade: No último ano, em 11 países, pelo menos 1,2 milhão de crianças revelaram ter suas imagens manipuladas em deepfakes sexualmente explícitas, segundo a UNICEF.

​​

O colapso da confiança coletiva: como essa tecnologia afeta o debate político e a democracia

 

Dado essa realidade, um efeito colateral é o estado de alerta contínuo. Acontece o chamado “dividendo do mentiroso”, que é, em síntese, o proveito/vantagem estratégica obtida através de uma incerteza pública e a verdade passa a ser questionada a todo instante.

 

“Em época de eleição, então, né? É um prato cheio, porque você pode atacar os adversários com o texto e colocando na boca de um político, por exemplo.” - Magaly Prado

 

No cenário político, as deepfakes consolidaram um sistema  voltado à descredibilização dos candidatos e das instituições democráticas através da manipulação da opinião pública. Que por sua vez, possui dois vieses principais: um ocorre quando a identidade do político é violada, tornando-o vítima de discursos ou atos que ele jamais realizou, visando prejudicar a sua integridade. O  outro, impulsionado pelo colapso da confiança coletiva, permite que o político se beneficie da dúvida, usando a fraude a seu favor ao alegar que conteúdos comprometedores verídicos foram adulterados, sendo manipulações sintéticas, se esquivando da responsabilidade. 

 

Isso mostra de forma prática como o “dividendo” opera. Quando existe uma tecnologia capaz de te fazer questionar a realidade, colocando em dúvida qualquer informação, se ela é verdadeira ou manipulada, o que acontece, de fato, é o favorecimento daqueles que desejam ocultar a verdade. 

 

“Tudo sempre existiu, mas não tanto do jeito que está hoje. Isso então acaba com a confiança que as pessoas têm nas instituições, na imprensa, na própria política, na educação, nas universidades, na ciência. Então isso tudo vai minando. [...] Porque uma notícia normal, uma notícia séria, importante, não tem tanto engajamento. Vai ter engajamento uma coisa que mexe com a emoção das pessoas. "Nossa, será que isso é verdade? Olha o que eles estão dizendo". [...] Porque tudo que tem uma emoção pode ser de ódio, pode ser de espanto, qualquer emoção, ele vai engajar mais.” - Magaly Prado

 

Dessa forma, a confiança na imprensa e nas instituições democráticas começa a ser corroída. Resultando em um debate fragilizado, onde a dúvida se torna uma parte crucial nesse contexto de manipulação política.

​

O lucro da desinformação

 

Mas afinal, o que as pessoas ganham com esse engajamento afirmado por Magaly?

 

Segundo Immanuel Kant, uma ação só permanece em vigor quando beneficia pelo menos uma parte da sociedade, nesta lógica,  a partir da criação de uma deepfake e suas múltiplas possibilidades de utilização humana, quem se beneficia dela de forma financeira?

 

Para as inteligências artificiais, esse lucro acontece com a comercialização de ferramentas de criação, vendendo planos e créditos (tokens) para a construção desses conteúdos, como aponta Jeferson abaixo:

 

“Você começa a usar limite de token. É igual você usar o GPT online, começar a fazer imagens e tal, tem o limite. Então as empresas têm os planos para você comprar.” - Jeferson de Oliveira

 

Outras formas de obter esse proveito é com os golpes e fraudes diretas. O uso das deepfakes, como citado, permite uma série de crimes, como extorsão e estelionato. Esse ataque é mais próximo, normalmente cometido contra familiares e amigos, necessitando de uma emoção pessoal para seu funcionamento, na intenção de extrair dados e recursos financeiros.

 

Retomando o pensamento de Magaly, as personalidades famosas são alvos preferenciais, se tratando da monetização, pois geram engajamento e audiência, que é o necessário para que esse conteúdo se espalhe pela internet, conseguindo um tráfego massivo que trará resultado. 

 

Esse material se espalha de forma rápida, impulsionado por uso de robôs e bots, que dificulta que a checagem humana consiga acompanhar. Permitindo que os fraudadores lucrem antes que sejam desmentidos.

​​

O que diz a Legislação?

 

Isto não significa que a mídia virou “terra de ninguém”. No Brasil, a Lei nº 12.737/2012, conhecida como “Lei Carolina Dieckmann”, foi um marco  importante na criminalização de condutas praticadas no ambiente digital, incluindo no Código Penal o delito de invasão de dispositivo eletrônico, o que se tornou cada vez mais comum, especialmente em casos de extorsão e vazamento de dados pessoais.

 

Além disso, o sistema jurídico brasileiro conta com outras frentes de defesa: A Lei nº 12.735/2012 determina que os Estados devem estabelecer profissionais treinados para combater crimes praticados por meio da internet, onde a população possa encontrar unidades para lidar com fraudes bancárias, estelionato digital e crimes contra a honra.

 

Quando os crimes envolvem crianças e adolescentes, o Artigo 241-C do Estatuto da Criança e do Adolescente (ECA) estabelece que simular cena de sexo ou pornografia com menor de 18 anos por meio digital é crime. A pena para esta infração varia de 1 a 3 anos de reclusão, além da aplicação de multa.

 

As leis são citadas como ferramentas imprescindíveis para manter o controle destes novos audiovisuais e garantir que conteúdos mentirosos sejam derrubados, apesar disso, segundo a ONU Mulheres, a legislação global não tem acompanhado o aumento desses casos: Menos da metade dos países possuem leis que abordam o abuso online e uma parcela ainda menor tem legislações que cobrem especificamente o conteúdo deepfake.

 

Como a maioria das leis sobre "pornografia de vingança" ou abuso baseado em imagens foi redigida antes da existência das deepfakes, criaram-se brechas enormes que os agressores exploram sem problemas.

​

Algoritmo contra algoritmo: tecnologias que ajudam a detectar as deepfakes

 

Se a lei pune o crime após o dano, como agir na prevenção e na rápida contenção desses materiais? 

 

A checagem humana enfrenta uma barreira física e logística: ela não consegue competir com a rapidez das máquinas. Atualmente, existem ferramentas e agências de checagem focadas em detectar os conteúdos sintéticos e apontar a falsidade das mensagens. 

 

Diante desse cenário de desigualdade de forças, a solução proposta pelos especialistas é combater fogo com fogo. Para derrubar deepfakes de forma mais eficiente, a própria tecnologia precisará ajudar a humanidade no processo de detecção. Espera-se que, se a própria Inteligência Artificial for capaz de detectar os conteúdos falsos, o processo ganhará a eficiência necessária. Apesar dessa necessidade urgente, é preciso reconhecer que muitos dos atuais detectores de IA ainda não são suficientemente eficazes para barrar o volume massivo de fraudes.

 

A responsabilidade das plataformas que fornecem essas tecnologias também está no centro do debate. Esses riscos se agravam consideravelmente quando ferramentas de IA generativa são incorporadas diretamente às plataformas de mídia social, ambientes onde imagens manipuladas se espalham rapidamente.

 

Para o engenheiro de software Jeferson de Oliveira, o controle da tecnologia passará por uma autorregulação da indústria. 

 

“Tudo depende dessa questão de como as empresas vão se ajustar e criar essa constituição de como as IAs devem ser criadas [...] as empresas vão começar a bloquear esse tipo de coisa no futuro”.

 

Impedir o avanço de deepfakes exige ação urgente e coordenada de governos, instituições e plataformas tecnológicas. Para ser eficiente precisa ser uma luta conjunta e não individual. As Nações Unidas fornecem um guia prático para ajudar a desmantelar o sistema da fraude:

 

​

​

​​

​

​

​

​

​

​

​

​

​

 

​

​​​

Além de seguir essas orientações você pode também consultar as agências de checagem, uma frente importante no combate à desinformação. No Brasil, a Agência Lupa é destaque como a primeira fact-checking, na qual você pode enviar vídeos, imagens e áudios suspeitos via Whatsapp. O Projeto Comprova reúne jornalistas de 42 veículos de comunicação, uma iniciativa conjunta que visa desmantelar e combater a desinformação. Aos Fatos é uma plataforma que utiliza o jornalismo de dados para investigar campanhas de desinformação. 

 

Além dessas ferramentas, é possível verificar os conteúdos em plataformas como a Sensity AI e a Deepware, que funcionam basicamente como scanners para identificar as mídias que foram geradas por IA. Também é possível confirmar os conteúdos que já foram analisados pelo buscador Google Fact Check Tools. 

 

Essa união de fatores, trabalhando em conjunto, é o que permite desmantelar esses sistema mentiroso e fraudador de forma eficiente. Assim, a segurança do ambiente digital possui uma infraestrutura que pode, aos poucos, desarticular as engrenagens dessa rede que causa tantos danos.

​

É importante ressaltar, que esta reportagem contou com o apoio de ferramentas de inteligência artificial para a produção de infográficos e na edição do vídeo. Uma escolha proposital para evidenciar que a IA, quando usada como suporte à uma produção e com a devida checagem de informações, pode possuir benefícios, sendo uma aliada na construção de conteúdos diversos e visualização de dados complexos. O que diferencia seu uso como benefício ou malefício é a intenção de quem os usa, como destacado ao longo do texto.

​

​

Comentário das repórteres:

​

"A desinformação é uma pandemia cada vez mais extensa para ser tão facilmente erradicada, porém esperamos que nossa produção tenha sido de grande valia para o processo.

Para quem também acredita em um Jornalismo de qualidade e na prática da Democracia: nossos extensos e eternos agradecimentos." - Gabriela Costa e Julia Maria