Os deepfakes utilizam inteligência artificial (IA) para manipular mídias, incluindo áudio ou vídeo, a fim de criar conteúdo hiper-realistas, mas completamente falsos, de pessoas reais. Embora possam ser divertidos ou até inofensivos em alguns casos, também podem representar ameaças reais, como manipulação política, fraudes e invasão de privacidade.

O avanço da inteligência artificial e da tecnologia de deepfake tornou mais fácil do que nunca criar conteúdo falsos e convincentes. Com o aumento da desinformação e da disseminação de informações falsas em nossa sociedade moderna e politicamente polarizada, as consequências podem ser perigosas. Seja um famoso aparentemente apoiando uma causa que não endossa ou alguém enganando uma instituição financeira com uma voz falsa, os deepfakes estão se tornando um problema sério no mundo digital atual.

Deepfakes Políticos

Em julho de 2024, Elon Musk, CEO da Tesla e proprietário do X (antigo Twitter), compartilhou com seus 199,2 milhões de seguidores no X um vídeo deepfake da vice-presidente e candidata presidencial Kamala Harris proferindo palavrões e fazendo declarações fora de caráter. Um mês depois, o ex-presidente e presidente eleito Donald Trump compartilhou com seus 7,78 milhões de seguidores na plataforma Truth Social uma imagem deepfake da cantora Taylor Swift endossando sua campanha presidencial de 2024, acompanhada de várias imagens de jovens mulheres usando camisetas com a frase “Swifties for Trump”. Esses deepfakes rapidamente se tornaram virais.

Além de desonestos, deepfakes que retratam figuras públicas podem polarizar opiniões, criar caos e até mesmo influenciar eleições — e isso em uma velocidade impressionante! Um deepfake pode passar de algumas curtidas a uma confusão global em questão de horas.

Embora alguns considerem esse tipo de conteúdo apenas uma paródia engraçada e inofensiva, quando compartilhado por figuras públicas e políticas com grande alcance e retratando pessoas de enorme influência em nossas eleições (como o impacto real de Taylor Swift, que, ao eventualmente endossar um candidato, levou ao registro de 35.000 novos eleitores em 24 horas), o potencial para confundir eleitores é extremamente alto.

Independentemente de sua posição no espectro político, os deepfakes são um obstáculo lamentável na busca pela verdade.

Deepfakes de Voz para Fraudes

Não é apenas o conteúdo em vídeo que está sendo manipulado por inteligência artificial. Deepfakes de voz surgiram como uma tendência nova e preocupante em golpes. Um caso de destaque envolveu uma empresa de energia do Reino Unido que foi enganada em $243.000, quando criminosos realizaram uma campanha de “vishing” (abreviação de “voice phishing”, uma tática que consiste em enganar alvos pelo telefone) utilizando uma voz artificial tão semelhante à do chefe da empresa-mãe alemã que os funcionários não notaram a diferença. Segundo o The Next Web, este incidente marcou a primeira vez que uma fraude de voz baseada em IA resultou em um roubo muito significativo.

Ao imitar uma voz familiar, os golpistas conseguiram executar um roubo financeiro com uma precisão chocante. Esse tipo de ataque destaca a ameaça crescente à segurança financeira e pessoal. Quando não se pode confiar nas vozes que ouvimos, verificar identidades torna-se um grande desafio para empresas e indivíduos.

A Crise da Pornografia Deepfake.

O lado sombrio da tecnologia de deepfake também invade os espaços mais pessoais das pessoas. A pornografia deepfake, em que o rosto de uma pessoa é inserido em conteúdo explícito sem seu consentimento, tornou-se um problema crescente, afetando desproporcionalmente as mulheres. A política Alexandria Ocasio-Cortez foi alvo de pornografia deepfake, e um estudo recente revelou que 98% dos vídeos de deepfake online eram pornográficos, sendo que 99% das pessoas alvo desses vídeos eram mulheres ou meninas.

Esse uso indevido da inteligência artificial é uma grave violação da privacidade e da segurança pessoal. Não apenas mancha reputações, mas também causa danos psicológicos. As vítimas frequentemente têm poucos recursos legais (em muitos estados, a pornografia de vingança com deepfake ainda não é criminalizada), e os danos causados às suas vidas pessoais e profissionais podem ser irreversíveis.

Anúncios Deepfake e Apoios Falsos

Os deepfakes também estão invadindo o mundo da publicidade. Esses anúncios gerados por IA podem enganar os consumidores, fazendo-os acreditar que seu famoso favorito está apoiando um produto ou serviço quando, na verdade, não está envolvido de forma alguma.

Esses anúncios deepfake apresentam grandes preocupações legais e éticas. Eles podem prejudicar a imagem de uma celebridade e levar a processos judiciais por publicidade enganosa. Para os consumidores, é mais uma camada de engano para enfrentar em um mundo de publicidade digital já complexo.

5 Dicas Práticas para Identificar Conteúdo Deepfake.

Como você pode se proteger de cair em um deepfake? Aqui estão algumas dicas práticas:

1. Procure por movimentos oculares não naturais – A tecnologia de deepfake tem dificuldade em replicar a taxa de piscar e os movimentos sutis dos olhos de humanos reais.
2. Verifique inconsistências na iluminação – Se a iluminação da pessoa não corresponder ao fundo, pode ser um deepfake.
3. Observe expressões faciais estranhas – Deepfakes frequentemente apresentam movimentos faciais ligeiramente fora do normal, como um sorriso que não combina com o tom da conversa.
4. Preste atenção no áudio – Se for um deepfake de voz, o tom pode parecer monótono ou o padrão de fala pode soar não natural.
5. Faça uma verificação cruzada de fontes – Se um conteúdo parecer suspeito, confira em fontes confiáveis de notícias para confirmar sua autenticidade.

Um Futuro com Deepfakes

Os deepfakes não são mais apenas coisa de ficção científica – eles já estão entre nós e causando danos reais. Desde manipulação política e fraudes financeiras até violações de privacidade e propagandas enganosas, o potencial para mau uso é enorme. Como vimos nesses exemplos, a principal lição é permanecer vigilante e crítico em relação ao conteúdo que consumimos – sempre investigue as fontes e confirme com outros veículos de notícias se uma imagem ou áudio parecer suspeito.

O futuro dos deepfakes continuará desafiando nossos sistemas legais, padrões éticos, processos eleitorais e até mesmo a maneira como percebemos a realidade. À medida que a tecnologia por trás dos deepfakes evolui, também devem evoluir nossas estratégias para detectar e prevenir seu mau uso.

Quer saber mais sobre como desvendar deepfakes?

Confira este webinar com insights de especialistas sobre como proteger sua empresa com autenticação biométrica.