O que é deepfake? Entenda a tecnologia e como identificá-la

Já ouviu falar sobre o que é deepfake? A criação de imagens, conteúdos e vídeos enganosos, criados por IA e divulgados na internet, tem sido cada vez mais comum. Eles fazem os usuários duvidar de seus próprios olhos e questionar a máxima “basta ver para crer”. 

Os vídeos que utilizam deepfake surpreendem as pessoas pela aparente naturalidade e veracidade. Porém, também trazem um alerta claro: nem tudo o que parece é!  A tecnologia tem sido usada em diferentes contextos, como marketing, recursos humanos e entretenimento. Contudo, levanta preocupações sobre ameaças cibernéticas e privacidade digital. 

Neste conteúdo, apresentamos o que é deepfake, sua finalidade e seus perigos.

O que é deepfake?

Deepfake é um modelo de tecnologia, baseada em inteligência artificial, capaz de manipular imagens e sons para a criação de peças realistas. Comumente conhecido pelo seu uso no audiovisual, um deepfake pode mimetizar pessoas conhecidas e gerar vídeos de fatos ou discursos falsos. 

Com o uso do deepfake, é possível, inclusive, transformar o conteúdo de origem existente em que uma pessoa é trocada por outra. A tecnologia também permite criar conteúdo totalmente original, mas falso. Usando fantoches digitais falantes, o software de IA distorce figuras públicas, colocando-as como protagonistas em contextos e falas que não foram vividos com palavras não pronunciadas por elas. 

Para além do uso malicioso, o que é deepfake também abarca a criação de personagens para a indústria de entretenimento e cinema. Filmes que utilizam tecnologia para envelhecimento ou rejuvenescimento de um ator ou atriz, por exemplo, o fazem a partir de ferramentas como deepfake. 

Entender o que é deepfake e como se prevenir de seus impactos é apenas um dos passos para uma boa estratégia de cibersegurança. Quer saber mais sobre o assunto? Confira nosso infográfico!

Como um deepfake funciona?

Usando a inteligência artificial (IA), as tecnologias deepfake podem gerar ou manipular mídia digital, especialmente conteúdo de vídeo e áudio, de uma forma que os espectadores dificilmente conseguem distinguir o material autêntico e original. 

Para entender o que é deepfake e como funciona, é importante saber que o deepfake usa algoritmos de aprendizado de máquina para sintetizar novos conteúdos baseados em dados existentes, como imagens ou vídeos de pessoas reais. Na prática, é importante entender que a tecnologia tem potencial para ser usada para fins positivos e negativos. 

De um lado, os profissionais de audiovisual e a indústria de entretenimento se beneficiam, já que podem criar efeitos visuais mais realistas em filmes ou gerar simulações realistas para fins de treinamento. 

Do lado negativo, o deepfake também é usado para espalhar fake news ou manipular a opinião pública por meio da criação de vídeos falsos. Nestes vídeos, pessoas dizem ou fazem coisas que não são verdadeiras – mas que se assemelham muito à realidade. E, com esse potencial, o deepfake vem sendo usado contra políticos ou outras figuras públicas, no intuito de desacreditá-las.

O vídeo abaixo, da BBC News, é um exemplo disso. Nele, Barack Obama aparece fazendo um discurso que, na verdade, nunca fez. 

Deepfake: o que é um exemplo desta tecnologia?

Agora que você já sabe o que é deepfake, é importante entender também que não é apenas em vídeos obscuros da internet em que ele é utilizado. Já com um ramo de empresas especializadas no fornecimento de softwares do tipo, é possível contratar o serviço de um vídeo baseado em deepfake. 

Os avatares de IA são “gêmeos digitais”, baseados nas aparências de atores contratados e podem ser manipulados para falar em 120 idiomas e sotaques. As plataformas oferecem dezenas de personagens no seu portfólio, de modo que o cliente pode escolher um ou mais, com diferentes gêneros, idades, etnias, tons de voz e opções de moda.

Tais softwares são utilizados, principalmente, por clientes corporativos, que produzem vídeos para as demandas de treinamento do Recursos Humanos. As plataformas de IA habilitadas com tecnologia deepfake produzem vídeos em minutos que, de outra forma, levariam vários dias para serem concluídos. 

Além disso, essa modalidade dispensa a contratação de uma equipe de produção de vídeo e de atores humanos. Desta forma, as plataformas de deepfake garantem um processo mais rápido e barato de produção.

Por que se preocupar com deepfake?

O crescente e amplo uso da tecnologia tem gerado sérias discussões sobre o seu alcance. Isso porque, embora proporcione acesso facilitado e barato à produção audiovisual, o deepfake pode ser usado de maneiras perigosas. 

A seguir, listamos alguns problemas e ameaças que a tecnologia apresenta.

Ameaças cibernéticas

A ferramenta tem sido usada em tentativas de ciberataques como phishing e engenharia social. Com ela, os criminosos podem se passar por pessoas confiáveis de uma empresa, como o CEO, para entrar nos sistemas, roubar informações e obter ganhos financeiros, aumentando eventualmente o número de fraudes na Internet. 

Por isso se torna fundamental entender o que é deepfake: o roubo de identidade é um dos maiores problemas decorrentes desta tecnologia. 

Desinformação

Deepfakes podem ser usados ​​para espalhar informações falsas propositalmente ou podem ter uma intenção maliciosa por trás de seu uso. Quando usado a partir da imagem de figuras de autoridade, como o exemplo anterior com Barack Obama, esses vídeos podem dar a falsa ideia de credibilidade e espalhar notícias falsas.

Em contextos críticos, como na pandemia de Covid-19 ou em eleições ao redor do mundo, o uso de deepfake trouxe mudanças drásticas na forma como recebemos informações. Utilizada para construir vídeos falsos com médicos ou candidatos políticos, essa tecnologia gerou fake news em diferentes países e abalou a confiança de seus usuários. 

Prejuízos pessoais e sociais

O deepfake também pode gerar problemas para pessoas que possuem sua imagem usada em vídeos ou gravações de áudios falsos, sem consentimento. A prática configura caso de violação de privacidade.

Muitas vezes, esses conteúdos contêm mensagens ofensivas, que prejudicam a reputação da vítima. De tal modo, entender o que é deepfake e como ele pode causar danos pessoais ou sofrimento às pessoas retratadas no conteúdo falso é o primeiro passo para a prevenção.  

Como identificar um deepfake?

À medida que a tecnologia avança, os especialistas dizem que é importante que as pessoas questionem os meios de comunicação que consomem online. Embora exista uma real verossimilhança com o conteúdo original, ainda é possível identificar alguns pontos falhos em vídeos com deepfake.

É importante saber, portanto, o que é deepfake e quais sinais de alerta observar para identificar (tom de voz, movimentação, etc) um conteúdo falso. São aspectos comuns em conteúdos deepfakes:

• Áudio não corresponde aos movimentos da boca de uma pessoa; 
• Vídeo que apresenta movimentos oculares não-naturais;  
• Diferenças na iluminação da pessoa que fala e do fundo.

Além disso, também é importante observar o “contorno” de uma pessoa em comparação com o fundo, incluindo o cabelo e as áreas ao redor do rosto, especialmente quando o orador está em movimento.

Além dos aspectos visuais, outro ponto que o usuário deve se perguntar é por que certas personalidades da mídia estariam divulgando esse tipo de conteúdo. A primeira bandeira vermelha é: ‘Será que essa celebridade ou político realmente está promovendo essas ideias, ou produtos?’

Por exemplo, o Instituto de Tecnologia de Massachusetts (MIT) criou um site Detect Fakes para ajudar as pessoas a identificar deepfakes, concentrando-se em detalhes.

O MIT destaca vários pontos que podem provar que algo é deepfake. Isso inclui observar aspectos específicos, como transformações faciais, olhares, piscar, movimentos labiais, sons naturais como tosse ou espirro e outras características, como marcas de beleza e pelos faciais.

Inteligência artificial na defesa contra deepfake

Da mesma forma que a IA gerou o que é deepfake como conhecemos, ela também está auxiliando na identificação dele. A IA generativa e os grandes modelos de linguagem ajudam a potencializar os sistemas de detecção. Existem várias plataformas disponíveis no mercado com esse foco.

A IA da DeepMedia, por exemplo, permite pegar um áudio ou vídeo, extrair automaticamente os rostos e vozes desse conteúdo e então executar o rosto ou a voz ou ambos usando os algoritmos de detecção. Eles foram treinados em milhões de amostras reais e falsas em 50 idiomas diferentes. 

Na prática, são capazes de determinar com 99,5% de precisão se algo é real ou se foi manipulado de alguma forma por meio de IA.

Um outro uso para o deepfake

Muito além das possibilidades maliciosas, o deepfake pode ser aplicado em outros casos de uso com finalidades que beneficiam diversas áreas. Veja algumas aplicações.

• Aplicativos educacionais: o deepfake permite criar vídeos ou simulações educacionais mais realistas, envolventes e interativas para os alunos. Por isso, a tecnologia é usada no treinamento em diversos setores, como aviação, militar e saúde. A ferramenta ajuda a preparar os profissionais para cenários da vida real, melhorando seu tempo de resposta e suas habilidades de tomada de decisão.
• Efeitos visuais aprimorados: a tecnologia deepfake é usada para criar efeitos visuais mais realistas em filmes, programas de televisão e outras formas de mídia. Isso pode levar a uma experiência de visualização mais envolvente, que realmente engaja o público.
• Maior acessibilidade: a tecnologia Deepfake é usada para construção de legendas ou traduções para conteúdo de áudio e vídeo, tornando-o mais acessível para pessoas com deficiência auditiva ou que falam idiomas diferentes.

E como a Ingram pode auxiliar?

Atualmente, os conteúdos deepfakes usam algoritmos de aprendizado de máquina para criar essa mídia sintética, que coloca em xeque a verdade e a autenticidade. Por isso, detectá-los e lidar com eles é mais crítico do que nunca. 

Embora existam soluções técnicas, como ferramentas de detecção de IA, marca d’água e proveniência de conteúdo, para detectar conteúdos deepfake, elas têm limitações. Sendo assim, o ideal é combinar outras medidas para minimizar os riscos, ameaças e perigos gerados.

Para as empresas e usuários, é importante definir um conjunto de respostas que permitam combater eficazmente os deepfakes, incluindo leis e regulamentos, sensibilização individual, verificação da autenticidade antes do compartilhamento, leis de direitos de autor, educação e investigação. 

Com soluções de ponta na área de cybersegurança, a Ingram Micro pode ajudar a sua empresa a se proteger dos impactos provocados pelo deepfake. Entre em contato e descubra como podemos ajudar você!