Em um mundo onde sua identidade está diretamente relacionada à Internet, a probabilidade de uma reprodução perfeita de sua aparência é preocupante. Mas é exatamente isso que enfrentamos com o advento dos deepfakes.
À medida que a tecnologia se torna mais barata e fácil de usar, quais são os riscos dos deepfakes? Além disso, como você identifica uma falsificação profunda em comparação com o negócio real?
O que é deepfakes?
Deepfakes é o termo para mídia em que uma pessoa em um vídeo ou foto é substituída pela aparência de outra pessoa. O termo é uma combinação de “Aprendizagem profunda" E a "FalsoEle usa aprendizado de máquina e algoritmos de inteligência artificial para criar mídias que parecem perfeitamente realistas, mas criadas artificialmente.
Em sua forma mais simples, você pode encontrar um rosto sobreposto a outro modelo. Em seu pior caso de desenvolvimento rápido, os deepfakes incorporam vítimas inocentes em vídeos pornôs falsos, notícias falsas, golpes e muito mais.
Quais são os riscos dos deepfakes?
Fotos falsas Sempre presente. Descobrir o que é falso e o que não é é uma parte comum da vida, especialmente após o advento da mídia digital. Mas os problemas que a tecnologia deepfakes cria são diferentes, fornecendo resolução incomparável para fotos falsas e vídeos reproduzidos.
Um dos primeiros vídeos deepfakes que alcançaram um público mais amplo foi "Jordan Peel", que se fez passar por "Barack Obama" em um videoclipe discutindo o assunto em questão:
O vídeo parece rude, com som estranho e algumas saliências no rosto do clone. No entanto, ele ilustra a técnica de deepfakes.
Ou você já se perguntou como seria interpretar "Will Smith" como Neo em Matrix em vez de "Keanu Reeves" (quero dizer, quem não jogou?!)? Não me pergunto mais:
Esses vídeos não são prejudiciais, pois levam centenas de horas de aprendizado de máquina para serem montados. Mas a tecnologia em si está disponível para qualquer pessoa com tempo suficiente para aprender e o poder de computação que a acompanha. A barreira para o uso de deepfakes era muito alta no início. Mas, à medida que a tecnologia melhora e as barreiras à entrada diminuem drasticamente, mais pessoas estão começando a usar deepfakes para muitos assuntos negativos e prejudiciais.
Antes de mergulhar no lado negro dos deepfakes, aqui está Jim Carrey, que substituiu Jack Nicholson em The Shining:
1. Pornografia falsa de várias celebridades
Uma das principais ameaças da tecnologia deepfakes está na indústria pornográfica, ou pornografia falsa, como é conhecida. Existem dezenas de milhares de vídeos falsos que mostram os rostos de celebridades como "Emma Watson", "Natalie Portman" e "Taylor Swift".
Todos eles usam falsos algoritmos de aprendizado de máquina para cortar o rosto de uma celebridade no corpo de uma atriz, e todos atraem dezenas de milhões de visualizações em vários sites de conteúdo adulto.
No entanto, nenhum desses sites faz nada sobre falsificações profundas de celebridades.
Diz Giorgio Patrini , CEO e cientista-chefe da "Sensei", uma profunda empresa de divulgação e análise falsa: "Até que haja um forte motivo para tentar removê-lo e filtrá-lo, nada acontecerá." "As pessoas ainda terão liberdade para baixar esse tipo de material sem quaisquer consequências para esses sites que são vistos por centenas de milhões de pessoas."
Os vídeos são exploradores e estão longe de ser livres de vítimas, como alguns criadores alegam deepfakes.
2. Pornografia falsificada que afeta pessoas comuns
O que é pior do que a pornografia falsa que mostra celebridades? É verdade: pornografia falsa que mostra mulheres com menos popularidade ou expectativas do que está acontecendo ao seu redor e cujas vidas podem ser prejudicadas se forem falsamente retratadas em pornografia ou algo assim. O estudo "Sensity" revelou um robô usando deepfakes no aplicativo de mensagens sociais Telegram, que criou mais de 100.000 fotos falsas de nudez. Muitas fotos foram roubadas de contas de mídia social, que incluem amigos, namoradas, esposas, mães, etc.
O robô é um grande avanço na tecnologia de deepfakes, já que o robô de upload de imagens não precisa do conhecimento existente de deepfakes, aprendizado de máquina ou inteligência artificial. É um processo automatizado que requer uma única imagem. Além disso, o bot do Telegram parece funcionar apenas com fotos de mulheres e as assinaturas premium (mais fotos, marca d'água removida) são muito baratas.
Sejamos realistas: os motivadores desse tipo de pesquisa em IA são quase todos homens. Suas vítimas são quase todas mulheres. Eles seriam "tão arrogantes se aquela merda ruim estivesse acontecendo com eles, ao invés de alguma mulher na rua?" https://t.co/d3rbIb9g5F
- Drew Harwell (@drewharwell) 20 de outubro de 2020
Como os deepfakes de celebridades, os deepfakes do bot do Telegram são abusivos e antiéticos. Ele pode acessar facilmente a caixa de entrada do cônjuge, parceiro, membro da família, colega ou empresário, o que pode arruinar a vida no processo. O potencial para chantagem e outras formas de chantagem é extremamente alto e aumenta a ameaça de problemas existentes, como a pornografia de vingança.
Espalhar deepfakes no Telegram também leva a outro problema. O Telegram é um serviço de mensagens com foco na privacidade que não interfere muito nos usuários. Ele tem uma política para remover bots pornôs e outros robôs de material adulto, mas não fez nada neste caso.
3. Material enganoso
Você viu Jordan Peel jogar com Obama. Neste vídeo, ele alerta sobre os perigos dos deepfakes. Uma das principais preocupações sobre deepfakes é que alguém cria e publica um vídeo tão realista que, de alguma forma, leva à tragédia.
No extremo final da escala, algumas pessoas dizem que o conteúdo de vídeo deepfakes pode desencadear uma guerra. Mas também existem outras grandes consequências. Por exemplo, um vídeo falso mostrando uma grande empresa ou um CEO de banco pode levar a uma declaração maliciosa de um crash do mercado de ações. Mais uma vez, ele é um extremista. Mas pessoas reais podem verificar a autenticidade do vídeo, pois os mercados globais reagem instantaneamente às notícias e as vendas automatizadas acontecem.
A outra coisa a considerar é o tamanho. Com o aumento do custo de criação de conteúdo deepfakes, aumenta a possibilidade de grandes quantidades de conteúdo deepfakes para a mesma pessoa, com ênfase no envio da mesma mensagem falsa em diferentes cores, lugares, padrões e muito mais.
4. Negação de artigos reais
Como uma extensão do material enganoso e falso, você deve estar pensando que os deepfakes se tornarão incrivelmente realistas. Tanto que as pessoas vão começar a questionar se o vídeo é real ou não, independente do conteúdo.
Se alguém comete um crime e a única prova é o vídeo, o que o impede de dizer: "É falso, é falso"? Pelo contrário, que tal plantar evidências de vídeo falsas para alguém encontrar?
5. Liderado por pensamento falso e comunicação social
Na verdade, tem havido muitos casos de conteúdo de falsificação profunda fingindo ser motivado pelo raciocínio. Os perfis no LinkedIn e no Twitter detalham funções de alto nível em organizações estratégicas; no entanto, essas personalidades não existem e provavelmente serão criadas com a tecnologia deepfakes.
No entanto, esse não é um problema específico dos deepfakes. Desde o início dos tempos, governos, redes de espionagem e empresas usam perfis e personalidades falsos para coletar informações, avançar agendas e manipular.
6. Phishing scams, engenharia social e outras fraudes
A engenharia social é realmente um problema quando se trata de segurança. As pessoas querem confiar nos outros. Isso está em nossa natureza. Mas essa confiança pode levar a violações de segurança, roubo de dados e muito mais. A engenharia social geralmente requer contato pessoal, seja por telefone, por meio de uma chamada de vídeo, etc.
Suponha que alguém possa usar deepfakes para imitar um gerente de negócios para acessar códigos de segurança ou outras informações confidenciais. Nesse caso, isso poderia levar a um dilúvio de golpes deepfakes.
Como reconhecer e identificar deepfakes
Conforme a qualidade dos deepfakes aumenta, é importante descobrir métodos de deepfakes. No início, havia algumas anedotas simples: imagens borradas, deterioração e protuberâncias do vídeo e outras falhas. No entanto, essas questões estimulantes estão diminuindo enquanto o custo de uso da tecnologia está diminuindo rapidamente.
Não há uma maneira perfeita de detectar deepfakes, mas aqui estão quatro dicas úteis:
- os detalhes. Por melhor que seja a técnica de deepfaking, ainda existem pequenas partes que lutam com ela. Em particular, detalhes sutis nos vídeos, como movimento do cabelo, movimento dos olhos, estruturas das bochechas, movimento durante a fala e expressões faciais anormais. Grande movimento dos olhos. Embora a técnica deepfake agora possa piscar com eficácia (nos primeiros dias, essa era uma indicação importante), o movimento dos olhos continua sendo um problema.
- Sentimentos. O apego aos detalhes é uma paixão. Se alguém está fazendo uma declaração forte, seu rosto exibirá uma gama de emoções ao apresentar os detalhes. Deepfakes não pode oferecer a mesma profundidade de emoção que uma pessoa real.
- Contradição. A qualidade do vídeo está em seu nível mais alto. O smartphone em seu bolso pode gravar e enviar em 4K. Se um líder político faz uma declaração, ele está na frente de uma sala cheia de equipamento de gravação de primeira classe. Portanto, a baixa qualidade de gravação, tanto visual quanto audível, é um contraste notável.
- Fonte. O vídeo está sendo exibido em uma plataforma verificada? As plataformas de mídia social usam verificação para garantir que as pessoas que são conhecidas internacionalmente não sejam imitadas. Claro, existem problemas com as plataformas. Mas verificar onde um vídeo particularmente explícito está sendo transmitido ou hospedado ajudará você a saber se ele é real ou não. Você também pode tentar Faça uma busca reversa de imagens Para revelar em que outros locais a imagem está na Internet.
Ferramentas para detectar e prevenir deepfakes
Você não está sozinho na luta contra a descoberta de deepfakes. Várias grandes empresas de tecnologia estão desenvolvendo ferramentas para detectar deepfakes, enquanto outras estão tomando medidas para evitar deepfakes permanentemente.
Por exemplo, o detector deepfake da Microsoft analisará o Microsoft Video Authenticator em segundos para informar o usuário de sua autenticidade (consulte o arquivo GIF abaixo para obter um exemplo). Ao mesmo tempo, a Adobe permite que você assine digitalmente o conteúdo para protegê-lo contra adulteração.
O aplicativo Video Authenticator da Microsoft detectará deepfakes, analisando recursos rapidamentehttps://t.co/dFQBclXJgL
- Gavin Phillips (@GavinSpavin) 26 de outubro de 2020
Plataformas como Facebook e Twitter já baniram deepfakes maliciosos (deepfakes como Will Smith em The Matrix ainda são um jogo justo), enquanto o Google está trabalhando em uma ferramenta de análise de texto para voz para conter os trechos de áudio falsos.
Deepfakes estão chegando - e está ficando melhor
O fato é que, desde que a tecnologia deepfaking se tornou popular em 2018, seu uso principal tem sido ofender mulheres. Seja criando pornografia falsa com rosto de celebridade ou tirando a roupa de alguém nas redes sociais, tudo isso se concentra em explorar, manipular e insultar mulheres em todo o mundo.
Não há dúvida de que uma rebelião profunda está no horizonte. O surgimento de tal tecnologia representa um perigo para o público e, ainda assim, há pouco abrigo para impedir sua marcha.
