Dans un monde où votre identité est directement liée à Internet, la probabilité d'une réplication parfaite de votre apparence est troublante. Mais c'est exactement ce à quoi nous sommes confrontés avec l'avènement des deepfakes.
Alors que la technologie devient moins chère et plus facile à utiliser, quels sont les risques de deepfakes? De plus, comment repérez-vous la contrefaçon profonde par rapport à la vraie affaire?
Qu'est-ce que deepfakes?
Deepfakes est le terme pour les médias où une personne dans une vidéo ou une photo est remplacée par l'apparence d'une autre personne. Le terme est une combinaison de "L'apprentissage en profondeurEt FauxIl utilise des algorithmes d'apprentissage automatique et d'intelligence artificielle pour créer des médias qui semblent parfaitement réalistes mais créés artificiellement.
Dans sa forme la plus simple, vous pourriez trouver un visage superposé à un autre modèle. Dans le pire des cas qui se développe rapidement, les deepfakes incorporent des victimes sans méfiance dans de fausses vidéos porno, de fausses nouvelles, des escroqueries et plus encore.
Quels sont les risques des deepfakes?
Faux photos Toujours présente. Découvrir ce qui est faux et ce qui ne l'est pas fait partie de la vie, surtout après l'avènement des médias numériques. Mais les problèmes que crée la technologie deepfakes sont différents, offrant une résolution inégalée pour les fausses photos et les vidéos reproduites.
L'une des premières vidéos deepfakes qui a atteint un public plus large a été "Jordan Bell" qui s'est fait passer pour "Barack Obama" dans un clip vidéo discutant du problème en question:
La vidéo a l'air impolie, avec un son étrange et des renflements sur le visage du clone. Cependant, cela illustre la technique des deepfakes.
Ou vous êtes-vous déjà demandé ce que ce serait si "Will Smith" jouait Neo dans The Matrix au lieu de "Keanu Reeves" (je veux dire, qui ne l'a pas fait?!)? Je ne me demande plus:
Ces vidéos ne sont pas nuisibles, car leur assemblage nécessite des centaines d'heures d'apprentissage automatique. Mais la technologie elle-même est accessible à quiconque dispose de suffisamment de temps pour apprendre et de la puissance de calcul qui va avec. La barrière à l'utilisation de deepfakes était très élevée au début. Mais à mesure que la technologie s'améliore et que les barrières à l'entrée ont considérablement diminué, de plus en plus de personnes commencent à utiliser les deepfakes pour de nombreuses questions négatives et nuisibles.
Avant de plonger dans le côté obscur des deepfakes, voici Jim Carrey qui a remplacé Jack Nicholson dans The Shining:
1. Fausse pornographie d'un certain nombre de célébrités
L'une des principales menaces de la technologie deepfakes réside dans l'industrie du porno, ou la fausse pornographie, comme on l'appelle. Il existe des dizaines de milliers de fausses vidéos montrant les visages de célébrités féminines comme "Emma Watson", "Natalie Portman" et "Taylor Swift".
Ils utilisent tous de faux algorithmes d'apprentissage automatique pour trancher le visage d'une célébrité sur le corps d'une actrice, et ils attirent tous des dizaines de millions de vues sur plusieurs sites Web de contenu pour adultes.
Cependant, aucun de ces sites Web ne fait quoi que ce soit contre les deepfakes de célébrités.
Dit Giorgio Patrini , PDG et scientifique en chef de "Sensei", une société de divulgation et d'analyse fausses profondes: "Tant qu'il n'y aura pas une bonne raison d'essayer de le supprimer et de le filtrer, rien ne se passera." "Les gens seront toujours libres de télécharger ce type de matériel sans aucune conséquence pour ces sites Web qui sont consultés par des centaines de millions de personnes."
Les vidéos sont exploitantes et loin d'être exemptes de victimes, comme certains créateurs le prétendent.
2. Contrefaçon de pornographie qui affecte les gens ordinaires
Quoi de pire que la fausse pornographie qui montre des célébrités? C'est vrai: de la pornographie bidon qui montre des femmes avec une moindre popularité ou des attentes moindres de ce qui se passe autour d'elles et dont la vie pourrait être compromise si elles étaient faussement représentées dans la pornographie ou quelque chose du genre. L'étude «Sensity» a révélé un robot utilisant des deepfakes sur l'application de messagerie sociale Telegram, qui a créé plus de 100.000 XNUMX fausses photos de nu. De nombreuses photos ont été volées sur des comptes de réseaux sociaux, notamment des amis, des copines, des épouses, des mères, etc.
Le robot est une avancée majeure dans la technologie deepfakes, car le robot de téléchargement d'images n'a pas besoin des connaissances existantes sur les deepfakes, l'apprentissage automatique ou l'intelligence artificielle. C'est un processus automatisé qui nécessite une seule image. De plus, le bot Telegram semble ne fonctionner que pour les photos de femmes et les abonnements premium (plus de photos, filigrane supprimé) sont très bon marché.
Soyons réalistes: les moteurs de ce type de recherche sur l'IA sont presque tous des hommes. Ses victimes sont presque toutes des femmes. Seraient-ils "si cavaliers si cette mauvaise merde leur arrivait, par opposition à une femme dans la rue?" https://t.co/d3rbIb9g5F
- Drew Harwell (@drewharwell) 20 octobre 2020
Comme les deepfakes de célébrités, les deepfakes de robots Telegram sont exploiteurs, abusifs et contraires à l'éthique. Il peut facilement accéder à la boîte de réception du conjoint, partenaire, membre de la famille, collègue ou propriétaire d'entreprise, ce qui peut ruiner la vie dans le processus. Le potentiel de chantage et d'autres formes de chantage est extrêmement élevé et augmente la menace des problèmes existants, tels que la vengeance pornographique.
La diffusion de deepfakes sur Telegram pose également un autre problème. Telegram est un service de messagerie axé sur la confidentialité qui n'interfère pas trop avec ses utilisateurs. Il a pour politique de supprimer le porno et d'autres bots de matériel pour adultes, mais il n'a rien fait dans ce cas.
3. Matériel trompeur
Vous avez vu Jordan Peel jouer Obama. Dans cette vidéo, il met en garde contre les dangers des deepfakes. L'une des principales préoccupations à propos des deepfakes est que quelqu'un crée et publie une vidéo si réaliste qu'elle mène d'une manière ou d'une autre à une tragédie.
À l'extrême extrémité de l'échelle, certaines personnes disent que le contenu vidéo deepfakes peut déclencher une guerre. Mais il y a aussi d'autres conséquences importantes. Par exemple, une fausse vidéo montrant une grande entreprise ou un PDG de banque pourrait conduire à une déclaration malveillante d'un krach boursier. Encore une fois, c'est un extrémiste. Mais de vraies personnes peuvent vérifier l'authenticité de la vidéo, car les marchés mondiaux réagissent instantanément aux nouvelles et les ventes automatisées se produisent.
L'autre chose à considérer est la taille. Avec le coût croissant de la création de contenu deepfakes, cela augmente la possibilité d'énormes quantités de contenu deepfakes pour la même personne, en mettant l'accent sur l'envoi du même faux message dans différentes couleurs, lieux, motifs, etc.
4. Refus d'articles réels
En tant qu'extension de matériel trompeur et faux, vous devez penser que les deepfakes vont devenir incroyablement réalistes. À tel point que les gens commenceront à se demander si la vidéo est réelle ou non, quel que soit le contenu.
Si quelqu'un commet un crime et que la seule preuve est la vidéo, qu'est-ce qui l'empêche de dire: "C'est faux, c'est faux"? Au contraire, que diriez-vous de planter de fausses preuves vidéo que quelqu'un pourra trouver?
5. Dirigé par de fausses pensées et une communication sociale
Il y a eu en fait de nombreux exemples de contenu de falsification profonde prétendant être motivé par le raisonnement. Les profils sur LinkedIn et Twitter détaillent les rôles de haut niveau dans les organisations stratégiques, mais ces personnalités n'existent pas et sont susceptibles d'être créées à l'aide de la technologie deepfakes.
Cependant, ce n'est pas un problème spécifique aux deepfakes. Depuis la nuit des temps, les gouvernements, les réseaux d'espionnage et les entreprises ont utilisé de faux profils et personnalités pour collecter des informations, faire avancer les agendas et manipuler.
6. Escroqueries par hameçonnage, ingénierie sociale et autres fraudes
L'ingénierie sociale est en effet un problème en matière de sécurité. Les gens veulent faire confiance aux autres. C'est dans notre nature. Mais cette confiance peut entraîner des failles de sécurité, le vol de données, etc. L'ingénierie sociale nécessite souvent un contact personnel, que ce soit par téléphone, via un appel vidéo, etc.
Supposons que quelqu'un puisse utiliser deepfakes pour imiter un responsable commercial afin d'accéder aux codes de sécurité ou à d'autres informations sensibles. Dans ce cas, cela pourrait conduire à un déluge d'escroqueries deepfakes.
Comment reconnaître et repérer les deepfakes
À mesure que la qualité des deepfakes augmente, il est important de découvrir des méthodes de deepfakes. Dans les premiers jours, il y avait quelques anecdotes simples: images floues, détérioration et grumeaux vidéo et autres défauts. Cependant, ces problèmes stimulants diminuent tandis que le coût d'utilisation de la technologie diminue rapidement.
Il n'y a pas de moyen parfait de repérer les deepfakes, mais voici quatre conseils utiles:
- Détails Aussi bonne que soit la technique des deepfakes, il y a encore de petites parties qui ont du mal avec elle. En particulier, des détails subtils dans les vidéos, tels que les mouvements des cheveux, les mouvements des yeux, les structures des joues, les mouvements pendant la parole et les expressions faciales anormales. Mouvement oculaire important. Bien que la technique du deepfake puisse maintenant scintiller efficacement (au début, c'était une indication majeure), le mouvement des yeux reste un problème.
- Sentiments. L'attachement au détail est une passion. Si quelqu'un fait une déclaration forte, son visage affichera une gamme d'émotions tout en présentant les détails. Deepfakes ne peut pas offrir la même profondeur d'émotion qu'une personne réelle.
- Contradiction. La qualité vidéo est à son plus haut niveau jamais. Le smartphone dans votre poche peut enregistrer et envoyer en 4K. Si un dirigeant politique fait une déclaration, il se trouve devant une salle pleine de matériel d'enregistrement de première classe. Par conséquent, la mauvaise qualité d'enregistrement, à la fois visuelle et audible, est un contraste notable.
- Source La vidéo est-elle diffusée sur une plateforme vérifiée? Les plateformes de médias sociaux utilisent la vérification pour s'assurer que les personnes qui sont connues internationalement ne sont pas imitées. Bien sûr, il y a des problèmes avec les plates-formes. Mais vérifier où une vidéo particulièrement explicite est diffusée ou hébergée vous aidera à savoir si elle est réelle ou non. Vous pouvez également essayer Effectuer une recherche d'image inversée Pour révéler quels autres endroits l'image se trouve sur Internet.
Outils pour détecter et prévenir les deepfakes
Vous n'êtes pas seul dans la lutte contre la découverte des deepfakes. Plusieurs grandes entreprises technologiques développent des outils pour détecter les deepfakes, tandis que d'autres prennent des mesures pour empêcher définitivement les deepfakes.
Par exemple, le détecteur deepfake de Microsoft analysera Microsoft Video Authenticator en quelques secondes pour informer l'utilisateur de son authenticité (voir le fichier GIF ci-dessous pour un exemple). Dans le même temps, Adobe vous permet de signer numériquement le contenu pour le protéger contre la falsification.
L'application Video Authenticator de Microsoft détectera les deepfakes et analysera rapidement les fonctionnalitéshttps://t.co/dFQBclXJgL
- Gavin Phillips (@GavinSpavin) 26 octobre 2020
Des plateformes comme Facebook et Twitter ont déjà interdit les deepfakes malveillants (les deepfakes comme Will Smith dans The Matrix sont toujours un jeu équitable), tandis que Google travaille sur un outil d'analyse de la synthèse vocale pour contrer les faux extraits audio.
Les Deepfakes arrivent - et ça s'améliore
Le fait est que depuis que la technologie deepfaking est entrée dans le courant dominant en 2018, son utilisation principale a été d'offenser les femmes. Qu'il s'agisse de créer du faux porno avec un visage de célébrité ou de déshabiller quelqu'un sur les réseaux sociaux, tout cela se concentre sur l'exploitation, la manipulation et l'insulte des femmes du monde entier.
Il ne fait aucun doute qu'une rébellion deepfakes se profile à l'horizon. La montée en puissance d'une telle technologie représente un danger pour le public, et pourtant il n'y a guère d'abris pour arrêter sa marche en avant.
