BROADCASTS.com

Published: Jan. 8, 2020, 6:50 a.m.

\xc9pisode 312 : Apr\xe8s les filtres en r\xe9alit\xe9 augment\xe9e qui sont partout en ce moment, 2020 sera-t-elle l'ann\xe9e o\xf9 les deepfakes vont se g\xe9n\xe9raliser ? C\u2019est fun mais a quel moment les deepfakes deviennent ils dangereux ? C\u2019est la grande question que l\u2019on se pose ce matin.

Le Deepfake, qu\u2019est-ce que c\u2019est ?

Deepfake est la contraction de \xab deep learning \xbb et \xab fake news\u201d.

Il s\u2019agit de produire des contenus multim\xe9dia (images, vid\xe9o, son) qui sont faux.

Ce ne sont pas des vraies captations d\u2019\xe9v\xe9nements qui se sont vraiment pass\xe9s.

Par exemple, Trump qui annonce une guerre contre l\u2019Iran.

On pourrait appeler \xe7a aussi des effets sp\xe9ciaux ou des images de synth\xe8ses.

Rien de nouveau du coup ? Et bien si, ces effets sp\xe9ciaux n\u2019ont jamais \xe9t\xe9 aussi facile \xe0 cr\xe9er !

D\xe9finition :

Le deepfake, ou hypertrucage, est une technique de synth\xe8se d'images bas\xe9e sur l'intelligence artificielle. Elle sert \xe0 superposer des fichiers audio et vid\xe9o existants sur d'autres vid\xe9os (par exemple : le changement de visage d'une personne sur une vid\xe9o). Le terme deepfake est un mot-valise form\xe9 \xe0 partir de deep learning (\xab apprentissage profond \xbb) et de fake (\xab faux \xbb).

Historique :

Ces technologies sont toutes jeunes puisqu\u2019elles ont \xe9t\xe9 pr\xe9sent\xe9es au public en 2016, que ce soit la superposition de voix calqu\xe9 sur votre propre voix ou la transposition vid\xe9o d\u2019un visage ou d\u2019un effet.

Les hypertrucages ont \xe9t\xe9 notamment rendus c\xe9l\xe8bres pour avoir \xe9t\xe9 utilis\xe9s afin de cr\xe9er de fausses vid\xe9os \xe9rotiques (sextapes), mettant en sc\xe8ne des c\xe9l\xe9brit\xe9s, et de la pornodivulgation

La technologie :

Bon \xe0 savoir, Google a cr\xe9\xe9 son propre outil : TensorFlow, en open source qui est une technologie pour cr\xe9er des deepfake

Aujourd\u2019hui en marge des applis comme Snapchat ou Tiktok, on retrouve des tonnes d\u2019applis de DeepFake, il suffit de taper DeepFake

----

Les outils se d\xe9mocratisent

L\u2019application chinoise Zao d\xe9mocratise le DeepFake en 2019

Zao, une application gratuite de changement de visage en profondeur qui est capable de placer votre ressemblance dans des sc\xe8nes de centaines de films et d'\xe9missions de t\xe9l\xe9vision apr\xe8s avoir t\xe9l\xe9charg\xe9 une seule photo, est devenue virale en Chine.

https://www.theverge.com/2019/9/2/20844338/zao-deepfake-app-movie-tv-show-face-replace-privacy-policy-concerns

\u2014

Ce n'est que le d\xe9but de l\u2019ann\xe9e 2020 et nous avons vu d\xe9j\xe0 2 grosses annonces sur le sujet Deep Fake du c\xf4t\xe9 de Snapchat et TikTok.

Snapchat fait l\u2019acquisition de AI Factory une soci\xe9t\xe9 sp\xe9cialis\xe9 dans le Deep Fake

Snap aurait achet\xe9 AI Factory, qui est la soci\xe9t\xe9 avec laquelle il a travaill\xe9 pour d\xe9velopper sa fonction Cameo r\xe9cemment lanc\xe9e , qui permet aux utilisateurs de superposer leur visage sur une s\xe9lection de sc\xe8nes pr\xe9d\xe9finies.

L'acquisition sugg\xe8re que Snapchat cherchera \xe0 avancer plus loin dans cette voie, am\xe9liorant sa capacit\xe9 \xe0 superposer votre image sur du contenu vid\xe9o.

TikTok travaille aussi de son c\xf4t\xe9 \xe0 de nouvelles fonctionnalit\xe9s de type \xabDeepfake\xbb

Selon TechCrunch , TikTok travaille sur une fonctionnalit\xe9 de style deepfake, qui demande aux utilisateurs de prendre une analyse biom\xe9trique multi-angle de leur visage. Cela leur permet d'ajouter leur image dans une s\xe9lection de vid\xe9os encore plus r\xe9aliste.

\u2014

Les outils s\u2019am\xe9liorent \xe0 tr\xe8s grande vitesse !

Pour l\u2019instant ces diff\xe9rents outils ont des rendus bluffant mais on d\xe9tecte encore qu\u2019il s\u2019agit de montage. Il y a parfois des zones de flou, des raccords un peu mal g\xe9r\xe9.

Et puis il s\u2019agit surtout de se marrer ! La fonctionnalit\xe9 Cam\xe9o de Snapchat est un bon exemple. Tu mets ta t\xeate sur des micro clip vid\xe9o fun. Un chat qui attaque, une pop pop girl. Rien de bien inqui\xe9tant.

Un effet Gif , saccad\xe9, volontaire

Aujourd\u2019hui, a moins d\u2019\xeatre un crack et d\u2019avoir d\xe9velopp\xe9 soi-m\xeame son application, les Deepfake sont souvent un peu foireux mais c\u2019est ce qui les rends amusants, c\u2019est comme porter un masque.

On peut faire un parall\xe8le avec l\u2019AI, \xe7a nous amuse de parler a un robot d\u2019accueil ou a SIRI, mais le jour o\xf9 ils deviendront trop intelligent, \xe7a nous fera peut

Oui mais, oui mais

Au rythme ou la techno \xe9volue tout devient envisageable et certains penchent sur des sc\xe9narios catastrophes. Comme montrer un politicien dire quelque chose qu'il n'a pas fait, un chef d'entreprise ou une c\xe9l\xe9brit\xe9 dans une position compromettante.

Le pire, m\xeame si une telle vid\xe9o s'est r\xe9v\xe9l\xe9e \xeatre fausse apr\xe8s-coup, une fois que les dommages initiaux sont faits, il pourrait \xeatre trop tard. Le potentiel de dommages est important.
On peut d\u2019ailleurs revenir sur les FakeNews et l\u2019\xe9tude dont nous avions parl\xe9 pr\xe9c\xe9demment. A force de les voir les internautes les tol\xe8rent et les acceptent;

\u2014\u2014

Les plateformes \xe0 la recherche d\u2019outils de d\xe9tection

Tout \xe7a \xe9volue tr\xe8s vite d\u2019o\xf9 la n\xe9cessit\xe9 de se doter le plus vite possible d\u2019outils efficaces pour d\xe9nicher toute supercherie, \xe0 l\u2019image de ce qui existe d\xe9j\xe0 dans le monde de la photographie avec le logiciel Tungst\xe8ne, que l\u2019AFP utilise pour analyser la structure d\u2019un clich\xe9 et d\xe9terminer s\u2019il y a eu des manipulations.

Facebook, Google et Twitter m\xe8nent tous ind\xe9pendamment des recherches pr\xe9ventives sur la fa\xe7on de d\xe9tecter et de mettre en \xe9vidence les deepfakes pour \xe9viter toute interpr\xe9tation erron\xe9e.

https://ai.googleblog.com/2019/09/contributing-data-to-deepfake-detection.html

https://www.socialmediatoday.com/news/twitter-outlines-policy-plan-for-identifying-deepfakes-in-tweets/567063/

Facebook lance un concours \xab Deepfake Detection Challenge \xbb (DDC), afin de cr\xe9er des technologies et logiciels capables de d\xe9celer des vid\xe9os utilisant la technique de \xab deepfake \xbb.
Un d\xe9fi lanc\xe9 \xe0 la communaut\xe9 de recherche informatique pour faire avancer la recherche en mati\xe8re de lutte contre les deepfakes, ces vid\xe9os manipul\xe9es par des techniques d'intelligence artificielle.

https://deepfakedetectionchallenge.ai/
Amazon Web Service > Facebook > Microsoft

Le concours se termine dans 3mois et 895 teams sont inscrites pour gagner le prix de 1M$
On peut m\xeame voir les tableaux de score en ligne, le premier actuellement a d\xe9tect\xe9 21 deep fakes

Les pays s'engagent aussi contre le deepfake

En Chine

La Chine a mis en place au 1er Janvier une loi bannissant les contenus qui ne mentionnent pas l\u2019utilisation de superpositions de vid\xe9os et d\u2019audios. Les deepfakes qui ne sont pas mentionn\xe9s comme tels seront consid\xe9r\xe9s ill\xe9gaux.

Il est obligatoire de pr\xe9ciser qu\u2019une vid\xe9o a \xe9t\xe9 cr\xe9\xe9e gr\xe2ce \xe0 l\u2019intelligence artificielle et qu\u2019elle rapporte de fausses informations, pour qu\u2019elle soit publi\xe9e de mani\xe8re l\xe9gale. Si ces mentions n\u2019apparaissent pas, le cr\xe9ateur de la deepfake sera consid\xe9r\xe9 comme un criminel.

\xab Des contenus comme les deepfakes peuvent perturber la v\xe9racit\xe9 des informations diffus\xe9es ainsi que l\u2019ordre social dans le pays. L\u2019intelligence artificielle utilis\xe9e dans cet objectif pr\xe9cis pourrait avoir un impact n\xe9gatif sur la s\xe9curit\xe9 nationale de la Chine\xbb

Influenceuse Chinoise > Your Highness Qiao Biluo le 25 juillet dernier
Elle avait g\xe9n\xe9r\xe9 des milliers de dons

Aux USA

Le gouverneur de Californie a ratifi\xe9, le 3 octobre, 2 lois contre les deepfakes politiques et pornographiques. Il y est d\xe9sormais ill\xe9gal de publier une vid\xe9o manipul\xe9e pour discr\xe9diter un candidat Californie, dans les 60 jours qui pr\xe9c\xe8dent une \xe9lection. La seconde loi vise \xe0 encadrer l\u2019usage de cette technique dans la pornographie.

. . .

Le Super Daily est le podcast quotidien sur les r\xe9seaux sociaux. Il est fabriqu\xe9 avec une pluie d'amour par les \xe9quipes de Supernatifs.

Nous sommes une agence social media bas\xe9e \xe0 Lyon. Nous aidons les entreprises \xe0 cr\xe9er des relations durables et rentables avec leurs audiences. Nous inventons, produisons et diffusons des contenus qui engagent vos collaborateurs, vos prospects et vos consommateurs.

---

H\xe9berg\xe9 par Acast. Visitez acast.com/privacy pour plus d'informations.