Si le concept tient plus du cauchemar que du rêve, il prend effectivement des airs de science-fiction : l’algorithme permet à ses utilisateurs de "déshabiller" les femmes, simplement avec leur smartphone
La technologie du Deep Fake permet de déshabiller n'importe quelle femme. (C) Capture d'écran
La start-up ayant imaginé ce concept est originaire d’Estonie, et s'est basé sur un logiciel d’intelligence artificielle, pour créer ces photomontages incroyablement réalistes. À partir d’une photo d'une femme habillée, DeepNude se sert parmi plusieurs milliers de clichés pour créer une seconde image sans vêtements.
Les photos fabriquées par l’application sont évidemment fausses, mais suffisamment bien réalisées pour faire douter les utilisateurs. Impossible toutefois de déshabiller virtuellement un homme : l’application ne fonctionne qu’avec des images de femmes.
Les photos fabriquées par l’application sont évidemment fausses, mais suffisamment bien réalisées pour faire douter les utilisateurs. Impossible toutefois de déshabiller virtuellement un homme : l’application ne fonctionne qu’avec des images de femmes.
L’algorithme rapidement retiré du marché
Le site ne fonctionnait que sur les corps féminins, leur ajoutant des seins et vulves virtuelles, mais réalistes. (C) Capture d'écran
Disponible au téléchargement sur Windows et Linux depuis ce 23 juin, Deepnudes a eu une durée de vie aussi brève que malsaine. Quatre jours après son lancement, le créateur a annocé sur Twitter la fermeture de l'application. Ce sont les internautes des réseaux sociaux qui s'étaient mis contre le logiciel.
Outre le sexisme évident qui se dégageait du concept, la start-up a également été épinglée sur la question du consentement, qui ne figurait nulle part dans les conditions d’utilisation. Autrement dit, à aucun moment l’utilisateur ne devait demander l’accord de la personne sur la photo avant de la dénuder virtuellement.
Selon Mary Anne Franks, la présidente de la Cyber Civil Rights Initiative, qui lutte contre la pornographie sans consentement, "le but délibéré de cette application était de satisfaire les fantasmes prédateurs et grotesques d’hommes lamentables".
Outre le sexisme évident qui se dégageait du concept, la start-up a également été épinglée sur la question du consentement, qui ne figurait nulle part dans les conditions d’utilisation. Autrement dit, à aucun moment l’utilisateur ne devait demander l’accord de la personne sur la photo avant de la dénuder virtuellement.
Selon Mary Anne Franks, la présidente de la Cyber Civil Rights Initiative, qui lutte contre la pornographie sans consentement, "le but délibéré de cette application était de satisfaire les fantasmes prédateurs et grotesques d’hommes lamentables".
"La probabilité que les gens en fassent un mauvais usage est trop grande"
Les montages mensongers et malveillants peuvent détruire une vie. (C) cocoparisienne
En ce qui concerne les accusations de sexisme, l’un des créateurs de l'application, surnommé Alberto, a déclaré à Motherboard que cet algorithme ne visait que les femmes car internet regorge plus de nudes féminins que masculins. Des arguments jugés faciles et peu convainquants.
Le 27 juin, l’application annonçait sa fermeture, avec un message posté sur Twitter :
"Voici la brève histoire, et la fin de DeepNude. Nous avons créé ce projet pour le divertissement des utilisateurs il y a quelques mois. Nous pensions faire quelques ventes par mois, de façon contrôlée. […] Malgré la mesure de sécurité mise en place (les filigranes), si 500 000 personnes utilisent l’application, la probabilité que les gens en fassent un mauvais usage est trop grande. Nous ne voulons pas nous faire de l’argent de cette façon."
En effet, la version gratuite de DeepNude barrait les photos d’une bande en filigrane affichant les mots "fake nude". Mais la version payante (à 90 dollars), cette information était plus discrète : le mot "fake" apparaissait seulement dans un coin de l’image, ce qui était facile à faire disparaître en recadrant la photo. Tout cela, signifie que le harcèlement virtuel des femmes deviendrait plus facile à mettre en place, ce qui aurait eu de graves conséquences.
Le 27 juin, l’application annonçait sa fermeture, avec un message posté sur Twitter :
"Voici la brève histoire, et la fin de DeepNude. Nous avons créé ce projet pour le divertissement des utilisateurs il y a quelques mois. Nous pensions faire quelques ventes par mois, de façon contrôlée. […] Malgré la mesure de sécurité mise en place (les filigranes), si 500 000 personnes utilisent l’application, la probabilité que les gens en fassent un mauvais usage est trop grande. Nous ne voulons pas nous faire de l’argent de cette façon."
En effet, la version gratuite de DeepNude barrait les photos d’une bande en filigrane affichant les mots "fake nude". Mais la version payante (à 90 dollars), cette information était plus discrète : le mot "fake" apparaissait seulement dans un coin de l’image, ce qui était facile à faire disparaître en recadrant la photo. Tout cela, signifie que le harcèlement virtuel des femmes deviendrait plus facile à mettre en place, ce qui aurait eu de graves conséquences.
Une loi contre la diffusion de faux montages ?
L’auteur d’un acte de « revenge porn » peut être cité devant un Tribunal Correctionnel et encourir une peine de prison. (C) Ramdlon
En effet, la loi française interdit l’utilisation et la diffusion de faux montages pornographiques, si la personne sur les photos n'a pas donné son consentement. Dans l’article 226-8 du Code pénal, on lit que c’est passible d’un an d’emprisonnement et 15 000 euros d’amende, sauf s’il "apparaît à l’évidence qu’il s’agit d’un montage ou s’il en est [fait] expressément fait mention".
DeepNude l'application qui peut détruire des vies.mp3 (4.44 Mo)
Encore des prix
