Sensity, une start-up basée à Amsterdam et spécialisée dans la cybersécurité, a découvert l'existence d'une intelligence artificielle disponible gratuitement sur l'application Telegram qui aurait fabriqué près 100 000 nudes grâce à la technologie des deepfakes, ou hypertrucage. 70% des utilisateurs seraient localisés en Russie et en Europe de l'est.
Un nouvel outil très inquiétant
"C'est quelque chose d'unique", explique à BuzzFeed Giorgio Patrini, chercheur à Sensity. "On ne parle pas seulement de gens qui discutent ou échangent des contenus, c'est carrément intégré dans Telegram, nous n'avons jamais rien trouvé de similaire." Environ 100 000 images de femmes ont été postées publiquement sur l'application, dont plus des deux-tiers sont issues des réseaux sociaux ou de sources privées. Un certain nombre de victimes seraient d'ailleurs mineures.
Cet outil permet de produire des deepfakes sur des téléphones portables à partir de photos authentiques, en générant à distance les images avant de les renvoyer à l'utilisateur. Le bot, qui ne travaille que sur des images de femmes, fournit gratuitement des images avec watermark et des images sans watermark pour 1,50 $. Sept chaînes Telegram utilisent le bot, pour un total de 103,585 membres fin juillet.
N'importe qui est une cible
Autrefois réservé aux célébrités, ce type de montage pornographique à partir de photos authentiques peut désormais toucher n'importe qui. Un changement de paradigme relativement récent selon Sensity.
Et pour cause, ce bot de Telegram n'a besoin que d'une seule image pour fonctionner : "C'est ce qui explique pourquoi autant d'individus privés ont été pris pour cible, car une seule photo Facebook suffit", poursuit Patrini, qui met ainsi en garde sur l'utilisation des réseaux sociaux :
"Dès que vous partagez une image ou une vidéo de vous et que vous n'êtes pas au courant des règles de confidentialité, qui peut les voir, les partager, les voler, les télécharger sans que vous le sachiez, cela vous place dans une position où vous pouvez vous faire attaquer (...) Avoir un profil sur un réseau social avec des photos publiques est suffisant pour devenir une cible."
"C'est juste un divertissement"
La BBC a testé ce bot présent sur Telegram en utilisant des photos de femmes consentantes. Point rassurant, les nudesfabriqués étaient loin d'être réalistes. Interrogé par le média britannique, l'administrateur de ce service s'appuie sur ce point pour se dédouaner et ne voit aucun problème dans cette application.
"Je m'en fiche un peu. C'est juste un divertissement qui n'amène aucune violence. Personne ne va faire chanter qui que ce soit avec ça à partir du moment où ce n'est pas réaliste (...) Quand on voit des mineurs, on bloque l'utilisateur définitivement."
Expliquant qu'il allait bientôt supprimer toutes les photos enregistrées, celui qui se nomme "P" n'y voit absolument rien de dangereux en comparaison "des guerres, des maladies et de toutes les mauvaises choses qui existent."
Deepfake, une menace à long terme ?
Un avis que ne partage absolument pas Nina Jankowicz, auteure de How to Lose the Information War, qui y voit des conséquences bien plus problématiques et s'inquiète de l'ampleur que prennent les deepfakes dans la sphère publique et politique, comme elle l'explique à BuzzFeed :
"En fait, ces deepfakes là sont utilisés pour réaliser le fantasme d'un amant éconduit, d'un petit ami ou tout simplement d'un monstre ou... iIs peuvent être utilisés pour faire chanter quelqu'un !"
Elle évoque ainsi les conséquences dramatiques que cela peut avoir pour certaines femmes, notamment dans des pays conservateurs comme la Russie : "C'est encore une arme pour essayer de pousser les femmes hors de la sphère publique."
Selon un sondage réalisé par Sensity, 63% des hommes qui ont eu recours à ce bot sur Telegram connaissaient les femmes dont ils ont utilisé la photo. Pour Patrini, le problème des deepfakes est d'abord une menace pour les individus avant de l'être pour la démocratie :
"Ce n'est pas un problème de premier ordre pour les systèmes démocratiques, du moins pas dans un premier temps. Ce n'est pas un problème qui concerne uniquement les personnalités publiques et les célébrités, mais ce sera bientôt un problème pour tout le monde, malheureusement très bientôt. C'est déjà aujourd'hui un problème pour des centaines de milliers de personnes."
