L’Association e-Enfance/3018 alerte sur les dangers des deepfakes à caractère sexuel.

Une enquête a été ouverte après qu’une douzaine de collégiennes ont été victimes de deepfakes à caractère sexuel, c’est-à-dire des montages d’images truquées les représentant dans des situations intimes (deepnude). Une enquête a été ouverte par le parquet de Coutance dans la Manche.

Cette affaire met en lumière un phénomène en pleine explosion. Ces contenus à caractère sexuel sont générés grâce à des logiciels d’intelligence artificielle, facilement accessibles, à l’insu des personnes concernées. Les victimes, souvent des jeunes filles, se retrouvent exposées sur les réseaux sociaux, harcelées, et victimes de chantage pour obtenir d’autres photos ou d’autres faveurs, comme de l’argent ou des rapports sexuels

Les deepnudes et la vulnérabilité des jeunes

Avec la généralisation des outils d’intelligence artificielle, il devient de plus en plus facile de produire des contenus truqués. Le face swap consiste à intégrer le visage de la victime sur le corps d’une personne dénudée dans une vidéo ou à une photo à caractère pornographique en quelques secondes, avec peu de compétence technique. Les conséquences de ces manipulations de l’image pour les victimes ne sont pas anodines : isolement, anxiété, perte de confiance en soi. 

 L’Association e-Enfance/3018 est en première ligne pour accompagner les victimes de ces deepnudes et lutter contre la diffusion de ces contenus préjudiciables et humiliants sur les réseaux sociaux et les sites pornographiques.

C’est ce qu’a rappelé Samuel Comblez, Directeur général adjoint de l’Association e-Enfance et Directeur du 3018, interrogé par La Presse de la Manche :

 « Par exemple, un jeune nous appelle après qu’une photo à caractère sexuel de lui, vraie ou fausse, a été publiée sur les réseaux sociaux. Le signalement qu’il a fait auprès des plateformes ne donne rien. Nous faisons alors remonter le signalement au nom de l’association. Dans la plupart des cas, le contenu, voire le compte, est supprimé en quelques minutes. Dans 95 % des cas, nos demandes sont prises en compte. Nous sommes les seuls à avoir cette véritable capacité d’agir en France. »

Les bons réflexes à adopter face aux deepnudes et autres contenus truqués :

• Se méfier des images et des vidéos, même si elles paraissent authentiques. Prendre le temps d’observer les détails pouvant révéler une manipulation (visages figés, mouvements incohérents, décalage entre le son et l’image). 
• Ne jamais partager un contenu sans avoir vérifié sa source et sa fiabilité.
• Limiter la diffusion d’informations personnelles et de photos sur les réseaux sociaux afin de réduire les risques d’usurpation d’identité ou d’exploitation de son image.
• Mettre son compte en privé et contrôler la liste de ses abonnés pour mieux protéger ses contenus et limiter l’accès aux personnes de confiance uniquement.
• Signaler immédiatement tout contenu choquant ou illicite sur les plateformes concernées, et si besoin, contacter le 3018 pour obtenir de l’aide et demander la suppression rapide des contenus.

Le 3018, un soutien clé pour les jeunes victimes

Le 3018 reçoit en moyenne 500 appels par jour. La moitié concerne la nudité et la sexualité. Derrière chaque appel, ce sont des situations qui nécessitent une écoute bienveillante et une action rapide. Le contact avec nos équipes est le premier pas pour faire cesser la diffusion des contenus et retrouver un sentiment de sécurité.