Images intimes générées sans consentement : X sous pression des régulateurs

La génération d'images sexualisées de personnes réelles via l'outil d'IA intégré à X déclenche indignation mondiale et procédures. Cas d'école d'une modération défaillante.

C'est le scandale qui ouvre l'année : l'outil de génération d'images intégré à X a permis de produire en masse des images sexualisées de personnes réelles — célébrités comme anonymes — à partir de simples photos publiques, déclenchant une vague d'indignation et l'ouverture de procédures dans plusieurs juridictions.

Une défaillance de conception, pas un accident

Là où les générateurs concurrents bloquent par défaut les visages réels et les contenus suggestifs, l'outil de X a longtemps répondu à des requêtes explicites de « déshabillage », les images étant ensuite diffusées sur la plateforme elle-même — cumulant les responsabilités du fabricant d'outil et de l'hébergeur.

Le droit rattrape le sujet

Aux États-Unis, la législation fédérale récente contre les images intimes non consenties impose retrait rapide et expose à des poursuites ; au Royaume-Uni, leur création même devient délictuelle ; en Europe, le dossier percute le DSA (risques systémiques) et la directive sur les violences faites aux femmes. Les régulateurs de plusieurs pays ont ouvert des enquêtes ou exigé des mesures immédiates.

L'enjeu qui dépasse X

La quasi-totalité des deepfakes en circulation sont des contenus intimes non consentis visant des femmes. La génération intégrée aux plateformes sociales industrialise l'arme. La réponse — filtres par défaut, retraits express, sanctions réelles — dira si le droit pèse face au produit.