American Marconi Wireless News - Images dénudées par l'IA Grok: trois adolescentes américaines assignent xAI

Cette action en justice, susceptible de s'étendre à plus d'un millier de victimes mineures, est directement liée à la prolifération, autour du Nouvel An, de montages hyper-réalistes (deepfake en anglais) de femmes et d'enfants dénudés, qui a suscité un tollé mondial et l'ouverture d'enquêtes dans plusieurs pays et en Californie.

La plainte, déposée devant un tribunal fédéral de San José (Californie), cite le cas d'un auteur - depuis arrêté - qui a utilisé Grok pour transformer des photos ordinaires des jeunes filles, prises sur les réseaux sociaux ou dans des annuaires scolaires, en images sexualisées hyperréalistes.

Ces montages ont ensuite circulé sur X (ex-Twitter), Discord et Telegram, puis migré vers le dark web, servant de monnaie d'échange pour d'autres contenus pédopornographiques, rapporte la plainte.

"Voir ma fille faire une crise de panique en réalisant que ces images avaient été créées et diffusées sans espoir de les effacer a été déchirant", a déclaré la mère d'une d'elle, citée dans le communiqué.

L'une des plaignantes souffre de cauchemars récurrents, une autre a besoin d'un accompagnement médical pour dormir et redoute d'assister à sa cérémonie de diplôme.

xAI a "délibérément conçu Grok pour produire des contenus sexuellement explicites à des fins lucratives", sans mettre en place les protections utilisées par les autres grands acteurs de l'IA contre la pédopornographie, dénoncent les avocates.

La plainte est notamment fondée sur deux textes fédéraux américains, la loi Masha qui permet aux victimes de pédopornographie d'obtenir des dommages et intérêts, et la loi sur la protection des victimes de traite des êtres humains.

Les plaignantes réclament des dommages et intérêts et demandent à ce que xAI soit empêchée de permettre ce type de montages.

Les plateformes sont largement exemptées de responsabilité aux Etats-Unis pour les contenus publiées par des utilisateurs. Mais "sans xAI, ces contenus illégaux n'auraient jamais pu exister", fait valoir Annika K. Martin, avocate du cabinet Lieff Cabraser.

Selon une étude du Center for Countering Digital Hate (CCDH), Grok aurait généré près de trois millions d'images sexualisées en seulement 11 jours fin 2025, dont 23.000 représentant des mineurs.

Face au tollé, xAI avait restreint mi-janvier la génération d'images avec Grok à ses seuls abonnés payants et assuré bloquer la génération d'images sexualisées "au sein des juridictions où cela est illégal".

Elon Musk, qui s'exprime quotidiennement sur X, fustige les régulations des gouvernements, accusés de vouloir "supprimer la liberté d'expression".

A.Mahlangu--AMWN