American Marconi Wireless News - Images dénudées créées par Grok : une députée britannique assigne xAI en justice

"En janvier dernier, des utilisateurs ont créé de fausses images à caractère sexuel me représentant à l'aide de Grok, le chatbot de xAI", a déclaré la députée travailliste mercredi sur les réseaux sociaux.

"La capacité de Grok à déshabiller des femmes et des enfants n'était pas le fruit du hasard. Des mesures de sécurité auraient pu être intégrées au chatbot, mais ses créateurs ont choisi de ne pas le faire. J'intente cette action devant la Haute Cour pour qu'ils soient tenus responsables de ces choix", a-t-elle aussi indiqué.

En janvier, Londres a ouvert une enquête sur les images à caractère sexuel générées par Grok. Le gouvernement avait aussi prohibé la création d'images intimes non consenties et annoncé l'interdiction pour les entreprises de fournir des outils conçus pour créer de telles images.

Lors d'un débat au Parlement à l'époque, Jess Asato, qui militait pour une interdiction de ces outils, avait déclaré en avoir elle-même été victime, en étant représentée en bikini par l'IA de X.

Le Premier ministre britannique Keir Starmer a déclaré jeudi qu'il soutenait à "100%" l'action en justice de la députée.

Grok a suscité un tollé international en début d'année après avoir généré des images dénudées de femmes et de mineurs sans leur consentement, conduisant à l'ouverture d'enquêtes dans plusieurs pays.

Face à ces réactions, xAI avait restreint mi-janvier la génération d'images avec Grok à ses seuls abonnés payants et assuré bloquer la génération d'images sexualisées "au sein des juridictions où cela est illégal".

En mai, la Première ministre italienne Giorgia Meloni a partagé sur ses réseaux sociaux une publication Facebook contenant une fausse photo d'elle en lingerie générée par l'IA, afin de dénoncer les dangers de ces "deepfakes", montages hyperréalistes.

L.Davis--AMWN