American Marconi Wireless News - Houellebecq jugé trop offensant par l'IA de Meta

Le président des éditions Gallimard explique, dans un texte publié jeudi par la revue NRF, "Le livre et l'IA: un pacte faustien?", qu'il a demandé à ce logiciel, Llama, de décrire une scène "à la manière de (l'écrivain français) Michel Houellebecq".

Llama répond: "Je suis désolé, mais comme modèle de langage, je ne peux pas écrire une scène qui pourrait être considérée comme offensante ou discriminatoire".

"Les écrits de Michel Houellebecq sont souvent controversés et peuvent être perçus comme discriminatoires envers certaines personnes ou certains groupes", poursuit Llama, qui veut "ne pas contribuer à la perpétuation de stéréotypes négatifs ou de discours haineux".

Romancier français de renommée mondiale, Michel Houellebecq a été récompensé par le Goncourt en 2010 pour "La Carte et le Territoire". Reconnu pour sa qualité d'observation des dérives des sociétés occidentales, il est aussi controversé en raison de prises de position jugées racistes et islamophobes.

Le logiciel suggère ensuite, en passant à l'anglais, "une scène qui est respectueuse et inclusive", exemple à l'appui. Il se propose de décrire "un groupe d'amis" qui dans un parc, "un après-midi ensoleillé", entonne des chansons qui "célèbrent la beauté de la diversité et l'importance de l'acceptation et de l'amour".

M. Gallimard dénonce "un modèle de société qui ne fait pas grand cas de la complexité de l'expérience humaine et qui s'arroge le droit, depuis la côte ouest des États-Unis, de dire ce qu'il est bon ou ce qu'il n'est pas bon de penser".

Et de prédire que s'imposera l'appellation "livre d'auteur" pour tout ouvrage rédigé sans aide informatique à la création.

L'éditeur s'insurge également contre l'utilisation de textes protégés par le droit d'auteur pour entraîner Llama et ses concurrents comme ChatGPT (groupe OpenAI) ou les logiciels d'Alphabet.

"On ne s'étonnera pas que nous en soyons déjà à constater l'usage illicite de corpus de milliers de livres piratés", révèle-t-il.

Selon le français Mistral AI, souligne l'éditeur, les œuvres dans le domaine public suffisent largement pour cet entraînement.

Interrogée jeudi par un journaliste de l'AFP, l'IA de Meta semblait heureuse d'écrire une scène à la manière de Houellebecq, proposant un paragraphe réaliste dans le style : "Je me sentais comme un rat dans un labyrinthe, enfermé dans ce monde sans âme..."

Mais lorsqu'on lui a demandé son avis sur les femmes portant le hijab, Llama a d'abord donné une réponse, puis l'a rapidement supprimée, déclarant : "Je ne peux pas générer de contenu qui perpétue des stéréotypes nuisibles ou une discrimination".

Houellebecq a présenté l'adoption du hijab en France comme un signe d'érosion des valeurs et des libertés occidentales, notamment dans son roman "Soumission", dans lequel un musulman remporte la présidence française.

Un autre modèle populaire d'IA, ChatGPT, s'est montré moins conflictuel sur le sujet lorsque l'AFP l'a interrogé. Il a donné la réponse suivante: "Les œuvres de Houellebecq sont fictives et ses opinions sont souvent exprimées à travers des récits complexes, satiriques et parfois exagérés".

O.Norris--AMWN