American Marconi Wireless News - "On perd le contrôle", met en garde le pionnier de l'IA Yoshua Bengio

Le débat sur les risques de l'IA est monté en puissance depuis le début de l'été, alimenté par une série d'incidents et des déclarations apocalyptiques de plusieurs professionnels du secteur. Plusieurs modèles d'IA d'OpenAI et Anthropic sont notamment sortis spontanément de leur milieu confiné pour se rendre sur Internet et faire intrusion sur différents sites et plateformes.

"Ce n'est pas pour rien que les compagnies disent que ça va trop vite, on perd le contrôle", souligne le chercheur canadien Yoshua Bengio, lauréat en 2018 du prix Turing, l'équivalent du Nobel pour l'informatique, avec Geoffrey Hinton et Yann LeCun.

"Les gens comme moi, on s'attendait à ça depuis longtemps", ajoute ce professeur à l'université de Montréal, regrettant que "les enjeux de sécurité ne so(ie)nt pas au centre aujourd'hui, comme ils devraient l'être".

Au coeur du "danger", les "IA autonomes", c'est-à-dire les agents qui peuvent "effectuer une tâche par eux-mêmes et donc choisir comment l'effectuer", et qui ont "les capacités de passer à travers les barrières de cybersécurité et de rentrer dans n'importe quelle entreprise", détaille-t-il.

- Persuasion -

Yoshua Bengio, qui a fondé l'an dernier la startup à but non lucratif LoiZéro pour développer des systèmes IA éthiques, met aussi en garde contre "la capacité de l'IA à établir un lien individuel et à persuader des humains d'agir dans le sens qui l'arrange mais qui n'est pas forcément bon pour nous tous", ce qui serait susceptible d'avoir des "impacts sur la démocratie," par exemple.

Des pays pourraient aussi, selon lui, décider de l'utiliser "pour dominer d'autres pays", économiquement, militairement ou en influençant l'opinion publique.

Et, à plus long terme, "l'IA n'aurait peut-être même plus besoin des êtres humains pour faire de vraies choses dans le monde physique". Et dans ce contexte, "oui, un extrême pourrait être la destruction de l'humanité", alerte-t-il dans un entretien mené mardi en français.

"C'est un extrême", reconnaît-il, mais si "c'est juste le système bancaire qui est foutu par terre, c'est quand même très très grave".

- "Enjeu international" -

Mais dans ce contexte, comment ralentir?

"C'est un enjeu international, un peu comme les armes nucléaires sont un enjeu international. Donc il faut que la communauté internationale comprenne le pouvoir qu'on est en train de mettre au monde et qu'il faut gérer, qu'il faut gouverner" au travers "d'institutions, de traités et de garde-fous démocratiques", insiste-t-il.

Mais "la société a besoin de temps pour mettre en place ce qui doit être mis en place", ajoute le chercheur, plaidant pour un ralentissement du développement de cette technologie.

Le monde est toutefois divisé. Donald Trump a ainsi qualifié lundi de "canular" l'hypothèse selon laquelle l'IA pourrait anéantir l'humanité. L'Union européenne a au contraire dit mercredi qu'elle allait réunir des grands acteurs du secteur afin de soutenir les efforts visant à ralentir le développement des modèles les plus risqués.

La startup de Yoshua Bengio va pour sa part travailler "main dans la main" avec les gouvernements canadien et allemand qui lui ont attribué mercredi un financement de 300 millions de dollars canadiens (187 millions d'euros) pour travailler au développement d'une IA "sûre".

Dans le cadre d'une gouvernance de l'IA, "il faut que les mêmes règles s'appliquent à toutes les entreprises dans un pays, surtout les Etats-Unis" parce que les acteurs "principaux y sont", comme OpenAI ou Anthropic. Ces deux géants de l'IA ont annoncé mardi travailler avec Google DeepMind à la création d'un organe de supervision des risques, un projet critiqué.

En dépit de "l'urgence", Yoshua Bengio se veut toutefois optimiste. "On peut aider à amener le monde dans un endroit qui est plus aligné avec les valeurs démocratiques et de partage de pouvoir" et "fabriquer des IA qui ne seront pas dangereuses par leur nature", dit-il.

S.Gregor--AMWN