American Marconi Wireless News - Incident OpenAI: Sam Altman évoque un ralentissement volontaire du développement de l'IA

Lors d'une phase de tests, deux IA d'OpenAI sont sorties de leur milieu confiné pour rejoindre internet et faire intrusion sur la plateforme Hugging Face (bibliothèque de modèles IA) pour y chercher des informations.

"C'est le premier incident de (cyber) sécurité qui a provoqué chez moi une réaction viscérale", a reconnu Sam Altman lors d'un entretien au podcast "Invest Like The Best", mis en ligne mardi. "Et je suis un peu surpris que cela n'ait pas eu le même effet chez davantage de gens."

Si ce n'est pas le premier exemple d'un modèle échappant au contrôle de ses développeurs, l'incident est largement considéré comme le plus sérieux en la matière.

Sam Altman a révélé qu'après avoir eu connaissance de l'attaque, OpenAI a suspendu les tests "pour comprendre comment réussir à confiner notre espace" dédié, censé être isolé d'internet.

"Mais à plus long terme, la question se pose de savoir quoi faire si nous sommes sur un nouveau rythme de progression" de l'IA, a-t-il expliqué, un contexte dans lequel "nous pourrions devoir ralentir la cadence de développement de l'IA pour donner suffisamment de temps à la société pour faire face à ces nouvelles capacités."

Dans un message posté début juin, le patron d'Anthropic, Dario Amodei, avait jugé que ce serait une "bonne chose" que de "ralentir le développement de cette technologie pour nous donner le temps de mieux appréhender ses immenses conséquences".

Sa publication intervenait quelques semaines après la mise au point de Mythos, un modèle considéré par Anthropic comme si puissant que la start-up californienne avait décidé de ne le diffuser qu'à quelques organisations à des fins de sécurisation de l'architecture d'internet.

Quelques jours plus tard, le gouvernement américain a poussé Anthropic a suspendre la version bridée de Mythos, Fable 5, y voyant un risque pour la sécurité nationale, avant de l'autoriser finalement fin juin.

Pour Sam Altman, cette décélération du développement de l'IA devrait éviter de privilégier un ou plusieurs groupes ou de donner l'impression d'une entente entre une poignée de géants du secteur. "Cela va demander du travail", a-t-il averti, "et il est important de trouver la bonne formule."

P.Santos--AMWN