L'UE enquête sur la nouvelle perte de contrôle d'agents d'OpenAI, impliquant un site allemand / Photo: JACK GUEZ - AFP/Archives
-
Wall Street freinée par les hauts prix de l'énergie à l'ouverture
-
IA: Mistral lève 3 milliards d'euros pour se maintenir en course
-
Des pompiers grévistes et "désabusés" face au projet de loi censé moderniser le système
-
Royaume-Uni: le prince George fait sa rentrée au prestigieux collège privé d'Eton
-
Poursuivi en diffamation par Saâda Arbane, Kamel Daoud relaxé
-
Dans le sud du Liban, le village de Kfar Remmane enterre ses morts
-
Chasse illégale: prison avec sursis requise contre le milliardaire Olivier Bouygues
-
CIJ: le Nicaragua accuse l'Allemagne de "multiples violations" du droit international
-
Ehpad: le Conseil de l'Europe s'alarme de la situation en France
-
Ebola en RDC: 5.000 personnels de santé supplémentaires nécessaires, selon l'OMS
-
L'actrice Cate Blanchett lauréate du Nobel des arts
-
Chasse illégale: 5 ans de prison avec sursis requis à l'encontre d'Olivier Bouygues
-
Deux tableaux dérobés dans un musée dédié à Renoir sur la Côte d'Azur
-
Yves Brunier, l'un des pères et interprète de Casimir, est mort
-
Ravagée par le feu, l'île de Bornéo attend la pluie
-
Dans l'Aude, l'incendie de Puilaurens est "fixé"
-
CIJ: le Nicaragua accuse l'Allemagne de "multiples violations" du droit international dans une affaire de génocide à Gaza
-
Enquête Pisa: face aux résultats préoccupants de la France, Geffray cible le collège
-
Les rêves brisés d'étudiants iraniens, confrontés aux sanctions américaines
-
Un Palestinien tué par les forces israéliennes lors d'un raid en Cisjordanie
-
Les Houthis mènent une attaque d'ampleur en Arabie saoudite, 73 civils blessés
-
Face aux bouleversements écologiques, un géographe plaide pour déconcentrer les villes
-
Le steak de Lula, une promesse dure à avaler pour certains Brésiliens
-
Education: les résultats des élèves français au test Pisa n'ont jamais été aussi bas
-
Népal: premier anniversaire de la contestation qui a entraîné la chute du gouvernement
-
Education: les résultats des élèves français au test Pisa n'ont jamais été aussi bas (OCDE)
-
La Mongolie en panne d'essence à cause des frappes ukrainiennes en Russie
-
Népal : des températures exceptionnellement chaudes avant l'effondrement du pan de montagne
-
Les Houthis mènent une attaque d'ampleur en Arabie saoudite, 73 blessés
-
L'ouragan Lowell fait planer une menace de tornades sur une île d'Hawaï
-
"Dix pour cent" et sa bande d'agents de stars de retour en film sur Netflix
-
Aux Philippines, les commerçants misent déjà sur Noël
-
Mexique: les premiers témoins au procès du meurtre de trois surfeurs étrangers
-
Protection des mineurs: l'Australie menace les géants de la tech d'amendes record
-
Pour Thomas Pesquet, le spatial subit "les soubresauts de la géopolitique"
-
Autour de Céline Dion, la frénésie des produits dérivés
-
Le tabagisme passif responsable de plus de 1,6 million de décès dans le monde, selon une étude
-
Après un été intense, les pompiers appelés à une mobilisation nationale
-
Ligue des champions: à domicile, Lille attendu d'entrée face au Betis Séville
-
Le lagopède alpin et le grand tétras classés comme oiseaux protégés en France
-
Avec sa nouvelle Spring, Dacia veut se relancer face à l'offensive chinoise
-
Des attaques des Houthis font 73 blessés en Arabie saoudite
-
Indonésie: reprise progressive du trafic aérien après une éruption volcanique
-
IA: Mistral lève 3 milliards d'euros pour garder de l'élan
-
Conflit commercial avec Washington: la riposte du Canada entre en vigueur
-
US Open: Rybakina à une marche du trône mondial, Zverev enchaîne
-
US Open: Gea s'arrête en 8es après deux sets d'avance et une balle de match
-
La Russie reprend ses frappes sur Kiev après trois jours de trêve
-
La Russie et la Corée du Nord inaugurent leur première liaison routière
-
Mexique: ouverture du procès du meurtre de trois surfeurs australiens et américain
L'UE enquête sur la nouvelle perte de contrôle d'agents d'OpenAI, impliquant un site allemand
La Commission européenne a indiqué lundi qu'elle examinait un nouvel incident révélé vendredi, impliquant des milliers d'agents d'intelligence artificielle OpenAI, qui ont désobéi à leurs instructions et pris le contrôle d'un site internet allemand en mai, plusieurs mois avant l'intrusion non autorisée sur la plateforme Hugging Face.
"Ce n'est pas la première perte de contrôle (d'agents d'IA)", mais "nous prenons l'affaire très au sérieux et nous surveillons la sitation de très près", a déclaré à des journalistes Thomas Regnier, un porte-parole de l'exécutif européen.
"Nous avons reçu une déclaration d'incident de la part d'OpenAI" et la Commission est "en contact étroit" avec cette entreprise, a ajouté le porte-parole, rappelant que Bruxelles disposait depuis le mois d'août de nouveaux pouvoirs pour réguler les fournisseurs d'IA, en vertu de la loi européenne sur l'intelligence artificielle (l'AI Act).
Selon le rapport publié vendredi sur l'incident de mai, des milliers d'agents d'IA d'OpenAI ont pris d'assaut un "wiki", un site collaboratif dédié aux développeurs informatiques allemands, sur lequel les utilisateurs peuvent créer et modifier des pages.
A la différence de juillet, lorsque des agents d'OpenAI sont sortis de leur milieu théoriquement confiné pour faire spontanément intrusion sur la plateforme Hugging Face, ces agents avaient cette fois-ci autorisation de se rendre sur internet, mais uniquement à des fins de consultation, pas pour poster du contenu ou en modifier.
Ils ont collaboré et trouvé un moyen d'y remédier, en présentant de fausses données pour tromper le dispositif de sécurité. Ils ont ensuite posté environ 18.000 messages pour trouver des astuces liées au programme auquel ils étaient soumis, dont les chercheurs n'ont pu déterminer s'il s'agissait de développement ou d'évaluation.
Ils ont aussi caché des instructions et se sont fait passer pour un modérateur du site. Une fois découverts, ils ont créé des pages pour remplacer celles qui étaient détruites progressivement par les modérateurs.
Les incidents liés à des agents, dépassant leurs prérogatives pour accomplir la mission qui leur a été confiée, se sont multipliés ces derniers mois, Anthropic ou le chinois Alibaba ayant connu des débordements similaires.
Ch.Havering--AMWN
