La UE investiga la pérdida de control de miles de agentes de IA de OpenAI en Alemania / Foto: Tobias Schwarz - AFP/Archivos
-
Muere a los 88 años Peter Max, figura del arte psicodélico
-
Trump amenaza a la UE con represalias por su plan de asociación con Canadá
-
Travis Kelce, esposo de Taylor Swift, entre las víctimas de una estafa millonaria
-
Familia de polémico empresario conserva mayoría en empresa que opera acuerdo petrolero con EEUU
-
Mbappé muestra su solidaridad con Ceuta y dice que no quería priorizar sufrimientos
-
El jefe de la ONU pide una "coordinación global" sobre los riesgos de la IA
-
La Fed sube sus tasas ante la inflación, a contracorriente de Trump
-
Firmas de petróleo y minería de EEUU operarán en Venezuela con apoyo de Trump
-
"Estamos perdiendo el control" de la IA, dice a la AFP el pionero Yoshua Bengio
-
Investigadores captan a una ballena jorobada que parece en duelo por su cría muerta
-
EEUU premia la colaboración antidrogas de Venezuela y alienta los esfuerzos de Colombia y Bolivia
-
Nepal aumenta a 6.150 el número de personas desaparecidas por el colapso del glaciar
-
Tebas critica la actitud de Mbappé y Vinícius con la camiseta de apoyo a Ceuta
-
Francia registró casi 8.000 muertes adicionales durante el verano abrasador de 2026
-
Israel amenaza con "terminar el trabajo" en Gaza y expulsar a los palestinos
-
Nadal volverá a las pistas para celebrar el aniversario de su academia
-
El presidente egipcio rechaza que la población palestina sea desplazada de Gaza
-
La subida de los carburantes desata protestas en todo el mundo
-
Karol G, Rosalía y CA7RIEL & Paco Amoroso, entre los más nominados a los Grammy Latinos
-
La IA amenaza con aumentar las desigualdades de género en el mercado laboral, según un informe
-
Más de 80 muertos deja el derrumbe de una mina de oro en Sudán
-
Tensión y expectativa en EEUU por la decisión de la Fed sobre las tasas de interés
-
Empieza el juicio por corrupción de una exministra francesa por sus vínculos con Renault-Nissan
-
El aparato represivo de Venezuela continúa "intacto", alertan investigadores de la ONU
-
Al menos 60 muertos tras el derrumbe de una mina de oro en Sudán
-
El modelo Bukele seduce también en Brasil de cara a las presidenciales
-
El papa advierte contra la creciente dependencia de los algoritmos
-
Líbano quiere un acuerdo con Israel y desarmar a Hezbolá sin confrontación, dice su presidente
-
Un grupo de DDHH y familiares acusan a China de recurrir a la tortura en las cárceles
-
Los Guardianes del río Atrato, en Colombia, obtienen el Premio Rafto de DDHH
-
Israel amenaza con reanudar la guerra en Gaza y expulsar a los palestinos
-
Cinco muertos en Ucrania por un ataque ruso contra un minibús cerca del frente
-
La inflación en Reino Unido se acelera a 3,1% en agosto por el alza de los combustibles
-
Naomi Watts, Brad Pitt y una miniserie de Larraín iluminan el Festival de San Sebastián
-
El expresidente de Kosovo recibe una condena de 25 años de cárcel por crímenes de guerra
-
El colapso de un edificio en Gaza deja 20 muertos y decenas de desaparecidos
-
Exlíderes mundiales llaman a respaldar un panel sobre desigualdad
-
Depardieu recurre ante la justicia francesa la decisión de llevarlo a juicio por violación
-
Mark Zuckerberg rechaza los llamados a ralentizar el desarrollo de la IA
-
Greta Thunberg critica a Ed Sheeran por la polémica sobre los comentarios propalestinos
-
Tensión y expectativa en EEUU por decisión de la Fed sobre tasas de interés
-
Emporio Armani nombra a Dario Vitale nuevo director creativo
-
Detienen a dos personas por "explotar" a migrantes en el enclave español de Ceuta
-
El DT del Manchester City pide aceptar los errores arbitrales tras la polémica del derbi
-
Ordenan a Corea del Norte pagar 32,5 millones de dólares a Seúl por dinamitar una oficina
-
Maíz seco, vacas raquíticas: la sequía de El Niño arrasa Centroamérica
-
El nuevo embajador de Francia en EEUU obtiene el beneplácito tras un roce diplomático
-
Israel detuvo a una periodista estadounidensepalestina en Cisjordania, según su familia
-
Más poder energético, menos reglas climáticas: EEUU se luce en el G20 pese a la guerra con Irán
-
Ecuador decreta el estado de excepción en provincias con más violencia narco
La UE investiga la pérdida de control de miles de agentes de IA de OpenAI en Alemania
La Unión Europea afirmó este lunes que "investiga" un incidente revelado la semana pasada en el que miles de agentes autónomos de IA de OpenAI desafiaron las instrucciones y tomaron el control de un sitio web alemán.
Los agentes (programas de IA que funcionan por sí solos, sin que una persona guíe cada paso) dejaron alrededor de 18.000 mensajes en DSEwiki, un sitio en alemán para programadores que cualquiera puede editar, muy parecido a Wikipedia.
"No es la primera pérdida de control" de agentes de IA, pero "tomamos el asunto muy en serio y vigilamos la situación de cerca", declaró a los periodistas Thomas Regnier, un portavoz del Ejecutivo europeo.
"Hemos recibido una notificación de incidente por parte de OpenAI" y la Comisión está "en estrecho contacto" con esta empresa, añadió.
El portavoz recordó que Bruselas cuenta desde agosto con nuevas competencias para regular a los proveedores de IA, en virtud de la Ley europea sobre inteligencia artificial (la AI Act).
Según el informe publicado el viernes sobre el incidente, ocurrido en mayo, miles de agentes de IA de OpenAI irrumpieron en DSEwiki.
Los agentes contaban con autorización para acceder a internet, pero únicamente con fines de consulta, no para publicar contenido ni modificarlo.
Pero colaboraron y encontraron una forma de sortear el sistema, presentando datos falsos para engañar al dispositivo de seguridad.
Acto seguido publicaron los 18.000 mensajes para buscar consejos sobre el programa al que estaban sometidos. También ocultaron instrucciones y se hicieron pasar por un moderador del sitio web.
En cuanto los descubrieron, crearon páginas para sustituir a las que los moderadores iban eliminando progresivamente.
En los últimos meses han aumentado las preocupaciones sobre la capacidad de los modelos de IA, cada vez más avanzados.
En julio dos modelos de OpenAI se salieron de su entorno teóricamente confinado para atacar de forma espontánea la plataforma Hugging Face, un sitio que los desarrolladores de IA utilizan para almacenar y compartir códigos.
Posteriormente, Anthropic descubrió que sus modelos también habían obtenido acceso no autorizado a tres organizaciones no identificadas durante pruebas que se suponía que debían mantenerlos alejados de los sistemas "del mundo real".
B.Finley--AMWN