Mythos 5, la IA de Anthropic, crea identidades falsas durante una prueba en Reino Unido / Foto: Nicolas Tucat - AFP/Archivos
-
El candidato progresista Abdul El-Sayed gana las primarias demócratas en Míchigan, estado clave
-
Austria bate su récord de calor por segundo día consecutivo
-
Un fabricante de drones ruso, herido por la explosión de un coche
-
Cuatro heridos en el centro de Londres tras el ataque de una mujer con un objeto punzante
-
Alcaraz debe armarse de paciencia para curar su muñeca (cirujano a la AFP)
-
SpaceX se desploma en Wall Street tras la publicación de sus resultados
-
Mythos 5, la IA de Anthropic, crea identidades falsas durante una prueba en Reino Unido
-
Las relaciones con Argentina seguirán "rebajadas" mientras persistan los ataques de Milei, dice Brasil
-
Los incendios próximos a Atenas causaron un "grave daño ambiental", dice el primer ministro griego
-
Los creadores del videojuego "Untitled Goose Game" buscan repetir su éxito con "Big Walk"
-
Las contrataciones en el sector privado de EEUU, por debajo de las expectativas en julio (informe)
-
Disney anuncia una alianza con TikTok que autoriza el uso de fragmentos de sus producciones
-
Islandia ordena la expulsión de 21 activistas contra la caza de ballenas
-
China anuncia represalias tras las sanciones comerciales de EEUU
-
Heineken suprime 3.000 empleos y aumenta su beneficio en el primer semestre
-
Ceuta alerta que la situación de los menores migrantes es "insostenible"
-
El presidente del Rayo Vallecano confía en empezar LaLiga en su estadio
-
El clima redefine los territorios de las mariposas, advierte estudio
-
Un dron con un explosivo perturba un aeropuerto en Alemania clave para envíos a Ucrania
-
Siemens Energy logra resultados récord por la demanda de electricidad usada para la IA
-
Fragilizado, Infantino mantiene una reunión de crisis en Marruecos
-
El volcán en Guatemala reduce su actividad eruptiva, pero el riesgo continúa
-
Más de 800.000 desplazados vuelven a sus regiones en Líbano
-
La elegante mansión londinense donde espías escuchaban a prisioneros nazis
-
Los actos antisemitas aumentaron un 21% en Reino Unido en 2026, según una asociación judía
-
Taiwán investiga a 17 empresas financiadas por China por captación ilegal de talento tecnológico
-
La policía surcoreana allana oficinas de Starbucks por el fiasco de un anuncio que evocó una masacre
-
Paulino avanza en los 400m en otra jornada de récords de atletismo en los Centrocaribes
-
El gobierno de EEUU revisará los modelos de IA "cerrados" antes de su lanzamiento, según medios
-
En un pico de tensión bilateral, Brasil pide que Argentina retire a su embajador
-
EEUU dice que la intervención del yen busca prevenir la inestabilidad en Asia
-
El presidente de Guatemala suspende su actividad pública por una infección intestinal
-
La mayor universidad de México define fechas del nuevo examen tras el escándalo
-
Detienen a un hombre armado en un campo de golf de Trump en EEUU
-
La justicia de Brasil autoriza una nueva investigación a un hijo de Lula
-
Posponen la apertura del primer casino en Emiratos Árabes Unidos, donde el juego está prohibido
-
En Cuba, "resolver" la crisis día tras día pasa factura
-
Miles de personas dan el último adiós al legendario excentral Franco Baresi
-
Procesan a un futbolista del Sao Paulo por atropellar mortalmente a un anciano
-
Llegan al campamento base los cuerpos de los montañistas muertos en una avalancha en Pakistán
-
Terminan las protestas que dejaron varados más de 150 buques en puertos argetinos
-
Vecinos del volcán de Fuego de Guatemala, entre el temor a morir y a los ladrones
-
La venta de acceso preferencial a Truth Social por parte de Trump levanta suspicacias
-
El Comando Sur de EEUU anuncia una fuerza militar conjunta con aliados de la región
-
El jefe de Paramount dice que hay motivos políticos tras la pugna por la compra de Warner Bros.
-
Venta de acceso preferencial a Truth Social por parte de Trump levanta suspicacias
-
Ciudades sede del Mundial reclaman millones de dólares que les habría prometido la FIFA
-
Venezuela afronta desnutrición entre estudiantes y falta de maestros, denuncia una ONG
-
Un tribunal de Paz imputa en Colombia a 27 ex-FARC por crímenes de lesa humanidad y violencia sexual
-
SpaceX supera las previsiones de ingresos en un mercado aún escéptico por sus inversiones en IA
Mythos 5, la IA de Anthropic, crea identidades falsas durante una prueba en Reino Unido
El Instituto Británico para la Seguridad de la IA (AISI) informó de un "incidente grave" durante una prueba de Mythos 5, sistema de IA de la empresa estadounidense Anthropic, que creó identidades falsas para intentar convencer a desarrolladores de integrar código malicioso.
La información procede de un informe publicado el martes por este organismo, dependiente del gobierno británico, y se conoce después de una serie de incidentes registrados en Estados Unidos durante pruebas de seguridad, en las que los modelos más avanzados de OpenAI (GPT-5.6 Sol) y Anthropic (Mythos 5) lograron acceder sin autorización a sistemas de otras empresas.
Durante la prueba británica, realizada con acceso libre a internet y con algunos filtros de seguridad desactivados, los agentes de IA —programas capaces de actuar de forma autónoma para cumplir una tarea— realizaron "acciones dirigidas contra personas y organizaciones reales", según el AISI.
El organismo precisó que los intentos de los modelos de IA "no tuvieron éxito" y las investigaciones de AISI "no han encontrado ningún daño en el mundo real".
"Sin embargo, es la primera vez que observamos que los riesgos relacionados con la autonomía y el comportamiento de ocultamiento se manifiestan de forma tan clara, sin una solicitud específica, en el mundo real", añadió el instituto.
La semana pasada, Anthropic informó de que sus modelos habían logrado acceder sin autorización a los sistemas de tres organizaciones durante pruebas diseñadas precisamente para impedir ese tipo de acciones.
Ese anuncio llegó pocos días después de que OpenAI revelara que dos de sus modelos, mientras eran sometidos a pruebas, salieron del entorno controlado en el que estaban siendo evaluados e intentaron acceder sin autorización a la plataforma de desarrollo Hugging Face.
El incidente británico, detectado y contenido rápidamente el 28 de julio, tuvo como objetivo la plataforma para desarrolladores GitHub.
Los incidentes detectados se produjeron casi exclusivamente con Mythos 5 y, en menor medida, con GPT-5.6 Sol.
Este incidente "pone de relieve la necesidad de un debate más amplio sobre cómo evaluar de forma segura agentes de IA cada vez más capaces", reaccionó Anthropic en una declaración enviada a la AFP.
Por su parte, OpenAI consideró que "las pruebas independientes son esenciales para comprender el comportamiento de modelos cada vez más potentes" y afirmó que desea trabajar con los distintos actores del sector "para llevar a cabo evaluaciones de forma segura".
P.Mathewson--AMWN
