Unos 225 científicos piden "cambios inmediatos" para evitar incidentes graves con la IA / Foto: Angela Weiss - AFP/Archivos
-
Unos 225 científicos piden "cambios inmediatos" para evitar incidentes graves con la IA
-
Las protestas estudiantiles regresan a las calles de Francia, con el apoyo de Greta Thunberg
-
Cuba reforma su sector petrolero y autoriza concesiones
-
De viñedos a pistacheros: una transición obligada en Francia por el calor y el menor consumo de vino
-
El Getafe ficha a Dani Carvajal hasta 2027
-
Musk dona 276 millones a la derecha para la campaña de mitad de mandato de EEUU
-
El huracán Simón y la tormenta Rachel causan cinco muertos en México
-
Pequeñas comunidades golpeadas por el terremoto en Panamá aún siguen aisladas
-
Corea del Norte lanza varios misiles balísticos al mar de Japón
-
El expresidente de RD Congo forma un nuevo movimiento con grupo armado
-
Arrestan a la actriz Selma Blair tras un altercado en un vuelo en EEUU
-
El papa León XIV se prepara para una operación de pulmón
-
El avance ultraortodoxo agita una ciudad israelí antes de las elecciones
-
"No nos escuchan": Las protestas estudiantiles regresan a las calles de Francia
-
El FMI es moderadamente optimista sobre la economía mundial pese a la guerra en Oriente Medio
-
La activista sueca Greta Thunberg se suma a las protestas estudiantiles en Francia
-
Los reyes de España visitan Ceuta, en un viaje de alta tensión diplomática
-
El impacto del fenómeno El Niño esta semana en el mundo
-
Akkodis lleva la inteligencia multilingüe a las carreras del equipo Mercedes-AMG PETRONAS de Fórmula 1
-
Hutíes amenazan con respuesta "dolorosa" si EEUU entra en la guerra en Yemen
-
Muere el actor RJ Mitte, conocido por la serie "Breaking Bad"
-
"Digger", de Tom Cruise, se hunde en la taquilla y proyecta pérdidas millonarias
-
Agentes federales registran casa de congresista Ilhan Omar, crítica de Trump
-
Costa oeste de EEUU se recupera de los destrozos provocados por la tormenta Rachel
-
Los hutíes de Yemen amenazan con una respuesta "dolorosa" si EEUU interviene en la guerra
-
Flávio Bolsonaro visitará el martes a su padre, en prisión domiciliaria, tras autorización judicial
-
El actor francés Vincent Cassel da voz a Napoleón en un videojuego en inglés
-
Nueva York no logra concretar el cierre de la polémica cárcel de Rikers
-
Tribunal Supremo español mantiene suspensión de voto para nacionalizados por la "ley de nietos"
-
La OTAN advierte a Rusia que todo ataque será "totalmente en vano"
-
Decenas de miles de personas protestan en India contra la Comisión Electoral
-
Detienen a un adolescente en Francia por disparar con una escopeta en su centro de secundaria
-
Alcaraz vuelve a estrellarse en Shanghái y Zverev se asegura el N.1 al final del año
-
El actor Russell Brand asiste al inicio de su juicio por violación en Reino Unido
-
Rusia elude aclarar si acata la tregua energética
-
Un juez autoriza la visita del candidato Flávio Bolsonaro a su padre, en prisión domiciliaria en Brasil
-
Qué se sabe de la operación del papa León XIV
-
Una cultivadora de arroz italiana apuesta por la biodiversidad para combatir el calor
-
Osasuna destituye como entrenador a Ramis y recupera a Jagoba Arrasate
-
Ceuta, entre las heridas de la crisis migratoria y la visita de los reyes de España
-
Rusia observará un alto el fuego únicamente el día de las elecciones en Ucrania, dice el Kremlin
-
Andy Burnham acusa a Rusia de injerencia durante el referéndum del Brexit en 2016
-
Un socio del testaferro de Maduro está bajo custodia en EEUU, dice el fiscal general
-
Detienen a un adolescente en Francia por disparar con su escopeta en su centro de secundaria
-
La UE limitará a 350.000 al año las importaciones de vehículos híbridos chinos
-
China sanciona a ministros de Paraguay y Belice por Taiwán y dice que es un aviso a otros
-
El índice global de pobreza aumenta por primera vez desde su creación en 2010
-
Los estadounidenses Michael Woodford y Robert Hall ganan el Nobel de Economía
-
Un director de secundaria resulta herido por un disparo de escopeta en Francia y un joven es detenido
-
Corea del Norte dispara múltiples misiles balísticos, dice Seúl
Unos 225 científicos piden "cambios inmediatos" para evitar incidentes graves con la IA
Unos 225 especialistas en inteligencia artificial y ciberseguridad, entre ellos el canadiense Yoshua Bengio, considerado uno de los padres de la inteligencia artificial, pidieron el martes "cambios inmediatos" en el desarrollo y despliegue de esta tecnología para evitar incidentes de seguridad.
En una carta abierta firmada por investigadores de 21 países, los expertos afirman que "varias organizaciones" registraron recientemente fallos de seguridad durante los cuales modelos de IA lograron salir de su entorno aislado, por no estar lo suficientemente protegido, y pusieron en riesgo sistemas de organizaciones externas.
Según los firmantes, estos incidentes pueden considerarse "como un incumplimiento irresponsable de las prácticas estándar de ciberseguridad" y se podrían haber evitado gracias a "procedimientos más sólidos".
Según ellos, esta situación refleja la importancia del "alineamiento" de la IA, que sirve para garantizar el comportamiento previsible de los modelos.
"Creemos que son necesarias mejoras tanto en el alineamiento de la IA [...] como en las tecnologías de aislamiento", escriben.
Si no hay cambios en las prácticas actuales, "los futuros incidentes serán mucho más perjudiciales para las infraestructuras importantes", advierten.
Entre los firmantes del texto también figuran el pionero de la IA Geoffrey Hinton y el experto Stuart Russel.
Los investigadores piden más trabajo sobre la seguridad de la IA, así como un uso más intensivo de las tecnologías de aislamiento.
A corto plazo, recomiendan el uso de "mecanismos de aislamiento sólidos, incluido el 'air gap'", es decir, la desconexión de internet, "para los modelos dotados de capacidades cibernéticas".
Esta advertencia llega tras una serie de incidentes en los que la IA de OpenAI, Anthropic y Meta salieron de su entorno para piratear otras organizaciones.
El más grave fue el de dos IA de OpenAI que, durante unas pruebas, accedieron a internet y entraron en Hugging Face, una plataforma de almacenamiento de modelos de inteligencia artificial.
Th.Berger--AMWN
