OpenAI se compromete a comunicar sistemáticamente los desalineamientos de su IA / Foto: Justin Sullivan - Getty Images North America/AFP/Archivos
-
Presidente turco aspirará a nuevo mandato pese a límite constitucional
-
Carney desoye las amenazas de Trump y celebra "nueva alianza" de Canadá con la UE
-
Fiyi declara la crisis nacional por el VIH
-
Australia anuncia una reducción migratoria para resolver la crisis de la vivienda
-
La izquierda logra una estrecha victoria en elecciones de Suecia
-
Un incendio "provocado" consume seis hectáreas de bosque en la capital de Ecuador
-
La deuda pública española bajó del 100% del PIB por primera vez desde 2020
-
Carlos III pedirá garantías a los gigantes de la IA en una reunión en Escocia
-
Japón estudia reformar la ley sobre la prostitución para castigar a los clientes
-
El ciclo del agua se está volviendo muy impredecible, advierte la ONU
-
Una misión de la ONU cree que EEUU cometió crímenes de guerra en Irán
-
Miles de ecuatorianos marchan en defensa del agua y contra la minería
-
Nueva prueba para gobierno alemán tras triunfo de la ultraderecha en regionales
-
Asesinan a balazos a un sacerdote en México y abandonan su cuerpo en una carretera
-
Clearlake Capital asume el control total accionario del Chelsea
-
OpenAI se compromete a comunicar sistemáticamente los desalineamientos de su IA
-
La reforma de ley transgénero de India deja a muchos en un limbo
-
EEUU vuelve a denegar la visa al líder palestino Abás para asistir a la Asamblea de la ONU
-
La NASA descubre un nuevo cráter en la Luna, "único en un siglo"
-
Un muerto cerca de Barcelona por las fuertes lluvias que azotan España
-
La extrema derecha francesa carga contra Mbappé por la camiseta de Ceuta
-
Guatemala anuncia ayuda alimentaria para más de un millón de familias afectadas por la sequía
-
Una jueza levanta la suspensión de bombardeos a campamentos guerrilleros en Colombia
-
La hermana de Kim dice que solo "idiotas" creen que Corea del Norte renunciará a las armas nucleares
-
El deslave en Nepal fue causado por una inestabilidad geológica agravada por el cambio climático
-
Misiles y drones rusos dejan 18 heridos en Kiev
-
El Congreso de EEUU declara en desacato a un allegado de Epstein
-
Si la IA resuelve por sí sola problemas complejos, ¿para qué servirán los matemáticos?
-
Klopp pide que "el orgullo nacional no se confíe a la gente equivocada"
-
Brasil recorta por quinta vez consecutiva su tasa directriz
-
Turquía libera a 106 manifestantes que protestaron por la represión a la comunidad LGBT
-
Ucrania prevé un gasto récord en defensa para 2027
-
California ordena a los anunciantes revelar si usan intérpretes generados con IA
-
"La bola negra", la apuesta de España por el Óscar, recibe una ovación en el festival de Toronto
-
La justicia argentina ordena detener operaciones petroleras en Malvinas
-
Condenan a 20 años de prisión en EEUU a un afgano por el atentado en el aeropuerto de Kabul
-
La alianza con Canadá "no está dirigida contra nadie", dice la UE tras las amenazas de Trump
-
Klopp se estrena como seleccionador alemán con una doble lista de 44 jugadores
-
Lula dice que irá a la ONU a decirle a Trump que "no se meta" en las elecciones brasileñas
-
Israel y Marruecos acuerdan mutuamente abrir embajadas
-
El expresidente brasileño José Sarney sale del hospital tras sufrir una neumonía
-
La ONU denuncia la concentración de poderes en Nicaragua
-
Canadá y Alemania se alían por una IA "al servicio de la población"
-
Decenas de países instan a los talibanes a respetar los derechos de las mujeres
-
Los nominados a las principales categorías del Grammy Latino
-
La OMS ve "señales alentadoras" en la lucha contra la epidemia de ébola en RDC
-
La selección femenina de Brasil jugará amistosos contra Argentina y Japón
-
Príncipe Enrique prepara su regreso público entre tensiones por su seguridad
-
El Congreso de EEUU aprueba nuevas sanciones contra Rusia y sus aliados
-
El refuerzo militar de EEUU en Palaos despierta temores de guerra
OpenAI se compromete a comunicar sistemáticamente los desalineamientos de su IA
OpenAI prometió el miércoles informar de manera más sistemática los desalineamientos de sus modelos de inteligencia artificial (IA), incluso cuando aún no haya logrado explicarlos o solucionarlos.
Además de este compromiso, la compañía californiana publicó seis nuevos informes sobre fallos de su IA, desconocidos hasta ahora.
Los "desalineamientos" hacen referencia a cuando los modelos no se comportan tal y como lo desean los humanos.
Este compromiso de transparencia surge tras una serie de incidentes dentro de la empresa, de los que se ha ido informando progresivamente desde julio.
El más grave de ellos se produjo cuando dos modelos de OpenAI en fase de prueba salieron de forma autónoma de su entorno virtual aislado para conectarse a internet e irrumpir en varios sitios y plataformas.
La nueva iniciativa de la empresa busca mostrar a los observadores externos cuáles son las capacidades de la IA de vanguardia, con el fin de impulsar la reflexión sobre el ritmo de desarrollo de la inteligencia artificial.
El sábado, el director ejecutivo de Anthropic, Dario Amodei, propuso reducir el ritmo de mejora de la IA para poder comprender los nuevos riesgos que conlleva esta tecnología.
El director ejecutivo de OpenAI, Sam Altman, así como el presidente de Google DeepMind, Demis Hassabis, Elon Musk y el director ejecutivo de Microsoft, Satya Nadella, respaldaron este llamado.
La industria no ha "resuelto la cuestión del alineamiento (de los modelos con los valores humanos) y la supervisión a un nivel suficiente como para que podamos seguir desarrollando la IA a toda velocidad durante mucho tiempo más", advierte OpenAI en el documento publicado el miércoles.
De ahora en adelante, la empresa informará sobre problemas relacionados, entre otras cosas, con las acciones realizadas por una IA sin autorización, la salida del marco de supervisión y la coordinación espontánea entre inteligencias artificiales.
No será necesario que un incidente haya causado daños o que forme parte de un patrón más amplio para que OpenAI lo mencione.
El alcance abarca todas las etapas del ciclo de vida de la IA, desde el desarrollo hasta la puesta en línea, pasando por la evaluación y las pruebas.
De los seis ejemplos revelados el miércoles, ninguno tuvo consecuencias significativas, pero confirman tendencias observadas anteriormente.
En un caso, en mayo, un modelo creó su propia fuente en internet para responder a una pregunta formulada durante la fase de desarrollo. Por lo tanto, citó un documento que él mismo había creado.
F.Bennett--AMWN
