OpenAI desacelera el desarrollo de su nueva IA para prevenir futuros hackeos / Foto: Marco Bertorello - AFP/Archivos
-
La IA y los robots, dos aliados en el cuidado de los enfermos de Alzheimer
-
Un año después de la Declaración de Nueva York, el Estado de Palestina sigue sin concretarse
-
Una cadena humana rodea el Kennedy Center ante la amenaza de demolición lanzada por Trump
-
Sube a 31 el saldo de muertos tras ataque a una comisaría en Pakistán
-
Jefes de Nvidia y OpenAI, entre los invitados a una cena con Xi en la Casa Blanca
-
Trump anuncia un acuerdo de seguridad "permanente" sobre Groenlandia con Dinamarca
-
Trump veta el acceso a la Casa Blanca a CNN, MSNOW y Politico
-
Otro apagón nacional sacude a Cuba en medio de una profunda crisis económica
-
Trump prohíbe el acceso a la Casa Blanca a CNN, MSNOW y Politico
-
Bomberos combaten por aire incendio forestal en la capital de Ecuador
-
El tribunal de paz de Colombia denuncia que De la Espriella quiere asfixiarlo con un millonario recorte
-
Casi el 70% de los cubanos vive en situación de pobreza, según un estudio
-
UEFA y Concacaf piden a FIFA "al menos 10 millones de dólares" para cada una de las 211 federaciones miembro
-
Reino Unido afirma que las Malvinas tienen "derecho" a explorar petróleo
-
Rusia declara "agente extranjero" al aclamado director de cine Sviáguintsev
-
Costarricense Grynspan lidera tercera votación informal para secretaría general de la ONU
-
El gobernador de California firma una orden ejecutiva para desarrollar un "interruptor de apagado" de la IA
-
La diáspora iraní en EEUU, dividida sobre la guerra
-
Un dron impacta en la torre de refrigeración de la central nuclear rusa de Kursk, sin causar incendio
-
Sheinbaum habla con Trump para avanzar en las negociaciones comerciales México-EEUU
-
Francia, el nuevo eslabón débil de la zona euro
-
"No podíamos respirar", denuncian supervivientes tras muerte de 37 mineros en Nigeria
-
Raphinha desea renovar y acabar su carrera en el Barcelona
-
Unos investigadores afirman haber hackeado OpenAI usando la IA Claude de Anthropic
-
El fallecido rey Harald V de Noruega reposa en un sarcófago que absorbe CO2
-
Shakira arranca una serie de 12 conciertos en Madrid para cerrar su gira mundial
-
La jefa de socialdemócratas de Suecia intentará formar gobierno
-
El seleccionador español manda todo su "apoyo" a Ceuta
-
Críticas de un político ultraderechista a Mbappé por su posición sobre Ceuta indignan en Francia
-
Francia convocará una reunión del G7 sobre energía
-
La Fundación Nobel aumenta el premio a 1,21 millones de dólares
-
Revisan a la baja el crecimiento de la economía española en 2025, hasta el 2,6%
-
Macron ordena un plan para proteger las infraestructuras críticas francesas de "ataques híbridos rusos"
-
Mochileros temen por el endurecimiento de las visas en Australia
-
Un ataque en una comisaría de Pakistán mata a 16 personas
-
El nuevo seleccionador de Portugal convoca a Cristiano Ronaldo
-
Kylian Mbappé deja Nike y firma con la marca suiza On
-
Warren Buffett deja la presidencia de Berkshire Hathaway
-
La IA avanza hacia la creación autónoma de nuevas versiones de sí misma, advierte Anthropic
-
La jefa de socialdemócratas de Suecia se propone formar gobierno
-
Un hombre muere tras ser atacado por un tiburón en Australia
-
El Festival de San Sebastián arranca con filme de Fatih Akin y homenaje a Werner Herzog
-
Al menos dos muertos en un tiroteo en una escuela en Filipinas
-
Dos demandantes de Julio Iglesias piden a la justicia española tramitar su nueva denuncia
-
En la Amazonía brasileña, el petróleo alimenta sueños y temores
-
Filipinas afirma que un buque chino embistió uno de sus barcos en aguas disputadas
-
La ONU documentó más de mil casos de violencia sexual durante el conflicto en Ucrania
-
Condenada a muerte a los 21 años, la iraní Taraneh espera su ejecución
-
Una explosión en una comisaría de Pakistán mata a ocho personas
-
La presidenta de Venezuela recibe a HRW tras años de ausencia en el país
OpenAI desacelera el desarrollo de su nueva IA para prevenir futuros hackeos
La estadounidense OpenAI, creadora de ChatGPT, anunció el martes que desacelerará el desarrollo de su modelo "más avanzado" de inteligencia artificial y endurecerá sus controles internos.
El anuncio llega semanas después del ciberataque autónomo de un agente de OpenAI contra la plataforma Hugging Face.
El mayor entrenamiento de un diseño de IA jamás programado por la empresa sigue paralizado, mientras que OpenAI verifica que el modelo Astra, aún en desarrollo, se comporte según lo esperado, dijo la empresa en una publicación en su blog.
Dichos entrenamientos son intensos ejercicios informáticos en los que los modelos en desarrollo consumen ingentes cantidades de datos de texto e imágenes.
Estos ajustan finamente miles de millones de configuraciones internas que dan como resultado nuevas capacidades para responder o analizar las solicitudes de usuarios así como a otros insumos.
"Siempre dijimos que tomaríamos medidas si veíamos que las capacidades de los modelos estaban superando el ritmo de la seguridad", dijo Sam Altman, director ejecutivo de OpenAI, en una publicación en X.
Dados los riesgos, las normas internas de OpenAI exigen que se establezcan salvaguardias más estrictas antes de que el desarrollo pueda reanudarse.
A mediados de julio, un agente autónomo basado en dos modelos de OpenAI dejó, por cuenta propia, el ambiente confinado de prueba en el que estaba para atacar Hugging Face, una plataforma donde desarrolladores de todo el mundo comparten sus modelos de IA.
La empresa aún no ha entregado el prometido informe sobre la intrusión.
Su competidor Anthropic reveló a finales de julio que tres de sus modelos también llevaron a cabo intrusiones sin permiso a sistemas de tres organizaciones.
En respuesta, miles de empleados de la industria pidieron al gobierno de Estados Unidos que respalde una desaceleración coordinada del desarrollo de las IA más avanzadas.
La empresa también dio detalles el martes de un nuevo sistema que monitorea el razonamiento interno de sus modelos y alerta a los equipos humanos, en menos de 30 minutos, sobre comportamientos sospechosos.
Pero este sistema consume alrededor de un 20% adicional de poder de cómputo. Además, tiene límites: un modelo que sabe que es monitoreado puede aprender a ocultar sus intenciones.
M.Fischer--AMWN