Qué se sabe del código de buenas prácticas firmado por los gigantes estadounidenses de la IA / Foto: Roberto Schmidt - AFP
-
Venezolano baleado por ICE queda bajo detención por cargos criminales en EEUU
-
Pánico, ira y lágrimas: el difícil regreso de Evan Gershkovich tras pasar por una cárcel rusa
-
Órgano de control descarta delitos en las obras de la Fed, como insinuó Trump
-
Cristiano Ronaldo abandona enfadado la concentración de Portugal
-
Muere la esquiadora francesa Juliette Willmann por una avalancha en Argentina
-
El órgano de control no ve delitos en las obras de la Fed, como insinuó Trump
-
Brasil y EEUU mantienen una reunión comercial con la crisis de los aranceles de fondo
-
Una comisión gubernamental aconseja reactivar una polémica mina de cobre en Panamá
-
Lanzan el primer dispensador de píldoras abortivas de Polonia
-
Gritos y sangre: así fue el angustioso vuelo de flydubai hacia Israel, según los pasajeros
-
Reino Unido anuncia el fin del acuerdo de intercambio de migrantes con Francia
-
Los debates sobre Nicaragua se intensifican en el seno de la OEA
-
Corea del Norte niega estar detrás de la explosión de una mina en la frontera con el Sur
-
La justicia de Brasil ordena a Discord proteger a los menores tras el suicidio de una adolescente
-
La Federación Suiza de Fútbol retira su apoyo a Infantino
-
Reino Unido ve "fuertes indicios" de implicación de Irán en el incidente de una base aérea
-
Israel dice que un piloto del vuelo flydubai con destino a Israel "intentó estrellar el avión"
-
Los ministros de Comercio del G20 se reúnen a la sombra de los aranceles de Trump
-
Como una "montaña rusa": así fue el angustioso vuelo de flydubai, según los pasajeros
-
Argentina anuncia un acuerdo con Japón para abrir las exportaciones de carne vacuna
-
Macron tilda de "gravísimos" los supuestos comentarios antisemitas de un líder ultraderechista
-
Las voces de la crisis de la vivienda en España
-
Burnham plantea la posibilidad de un regreso del Reino Unido a la UE
-
Djokovic vuelve a vencer y avanza de ronda en Pekín
-
EEUU revisa al alza su crecimiento económico en el 2T y la inflación sigue estable
-
El presidente español, "razonablemente optimista" sobre la aprobación de los decretos de vivienda
-
La inflación en Alemania se aceleró más de lo previsto en septiembre, al 3,3%
-
Tres buques atacados en el estrecho de Ormuz
-
RSF protesta contra Milei, "depredador" de la libertad de prensa, en Francia
-
La inflación en Francia sube con fuerza en septiembre, al 3%
-
Irán ejecuta a dos hombres por su participación en las protestas de enero
-
El extenista Gastón Gaudio se postulará a la presidencia de Independiente de Avellaneda
-
OpenAI afronta una demanda en EEUU por presuntamente infringir una ley sobre ciberataques
-
La justicia argentina elimina los límites a la compra de tierras por parte de extranjeros
-
Venezuela reconoce un uso "abusivo" de la ley contra el odio y anuncia una reforma
-
México aprueba una reforma que prohíbe a los candidatos presidenciales tener doble nacionalidad
-
Colombia abrirá una megacárcel al estilo de Bukele
-
Los imputados se acusan unos a otros en el juicio por la muerte de Maradona
-
Netanyahu dice que uno de los pilotos de flydubai "intentó estrellar el avión"
-
Irán recibió una respuesta oficial de EEUU a su última oferta para terminar la guerra
-
Argentina monitorea los negocios entre empresarios de Chile y Malvinas, pero confía en Kast
-
Unos colonos israelíes atacan una aldea en Cisjordania e incendian dos viviendas
-
Una nueva subida de tasas en EEUU no es urgente, afirma un directivo de la Fed
-
El alcalde Mamdani anuncia medidas contra el antisemitismo en Nueva York
-
El venezolano baleado por el ICE en Texas enfrenta cargos con penas de hasta 20 años
-
Sánchez se disculpa ante Macron por el rechazo del acuerdo de amistad franco-español
-
RSF y otras oenegés piden liberar a un periodista detenido en Cuba
-
La acusada de atacar la casa de Rihanna está en condiciones mentales para ser juzgada
-
Una madre de EEUU que mató a sus tres hijos busca la absolución tras un juicio nulo
-
EEUU refuerza aún más sus sanciones contra Cuba
Qué se sabe del código de buenas prácticas firmado por los gigantes estadounidenses de la IA
Los gigantes tecnológicos estadounidenses firmaron el lunes en la Casa Blanca un código de buenas prácticas destinado a gestionar mejor los riesgos asociados a la Inteligencia Artificial, ante la multiplicación de incidentes de seguridad relacionados con esta tecnología.
Estos son sus principales elementos:
- Acuerdo voluntario
Reacio a impulsar restricciones al sector de la IA tanto a nivel nacional como internacional, el presidente estadounidense, Donald Trump, presentó una carta de principios muy breve, de apenas una página, cuyo cumplimiento es "moralmente vinculante".
"No obstante, con el tiempo podría ser pertinente codificar estas medidas en forma de leyes o regulaciones", precisa el documento, firmado por los principales dirigentes del sector de la IA, desde Elon Musk (X) hasta Dario Amodei (Anthropic), pasando por Sundar Pichai (Google) y Jensen Huang (Nvidia).
Todo ello en un momento en el que aumentan los llamados a adoptar normas vinculantes, procedentes tanto de empresas como Anthropic (Claude) y OpenAI (ChatGPT), como de responsables políticos, especialmente del Partido Demócrata en Estados Unidos, y de gobiernos de todo el mundo.
- Riesgos
Los proveedores de modelos de IA se comprometieron a establecer "cuatro niveles" de supervisión.
El primero de esos niveles consiste en la aplicación de "controles internos sólidos" para garantizar que estas herramientas respeten las instrucciones de los desarrolladores, especialmente en materia de ciberseguridad y bioseguridad.
El objetivo es prevenir la introducción, propagación y liberación de agentes patógenos o de "riesgos químicos".
Las empresas deberán crear equipos especializados encargados de estos controles y de verificar que los modelos no ejecuten ciberataques ni accedan de manera imprevista a sistemas técnicos.
OpenAI, Anthropic y Google han informado recientemente de varios incidentes relacionados con comportamientos inesperados de sus sistemas de IA. En fechas recientes, por ejemplo, agentes de IA de OpenAI, programas capaces de realizar acciones de forma autónoma, accedieron por iniciativa propia a un sitio del sistema sanitario australiano y a plataformas del gobierno estadounidense.
- Auditoría
El código de buenas prácticas también prevé la participación de evaluadores externos para realizar auditorías independientes destinadas a determinar si las medidas implementadas por las empresas funcionan de manera efectiva.
Anthropic y OpenAI ya colaboran con este tipo de evaluadores externos y ambas anunciaron en semanas recientes una ampliación del acceso de empresas auditoras para examinar sus modelos, especialmente durante la fase de diseño y no únicamente antes de su despliegue.
Anthropic incluso aseguró que no mantendrá "ningún control editorial" sobre la publicación de los resultados de estas evaluaciones independientes, aunque sean desfavorables para la empresa.
- Normas definidas
La carta contempla asimismo la creación de un comité independiente integrado por representantes de las distintas compañías en los niveles más altos de dirección.
Este organismo se encargará de revisar las evaluaciones internas y externas de los modelos de IA y de velar por la resolución de posibles problemas.
Las empresas también se comprometieron a reunirse "regularmente para establecer normas y buenas prácticas".
La iniciativa parece alinearse con el proyecto que OpenAI, Anthropic y Google DeepMind comenzaron a desarrollar previamente.
Sin embargo, este modelo ya ha recibido fuertes críticas por parte de empresas competidoras del sector, como la francesa Mistral y la canadiense Cohere, que acusan a los gigantes tecnológicos estadounidenses de querer fijar sus propias reglas y proteger así su ventaja competitiva.
S.F.Warren--AMWN
