Un equipo de OpenAI se dedicará a evaluar riesgos de la Inteligencia Artificial / Foto: Olivier Douliery - AFP
-
La UE y Canadá quieren llevar su relación "al más alto nivel posible" en cumbre en Montreal
-
Demócratas piden transparencia en el uso de la IA para decisiones políticas de Trump
-
Para Russell Brand, procesado por violaciones, la monogamia era "difícil", según su esposa
-
La batalla en Sudáfrica entre centros de datos y habitantes sin agua
-
Bengalas y bombas de humo en el Parlamento de Albania, sacudida por protestas
-
Qué se sabe sobre la colisión mortal entre dos trenes de alta velocidad en España
-
Haití anuncia una nueva fecha de las elecciones para 2027
-
China adopta medidas para reforzar la disciplina en el Partido Comunista
-
Los Guardianes iraníes afirman que hay tres petroleros en llamas en Ormuz
-
Christine Lagarde dejará la presidencia del BCE en febrero de 2027
-
El BCE mantiene sin cambios su principal tasa de interés de referencia, en 2,5%
-
La liga argentina entra en la recta final
-
Pocas esperanzas de cambio entre los palestinos tras las elecciones israelíes
-
El grupo Renault reduce sus ventas, pero mejora su facturación en el tercer trimestre
-
Volkswagen quintuplica sus pérdidas ante la presión china
-
Bloque de Netanyahu carga contra los partidos árabes tras su histórico resultado electoral
-
EEUU prohíbe las importaciones de empresas genómicas chinas bajo acusación de trabajo forzado
-
El crecimiento de EEUU subió con fuerza en el tercer trimestre y la inflación sigue alta
-
El beneficio neto de Repsol se cuadruplica en los primeros nueve meses de 2026
-
Crecimiento de EEUU subió con fuerza en tercer trimestre y la inflación sigue alta
-
La restauración de ecosistemas alcanza un récord de 252 millones de hectáreas, según la ONU
-
Atacante francés disparó intencionalmente contra musulmanes y africanos (fiscal)
-
Cientos de drones lanzados hacia la región de Moscú, dice su alcalde
-
Corea del Norte lanza "una docena" de misiles balísticos hacia el mar del Este
-
Muere Cuauhtémoc Cárdenas, referente histórico de la izquierda mexicana
-
Bukele envía más de 2.000 militares a Haití en busca de los salvadoreños emboscados
-
Al menos seis muertos deja un bombardeo contra el mayor grupo narcotraficante en Colombia
-
Un juez rechaza los intentos de Trump de intervenir las elecciones de medio mandato en California
-
La coalición liderada por Arabia Saudita afirma haber interceptado un misil hutí
-
Filtran los datos de 41.000 empleados del gobierno de EEUU tras un ciberataque, según un colectivo
-
El beneficio operativo de Samsung se dispara un 783% en el 3T gracias a la IA
-
El estado de Nueva York restringe el uso de chatbots por parte de los menores
-
El cultivo de opio crece en Afganistán pese a la prohibición del gobierno talibán, según la ONU
-
Petroleras obtienen enormes ganancias en un mercado impactado por la guerra
-
Redadas y malestar económico alimentan el descontento latino y abren la vía a los demócratas en Texas
-
El vicepresidente de EEUU contactó al jefe de seguridad de Irán, según un reporte
-
Albania impone fuertes multas a los manifestantes violentos
-
El Uruguay de Diego Forlán jugará con Dominicana tras visitar a Argentina en noviembre
-
Un ataque con dron ruso causa 13 muertos en una estación de tren en Ucrania
-
Redadas y malestar económico alimentan descontento latino y abren vía a demócratas en Texas
-
Las acciones de Alphabet, matriz de Google, caen por resultados inferiores a lo previsto
-
Corinthians y Cruzeiro, final brasileña de la Libertadores femenina
-
HRW sugiere posibles ejecuciones en una letal operación policial hace un año en Brasil
-
Microsoft supera las expectativas impulsado por su plataforma en la nube Azure
-
Putin dice que Elon Musk es "realmente un genio"
-
María Corina Machado recorre la zona devastada por los terremotos en Venezuela
-
Condenan a un barrabrava por amenazar a Di María para evitar su regreso al fútbol argentino
-
La oposición busca la salida de un ministro de Kast por rebajar las condenas a pedófilos en Chile
-
Irán advierte sobre el riesgo de escalada militar tras amenazas de Israel
-
Kompany sale del hospital después de una meningitis
Un equipo de OpenAI se dedicará a evaluar riesgos de la Inteligencia Artificial
La empresa estadounidense OpenAI, creadora de la plataforma ChatGPT, tendrá un equipo dedicado a identificar y prevenir riesgos asociados a la Inteligencia Artificial (IA) en sus modelos en desarrollo.
El grupo, cuyas directrices fueron divulgadas este lunes, evaluará categorías como ciberseguridad, poder de persuasión y potencial autonomía de estos modelos. Este análisis puede acarrear la suspensión de nuevos lanzamientos de aplicaciones, según la empresa.
OpenAI realiza el anuncio un mes después de que su consejo directivo despidiera al director ejecutivo Sam Altman, pero acabara volviendo a contratarle pocos días después, tras una masiva y dura protesta de los empleados e inversores.
De acuerdo con varios medios estadounidenses, los miembros del Consejo de administración criticaban a Altman por privilegiar el desarrollo acelerado de OpenAI, aunque esto implicara eludir ciertas interrogantes sobre los posibles riesgos de la IA.
"Creemos que el estudio científico de riesgos catastróficos derivados de la AI no ha estado a la altura que debería estar", afirmó la empresa en un "marco de trabajo" disponible en su página web.
El trabajo de este equipo, bajo las nuevas directrices, debería "ayudar a cubrir ese vacío", añadió OpenAI.
El grupo se concentrará en los llamados "modelos de frontera" que la empresa desarrolla, con capacidades superiores a los software actuales de IA.
Sólo podrán desplegarse aquellos modelos catalogados de riesgo "medio" o inferior, tras un análisis en cuatro categorías, según el documento.
La primera de ellas es la ciberseguridad y la capacidad del modelo de llevar adelante ciberataques a gran escala.
En segundo lugar, analizarán la propensión del programa a crear preparaciones químicas, organismos (como un virus) o armas nucleares, todos los que potencialmente puerden generar daños para los humanos.
La tercera categoría se concentra en los poderes de persuasión del modelo: hasta qué punto es capaz de influenciar la conducta de una persona.
Por último, evaluarán el riesgo de su potencial autonomía, especialmente si el software es capaz de salirse del control de los programadores que lo crearon.
Una vez identificados los riesgos, la información será enviada al Grupo de Asesoramiento en Seguridad de OpenAI, nuevo equipo que hará recomendaciones a Altman o alguien nombrado por él.
Altman decidirá entonces sobre posibles modificaciones necesarias para reducir los riesgos del modelo.
El Consejo de administración será informado y podrá revertir las decisiones de la dirección.
Y.Aukaiv--AMWN
