Investigadores quieren crear una inteligencia artificial que controle a la ...IA / Foto: JOEL SAGET - AFP/Archivos
-
Amnistía Internacional alerta de "graves riesgos" para hinchas del Mundial en EEUU
-
El gobierno de Kast revertirá la expropiación de Colonia Dignidad, centro de represión bajo Pinochet
-
Un petrolero ruso se acerca a Cuba a pesar del bloqueo de EEUU
-
Martín Zubimendi causa baja con España por molestias en la rodilla
-
La policía israelí impide la entrada al Patriarca Latino de Jerusalén a la iglesia del Santo Sepulcro
-
Pakistán acoge reunión sobre guerra en Oriente Medio con Arabia Saudita, Turquía y Egipto
-
A sus 50, Apple debe hacer frente a un nuevo desafío: la IA
-
El patrón del fútbol africano promete "respetar" la decisión del TAS sobre el título de la CAN
-
Vingegaard se lleva la victoria final en la Volta a Catalunya
-
La cadena catarí Al Araby denuncia daños en su oficina de Teherán tras un ataque israelí
-
Reinstaurar el test de feminidad es "una falta de respeto a las mujeres", denuncia Caster Semenya
-
El papa advierte en su misa: Dios "no escucha la oración de quienes hacen la guerra"
-
La policía israelí impide al Patriarcado Latino de Jerusalén celebrar la misa del Domingo de Ramos
-
Republicanos divididos sobre su identidad y estrategia para elecciones de medio mandato en EEUU
-
Nace una estrella en Suzuka: Antonelli es el líder más joven en la historia de la F1
-
Dos nuevas detenciones por atentado frustrado contra Bank of America en París
-
Reinstaurar test de feminidad es "una falta de respeto a las mujeres", denuncia Caster Semenya
-
"Estamos bien", dice Maduro en su primer mensaje desde prisión en EEUU
-
El líder norcoreano supervisa una prueba de un motor de cohete de combustible sólido
-
Siete heridos graves por un atropello intencionado en Reino Unido
-
Un ataque con drones provoca un incendio en un puerto ruso en el Báltico
-
El estadio Azteca reabre sus puertas sin goles, con manifestaciones y una tragedia
-
La prolongada ofensiva de Irán pone a prueba los sistemas de defensa israelíes
-
Irán reivindica ataques contra grandes sitios industriales en el Golfo
-
Multitudes de manifestantes protestan en todo EEUU contra Trump
-
Llegan a Cuba dos veleros con ayuda humanitaria tras ser relocalizados
-
La policía francesa frustra un atentado con explosivos frente al Bank of America en París
-
México denuncia la muerte de otro migrante en EEUU bajo custodia del ICE
-
Líbano denuncia la muerte de tres periodistas libaneses en un ataque israelí
-
El vicepresidente de EEUU dice estar "obsesionado" con los ovnis
-
Víctor Muñoz, del fallo en un Clásico a marcar en su debut con La Roja
-
Ucrania firma acuerdos de cooperación en defensa con Emiratos y Catar
-
Los rebeldes hutíes de Yemen entran en la guerra con un ataque a Israel
-
Los republicanos de la Cámara rechazan el plan del Senado para poner fin al caos en los aeropuertos de EEUU
-
Detienen al ex primer ministro de Nepal en el caso por la represión de las protestas de la Generación Z
-
EEUU flexibiliza inversiones para la explotación de minerales en Venezuela
-
Manifestantes anti-Trump convocan protestas para este sábado en EEUU
-
Bank of America acepta pagar 72,5 millones de dólares para cerrar un proceso civil vinculado a Epstein
-
Republicanos de la Cámara rechazan plan del Senado para poner fin a caos en aeropuertos de EEUU
-
Zelenski anuncia un acuerdo entre Ucrania y Emiratos para cooperar en defensa
-
Nestlé denuncia el robo de 12 toneladas de chocolates KitKat en Europa
-
Ataques rusos matan a 4 personas en Ucrania, dañan un puerto y una maternidad
-
Más de 20 migrantes mueren cerca de la costa de Grecia tras seis días a la deriva
-
El Real Zaragoza, de asombrar a Europa a verse con un pie en el precipicio
-
El papa León XIV denuncia en Mónaco los "abismos entre pobres y ricos"
-
Varios ataques dejan tres muertos en Ucrania y un niño fallecido en Rusia, según autoridades locales
-
Los hutíes de Yemen lanzan su primer ataque contra Israel en la guerra de Oriente Medio
-
Mónaco recibe al papa León XIV para una inusual visita
-
Kimi Antonelli firma la pole position en Suzuka, nuevo doblete de Mercedes
-
"Cuba es la siguiente", afirma Trump
Investigadores quieren crear una inteligencia artificial que controle a la ...IA
El profesor canadiense Yoshua Bengio, considerado uno de los padres de la inteligencia artificial, presentó el martes su nueva organización dedicada a la IA responsable, cuyo objetivo es, sobre todo, diseñar software capaz de evitar los abusos de los agentes de IA.
Desde hace varios años, este ganador del Premio Turing (2018), también conocido como el Nobel de la informática, viene advirtiendo de los riesgos asociados al desarrollo de la IA, ya sea en términos de uso malicioso o de que el propio software salga mal.
"Los sistemas más avanzados ya están mostrando signos de autopreservación y comportamiento engañoso", explica el investigador en un comunicado publicado este martes.
"Y esto sólo va a acelerarse a medida que aumenten sus capacidades y autonomía", anuncia.
Su nueva organización sin ánimo de lucro, llamada LawZero, pretende ser "una respuesta a estos retos".
Varios ejemplos recientes han confirmado que la IA ha alcanzado recientemente nuevos niveles de sofisticación, entre ellos un estudio de la start-up Anthropic.
En una simulación, la nueva interfaz de IA generativa de Anthropic, Claude 4, fue advertida de su inminente sustitución por un ingeniero de software.
Acorralada, intentó por iniciativa propia chantajear al ingeniero para disuadirle de deshacerse de ella.
Una de las misiones de LawZero es "proponer una forma de supervisar a los agentes de IA", la nueva generación de modelos generativos de IA capaces de realizar un sinfín de tareas de forma autónoma, desde buscar en Internet hasta llamar a un cliente o escribir un programa en código.
"Uno de los primeros objetivos es desarrollar una forma de IA que pueda utilizarse como salvaguarda para garantizar que la IA se comporta bien", describe Bengio en un vídeo de la web de LawZero.
"La IA puede ser extremadamente beneficiosa si nos aseguramos de que no va a hacer daño a la gente", "ya sea porque esté en las manos equivocadas o de forma autónoma", agrega.
LawZero también quiere trabajar en una IA con autonomía limitada para su uso en investigación científica.
La organización cuenta ya con más de 15 investigadores y ha recibido varias aportaciones económicas, una de ellas de Schmidt Sciences, organización benéfica creada por el ex jefe de Google Eric Schmidt y su esposa Wendy.
LawZero se puso en marcha bajo los auspicios del Instituto de Montreal para el Aprendizaje de Algoritmos (Mila), fundado en 1993 por Bengio.
H.E.Young--AMWN