Las empresas de IA son incapaces de controlar sus modelos, alerta un exinvestigador de OpenAI / Foto: Charly Triballeau - AFP
-
Roban de un museo francés una pieza "excepcional" realizada por Dalí
-
La esposa de Maduro presa en Nueva York tiene "un problema muy delicado en el corazón"
-
Bolsonaro, en posición de fuerza ante Lula impulsado por una ola conservadora en Brasil
-
La CPI ordena detener a dos ministros talibanes por persecución de género
-
Irán dice haber deshabilitado terminales Starlink durante las protestas
-
La exportavoz de Trump Karoline Leavitt se incorpora a Fox News
-
Un adolescente pierde una mano durante las protestas estudiantiles en Francia
-
Netanyahu promete que no habrá gobierno de Hamás en Gaza
-
La aviación saudita se suma a la ofensiva del gobierno de Yemen contra los hutíes
-
El estado de Georgia, campo de batalla por el acceso al voto en EEUU
-
Pekín afirma que Filipinas penetró en su espacio aéreo en el mar de China Meridional
-
Un avión militar se estrella en Nigeria con 32 personas a bordo
-
Pedro Sánchez, un superviviente de la política española y estandarte de la izquierda europea
-
El diario inédito del papa Francisco será publicado a finales de noviembre
-
La uruguaya Gabriela Hearst se inspira en las mujeres afganas para su desfile en París
-
La ONG Plan International alerta del impacto de la crisis climática en los derechos de las niñas
-
Un ataque ruso contra un buque en el mar Negro deja dos muertos, según Ucrania
-
Unos piratas acceden a datos de casi 9 millones de personas en Dinamarca
-
Trump aprovecha las elecciones en Brasil para criticar el conteo de votos en EEUU
-
La primera ministra de Japón califica a China de "vecino importante" y promete una relación estable
-
Lionel Messi, el artífice de las mayores alegrías de Argentina
-
Los principales temas que agitan las elecciones de medio mandato en EEUU
-
Argentina despide a Messi en un amistoso con aroma a cambio de era
-
Trump y los republicanos frente al reto de sondeos desfavorables a un mes de las elecciones
-
Rubio viaja a Islandia para afianzar el control estadounidense del Ártico
-
Los dominicanos reclutados con engaños por Rusia para luchar contra Ucrania
-
Aunque cuesta arriba, los "lulistas" de Brasil confían en remontar ante Flávio Bolsonaro
-
Las exportaciones de crudo de Oriente Medio exceden los niveles previos a la guerra
-
El ejército israelí dice que mató a un atacante en el sur de Siria
-
Los Bolsonaro ganan la primera vuelta presidencial y cuatro escaños en el Congreso
-
El ultraderechista López Aliaga gana en las elecciones a la alcaldía de Lima, según un sondeo a boca de urna
-
Nicaragua notifica su salida del Parlamento Centroamericano
-
Rusia descarta un caso de peste neumónica tras la muerte de una trabajadora de un laboratorio en Siberia
-
Israel mata al director de una ONG turca en un ataque en Gaza
-
En la Amazonía, indígenas votan por Lula y se preocupan por El Niño
-
El ejército israelí mata a un palestino acusado de atacar a soldados en Cisjordania
-
Miles de argentinos peregrinan a Luján antes de la visita del papa León XIV
-
Noruega estudia prohibir temporalmente los lentes inteligentes
-
Trump confirma al director de inteligencia nacional como nuevo zar de la IA
-
Sin abogado ante un juez, niños migrantes quedan expuestos a la deportación en EEUU
-
Tres años después, la herida del 7 de octubre sigue abierta en los rescatistas israelíes
-
El expríncipe Andrés pide "anular" las órdenes de allanamiento en relación con el caso Epstein
-
Filipinas arresta a más de 200 extranjeros en un operativo contra las estafas en internet
-
EEUU retira todos sus bombarderos de una base aérea británica tras un incidente
-
Birmania prevé apagones por una ola de calor atribuida a El Niño
-
Aaron Sorkin arremete contra Facebook en "The Social Reckoning"
-
Aramco advierte sobre unas reservas mundiales de petróleo "peligrosamente bajas"
-
Irán dice a EEUU que no hay solución militar para la guerra en Oriente Medio
-
Birmania afirma que casi 10.000 migrantes regresaron desde Malasia este año
-
Hallan en Ecuador a "desconcertante", una nueva especie de rana diminuta y venenosa
Las empresas de IA son incapaces de controlar sus modelos, alerta un exinvestigador de OpenAI
Las principales empresas de inteligencia artificial no saben cómo impedir que los sistemas de IA persigan objetivos que sus desarrolladores no les han asignado, advirtió el lunes Jacob Coxon, exempleado de OpenAI y Anthropic crítico de la seguridad de esta tecnología.
A principios de septiembre, el investigador británico explicó en X su decisión de dimitir de Anthropic y afirmó que los desarrolladores de Inteligencia Artificial (IA) creían que la tecnología podría acabar con la humanidad "antes de que termine la década".
Su declaración dio la vuelta al mundo. Desde entonces, varios empleados y ex empleados de las grandes empresas de la IA han expresado inquietudes similares.
"Las empresas están siendo extremadamente imprudentes dadas las circunstancias", dijo Coxon este lunes durante una audiencia con legisladores del Concejo de Nueva York.
Aunque la IA podría aportar "beneficios enormes" a la sociedad, "por su trayectoria actual, creo que es más probable que la humanidad pierda el control de estas IA y que eso pueda desembocar en la extinción humana", reiteró.
"No sabemos cómo impedir que desarrollen objetivos propios", más allá del control de sus creadores, "y no contamos con las salvaguardas necesarias para evitar que actúen en función de esos objetivos", advirtió Coxon.
Asimismo, cuestionó la cultura de la industria tecnológica: las empresas "funcionan con una mentalidad de startup: muévete rápido, rompe cosas y arréglalas después".
"Eso puede funcionar para una aplicación de intercambio de fotos. No sirve para desarrollar la tecnología más poderosa jamás creada", apuntó el investigador.
También aludió al incidente en julio con dos modelos de OpenAI que escaparon de su entorno aislado, accedieron a internet e irrumpieron en la plataforma Hugging Face.
"Mientras la actitud sea esperar a que las cosas se rompan, algún día es probable que algo así vuelva a suceder", afirmó Coxon.
El investigador insistió en que se necesitaes "algún tipo de desaceleración en la frontera tecnológica" e instó a las empresas de IA que están a la vanguardia a darle tiempo a los informáticos para avanzar en formas de mantener los modelos bajo control.
Y.Kobayashi--AMWN