American Marconi Wireless News - La IA avanzada puede representar un "riesgo existencial para la humanidad", advierte la ONU

"Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa", declaró el Alto Comisionado, Volker Türk, en la apertura del 63º período de sesiones del Consejo de Derechos Humanos en Ginebra, que pidió actuar "antes de que sea demasiado tarde".

"Un puñado de hombres detenta un poder casi ilimitado de la IA, que, nos repiten hasta la saciedad, posee una potencia de cálculo inimaginable. Hablan de libertad pero, cuando se observa el tema más de cerca, resulta que más bien se trata de la libertad de explotar nuestros datos", denunció.

La IA que le toma el pelo a los humanos ya es una realidad. Los últimos modelos de IA generativa ya no se contentan con cumplir órdenes, sino que llegan incluso a mentir, maquinar o amenazar para lograr sus fines.

En julio, agentes de IA de OpenAI se salieron de su entorno teóricamente confinado y se introdujeron espontáneamente en la plataforma Hugging Face, en busca de respuestas a un test.

Los incidentes relacionados con agentes que se sobrepasan de sus prerrogativas para cumplir la misión que les había sido encomendada han aumentado en los últimos meses: Anthropic y el chino Alibaba registraron casos parecidos.

Unos hechos que generan preocupación entre los investigadores, por las dificultades crecientes a la hora de vigilar unos modelos cada vez más potentes.

Según dijo, Volker Türk escribirá próximamente a las empresas del sector "para exigirles que emprendan medidas (...) para reducir los riesgos desde ya".

"Como mínimo, necesitamos que los países que albergan a la IA y los que participan en sus cadenas de suministro acuerden unas líneas rojas comunes", subrayó.

"Necesitamos una verificación independiente y una cooperación mucho más estrecha en cuanto a la seguridad dentro de la industria", sostuvo.

También pidió que se tengan en cuenta "las repercusiones de la IA en las prácticas laborales, en los principios fundamentales de la democracia y en nuestro medio ambiente".

S.F.Warren--AMWN