American Marconi Wireless News - Un experto advierte sobre "señales de advertencia" ante el rápido avance de la IA

Durante una conferencia organizada por la UNESCO y la Asociación Internacional para una IA Segura y Ética (IASEAI), Russell pidió a los asistentes "imaginar, hipotéticamente, que el mundo estuviera desarrollando algo parecido a la AGI (inteligencia artificial general) y que hubiéramos establecido pruebas (...) e imaginar que esos sistemas empezaran a fallar todas esas pruebas y a comportarse de forma peligrosa".

"Estoy seguro de que responderíamos a esas grandes señales de advertencia y alarmas, y tomaríamos medidas para controlar esta tecnología", afirmó.

El investigador británico, profesor en la Universidad de California en Berkeley, describió problemas como los "agentes" autónomos de IA que podrían escapar o intentar escapar del control humano.

Algunos incluso le enviaron correos electrónicos sin intervención humana para anunciar que habían alcanzado la consciencia o que merecían derechos.

También destacó casos de la llamada "psicosis por IA", en los que conversaciones con chatbots llevan a algunas personas a actuar de manera irracional o a hacerse daño, y advirtió que la carrera empresarial y geopolítica por desarrollar sistemas cada vez más potentes podría agravar estos problemas.

Russell no se mostró totalmente pesimista y afirmó tener "la sensación de que el péndulo vuelve a inclinarse" hacia gobiernos y empresas tecnológicas que toman en serio la seguridad de la IA, tras la cumbre mundial celebrada la semana pasada en India.

Las llamadas "potencias intermedias", más allá de Estados Unidos y China, están abiertas a regular la inteligencia artificial de forma más estricta, indicó el experto, citando como ejemplo la Unión Europea.

Añadió que los dirigentes de importantes empresas tecnológicas, entre ellas Google y Anthropic, plantearon la idea de poner en pausa la carrera tecnológica si se puede convencer a sus competidores.

Los votantes comunes no se muestran entusiasmados con la idea de ser reemplazados en el trabajo por "los humanos de imitación" que están desarrollando las grandes empresas, señaló Russell.

L.Miller--AMWN