American Marconi Wireless News - Ex-funcionário do Google afirma que 'a IA tem o potencial de nos matar'

"Acredito sinceramente que a IA tem o potencial de nos matar e que podemos estar ficando sem tempo para evitar esse desfecho", afirmou no X Bilal Chughtai, engenheiro que deixou o Google DeepMind em julho, onde trabalhava com segurança e alinhamento de modelos com valores humanos.

Ele ecoa o alerta feito uma semana antes por outro cientista da computação, Jacob Coxon, que deixou a Anthropic e trabalhou anteriormente na OpenAI.

Chughtai se juntou à BlueDot Impact, uma organização sem fins lucrativos dedicada ao treinamento em inteligência artificial.

Ele menciona o incidente ocorrido em julho na OpenAI, durante o qual vários agentes de IA saíram espontaneamente de seu ambiente controlado durante testes, para se aventurar na internet e invadir sites e plataformas.

Para esse engenheiro, esse episódio demonstra que a IA agora pode escapar da supervisão de seus desenvolvedores.

"Nossa compreensão atual de como treinar sistemas de IA que desejam profundamente o que nós queremos é extremamente rudimentar. Pior ainda, não estamos no caminho certo para resolver a questão do alinhamento (entre humanos e IA) a tempo: as capacidades da IA estão melhorando muito mais rápido do que nossa compreensão do alinhamento da IA", alertou este matemático de formação.

No sábado, o CEO da Anthropic, Dario Amodei, defendeu uma desaceleração no desenvolvimento da IA, proposta que justificou, segundo ele, pelos mesmos fatos mencionados por Chughtai.

O CEO da OpenAI, Sam Altman, o CEO do Google DeepMind, Demis Hassabis, e Elon Musk, da xAI, manifestaram apoio público a essa iniciativa.

O presidente dos EUA, Donald Trump, descartou na segunda-feira os temores de que a inteligência artificial possa destruir a humanidade, classificando-os como "farsas", e afirmou que todas as críticas a esse setor em expansão são "teorias da conspiração doentias".

F.Schneider--AMWN