American Marconi Wireless News - China e EUA buscam 'telefone vermelho' diante dos riscos da IA

O alcance do diálogo, sugerido no domingo sem muitos detalhes pelo secretário do Tesouro dos Estados Unidos, Scott Bessent, deve ser limitado.

O secretário americano se limitou a mencionar a necessidade de passar "de uma situação de opacidade para uma transparência maior".

A proposta reflete a preocupação com o potencial destrutivo da IA, que poderia agir de forma imprevisível ou acelerar sem controle a tomada de decisões militares.

"Nas duas partes, se observa uma tomada de consciência de que existe a possibilidade de incidentes e usos indevidos em detrimento dos interesses dos dois países", afirmou à AFP Jean-Marc Rickli, diretor de Riscos Globais e Emergentes do Centro de Política de Genebra.

"O 'telefone vermelho' foi estabelecido após a crise de Cuba de 1962", lembra o analista, em referência ao sistema de comunicação direta entre Estados Unidos e União Soviética em plena Guerra Fria para evitar incidentes militares graves.

Rickli recorda um incidente recente em que, segundo a rede CNN, os Estados Unidos estiveram a ponto de abordar um navio chinês com base em informações falsas elaboradas por IA.

- Prioridades diferentes -

Desde 2023, existe um diálogo bilateral entre especialistas e centros de pesquisa, mas sem a intervenção dos governos, sobre os modelos de IA mais avançados de empresas como OpenAI, Anthropic, DeepSeek ou Alibaba.

Segundo a pesquisadora Mathilde Viellet, do Instituto Francês de Relações Internacionais (Ifri), o diálogo evidenciou que as prioridades das duas potências são diferentes.

Enquanto a China está preocupada há vários anos com a segurança e luta contra os 'deepfakes', os Estados Unidos "se preocupam sobretudo com a perda de controle e o 'desalinhamento' da IA, quando ela atua de forma autônoma", explica a especialista à AFP.

No momento, segundo a consultoria americana Teneo, "nenhum dos dois governos está disposto a assumir compromissos vinculantes sobre o desenvolvimento da IA".

Além disso, os Estados Unidos apostam em modelos de IA fechados e de propriedade privada para preservar sua vantagem comercial, enquanto a China opta pelo código aberto para acelerar os avanços tecnológicos.

Segundo Jean-Marc Rickli, faria sentido criar um sistema de comunicação entre China e Estados Unidos para o caso de uma decisão militar em que a IA tome decisões rápidas demais ou baseadas em informações equivocadas.

Por sua vez, Mathilde Viellet defende um 'telefone vermelho' para ser utilizado em caso de perda de controle da IA e para evitar seu uso por atores mal-intencionados.

Em setembro, a Anthropic revelou cinco casos de uso de seu modelo de IA Claude de uma forma "que poderia servir para o desenvolvimento de armas biológicas".

Mas, ainda que se estabeleça "certa coordenação flexível", o pesquisador americano Matt Sheehan acredita que "as medidas mais importantes em termos de governança e segurança da IA serão aquelas adotadas por cada país em nível nacional".

B.Finley--AMWN