American Marconi Wireless News - Anthropic sugere pausa global no desenvolvimento da IA

Desenvolvedora dos modelos de IA do Claude, a empresa, sediada em San Francisco, destacou em um relatório que a desaceleração mundial no desenvolvimento da IA de ponta poderia ser "uma boa ideia", mas alertou que, se apenas uma empresa diminuir o ritmo, ela pode simplesmente ser ultrapassada pela concorrência.

"Acreditamos que seria bom para o mundo ter a opção de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia", manifestou a Anthropic.

Uma pausa real significaria grandes empresas de IA em vários países, principalmente China e Estados Unidos, concordando em parar ao mesmo tempo, sob regras que todos pudessem verificar, ressaltou a Anthropic. "Sem um mecanismo de coordenação global, empresas e governos terão que tomar decisões difíceis sobre segurança enquanto enfrentam pressões competitivas e geopolíticas."

A proposta enfrenta uma batalha difícil em Washington e no Vale do Silício. Funcionários americanos e executivos de grandes empresas de tecnologia argumentam que desacelerar o desenvolvimento da IA poderia dar à China uma vantagem significativa.

O presidente Donald Trump, no entanto, assinou nesta semana um decreto que permitirá ao governo fazer avaliações preliminares dos modelos de IA mais poderosos de empresas americanas antes do seu lançamento.

A Anthropic indicou que espera reunir nos próximos meses funcionários do governo, cientistas, grupos de defesa e empresas concorrentes para definir como esse sistema funcionaria.

O chamado à coordenação surge no momento em que dados internos mostram que a IA acelera de forma dramática seu próprio desenvolvimento, destacou a Anthropic. A empresa alertou que essa aceleração criaria um ciclo de retroalimentação que poderia levar ao que pesquisadores chamam de "melhora recursiva de si mesma", o que se refere à ideia de que um sistema de IA poderia ser capaz de ensinar a si próprio a se tornar mais inteligente.

A Anthropic negou que esse ponto seja inevitável, mas ressaltou que "as evidências sugerem que o papel humano está diminuindo em cada etapa do processo de desenvolvimento da IA".

P.Stevenson--AMWN