American Marconi Wireless News - UE está preocupada com possível alcance de novo modelo de IA da Anthropic

O novo modelo da Anthropic, Claude Mythos, mostrou-se especialmente eficaz na detecção de pontos fracos em diferentes programas, o que levou a empresa a adiar o seu lançamento completo.

Segundo a companhia americana e seus parceiros, o Claude Mythos consegue analisar de forma autônoma grandes quantidades de código para encontrar e encadear vulnerabilidades de segurança até então desconhecidas em todo o tipo de software, desde sistemas operacionais até navegadores da web.

"Temos um novo modelo de IA que está sendo lançado. Ele acarreta certos riscos. Precisamos de informações sobre eles", declarou o porta-voz da Comissão Europeia, Thomas Regnier, aos jornalistas.

"Estamos em contato com a Anthropic. Recebemos algumas informações", acrescentou, confirmando que a primeira reunião ocorreu na quarta-feira e que haverá mais encontros.

No início deste mês, a companhia anunciou que iria limitar a distribuição do Claude Mythos a apenas 40 grandes empresas de tecnologia, para dar tempo de corrigir vulnerabilidades antes que possam ser exploradas por hackers.

No entanto, não foram incluídas entidades estrangeiras, o que gera preocupação sobre o grau de preparação do mundo diante de um modelo cujas capacidades ofensivas não se limitariam às fronteiras dos Estados Unidos.

O crucial, advertem a Anthropic e seus parceiros, é que isso pode ser feito em uma velocidade e escala que nenhum humano conseguiria igualar, suscitando o risco de ser usado para paralisar bancos, hospitais ou infraestruturas nacionais em questão de horas.

O anúncio da Anthropic gerou alarme e ceticismo. E, ao que parece, os diretores dos maiores bancos dos Estados Unidos se reuniram neste mês com o presidente do Federal Reserve (Fed, banco central), Jerome Powell, e com o secretário do Tesouro, Scott Bessent, para avaliar as implicações de segurança do modelo ainda não lançado.

F.Bennett--AMWN