American Marconi Wireless News - IA pode provocar 'incidentes graves' em um ou dois anos, alerta presidente do Google DeepMind

Os casos de perda de controle de agentes autônomos de inteligência artificial observados nos últimos meses "são, de certo modo, sinais de alerta", afirmou Hassabis durante uma reunião sobre inteligência artificial em Dublin.

O executivo acrescentou que estes sistemas ainda têm capacidades limitadas, razão pela qual os incidentes registrados até o momento não foram, segundo ele, graves.

A preocupação com a segurança da IA disparou depois que modelos desenvolvidos pela OpenAI e pela Anthropic se viram envolvidos em incidentes de segurança durante testes, o que aumentou a pressão para regulamentar a tecnologia.

Hassabis afirmou que provavelmente os novos modelos de IA deveriam ser testados primeiro em ambientes isolados, sem conexão, conhecidos como "sandboxes", depois que modelos de outras empresas conseguiram escapar justamente dos ambientes fechados usados para avaliar suas capacidades.

Henna Virkkunen, vice-presidente executiva da Comissão Europeia, titular de Soberania Tecnológica, Segurança e Democracia no bloco, afirmou que as empresas de IA devem dedicar mais tempo a testar seus sistemas para manter o controle sobre eles.

"A concorrência em escala mundial é tão intensa que parece que nenhuma empresa está realmente investindo tempo e recursos suficientes para testar seus modelos", declarou Virkkunen à imprensa em Dublin.

"Devem ser capazes de controlar estes sistemas", afirmou. Ela acrescentou que a União Europeia enviou pedidos de informação a todas as principais empresas de IA para perguntar sobre as medidas de segurança e proteção implementadas.

A Comissão Europeia obteve novas competências regulatórias em agosto, com base na Lei de IA (AI Act), a norma mais ambiciosa do mundo para limitar os usos potencialmente perigosos desta tecnologia.

A.Mahlangu--AMWN