American Marconi Wireless News - Presidente da Microsoft pede normas de segurança para IA 'reais e eficazes'

"Vamos precisar, para a IA, assim como para todo o resto em nossas vidas (...), de normas de segurança reais e eficazes, nas quais o público possa confiar", declarou o executivo a um grupo de jornalistas, às vésperas de uma cúpula internacional sobre IA em Dublin.

A preocupação com os riscos da IA se multiplicou nos últimos meses depois que os modelos desenvolvidos pela OpenAI e pela Anthropic se viram envolvidos em incidentes de segurança durante testes, o que aumentou a pressão para regulamentar essa tecnologia ou até mesmo frear o desenvolvimento dos modelos que representem riscos maiores.

O executivo detalhou as propostas da Microsoft para reforçar a segurança do setor, a começar pela obrigação de dotar os sistemas de IA de "freios de emergência" que os usuários possam acionar em caso de incidente.

"A ideia, especialmente para as IAs que administram infraestruturas críticas ou sistemas automatizados, é ter a possibilidade de desligá-las ou desacelerá-las", por exemplo, em caso de perda de controle, usando esse freio de emergência, explicou.

Smith também defendeu impor aos fornecedores de IA a obrigação de notificar incidentes. "Quando você é uma empresa e é afetada por um incidente de segurança que provoca o vazamento de dados dos consumidores, é obrigado a notificá-los de que alguém teve acesso a seus dados. Acho que a mesma lógica deveria se aplicar às vítimas de um agente de IA", com uma responsabilidade legal de informar os clientes.

Por fim, o presidente do grupo americano também pediu o reforço dos testes e avaliações dos modelos de IA para garantir que sejam seguros antes de seu lançamento no mercado.

Diante da rapidez com que o setor evolui, "precisamos agir com urgência", insistiu.

Vários outros executivos da indústria afirmaram, nas últimas semanas, que essa tecnologia exige uma vigilância maior.

O CEO da Anthropic, Dario Amodei, prometeu em 23 de setembro, na ONU, desacelerar o desenvolvimento da inteligência artificial quando necessário para garantir que cada novo modelo comercializado seja seguro.

No fim de setembro, executivos dos principais gigantes do setor — de Elon Musk, do X, passando por Sundar Pichai, do Google, Jensen Huang, da Nvidia, e também Amodei — assinaram na Casa Branca um código de boas práticas para gerenciar melhor os riscos associados à IA.

fpo/cjc/spi/erl/mmy/an/mmy/jc/mvv

O.Karlsson--AMWN