American Marconi Wireless News - OpenAI afirma que seu agente de IA invadiu outras plataformas

Uma delas serviu de intermediária para preparar o ataque contra a Hugging Face, uma biblioteca de IA que os dois modelos exploraram para encontrar as respostas aos testes propostos pelos desenvolvedores da OpenAI.

A empresa criadora do ChatGPT não revelou os nomes das entidades afetadas.

Segundo uma atualização do relatório do incidente publicada na noite de terça-feira (28), as duas IAs também utilizaram vários sites de acesso livre para copiar ou testar código de programação, mas sem ir além do que faria um usuário comum.

Para a Hugging Face, que publicou um extenso relato dos acontecimentos, a invasão da qual foi vítima correspondia a uma "tentativa (dos dois modelos) de trapacear na avaliação" da OpenAI.

As IAs quiseram "roubar as soluções dos testes em vez de tentar respondê-los por conta própria".

Este desvio de modelos não é o primeiro a ser documentado, mas é considerado o mais grave até o momento. Ele deu novo impulso ao já intenso debate sobre a aceleração da IA, cujas capacidades são cada vez mais amplas, e sobre a dificuldade de controlá-la.

Na terça-feira, mais de mil funcionários de gigantes de IA, incluindo vários altos executivos, pediram ao governo americano que ajude a "frear" o lançamento de novos modelos para dar tempo ao ecossistema de computação de se preparar.

Eles defendem, em uma petição, que os Estados Unidos sejam o motor da criação de uma instância internacional de referência em matéria de avaliação e supervisão da IA.

O setor anuncia que a IA está se aproximando progressivamente da etapa chamada de "autoaperfeiçoamento recursivo" (recursive self-improvement, RSI), além do qual a inteligência artificial seria capaz de conceber sozinha sua sucessora, uma sequência que poderia se repetir até o infinito.

O "RSI" tornaria mais difíceis as verificações e a avaliação de novos modelos por parte de especialistas humanos em informática, já que os desenvolvedores não teriam participado diretamente de seu desenvolvimento.

A.Malone--AMWN