American Marconi Wireless News - Amazon busca fazer a diferença na batalha para treinar IA

Em suas instalações em Austin, Texas, no sul dos Estados Unidos, engenheiros e técnicos da Annapurna Labs — uma subsidiária da Amazon (AWS) — testam a durabilidade do chip Trainium 3, que estará disponível no mercado a partir de dezembro de 2025.

O Texas se tornou um destino fundamental para empresas de IA devido aos seus baixos custos operacionais, energia abundante e políticas favoráveis aos negócios. Isso impulsionou o crescimento de polos tecnológicos fora do Vale do Silício.

Em outra instalação próxima, funcionários protegem os ouvidos enquanto se movem entre os racks que abrigam os barulhentos UltraServers com os chips Trainium 3, que estão sendo testados antes de serem entregues aos clientes.

Desde o lançamento da primeira versão em 2020, o Trainium 3, o mais recente, é ligeiramente menor que um cartão de crédito.

"Isso pode reduzir os custos de treinamento e inferência em até 30-40% em comparação com alternativas de GPU [processador gráfico]. Isso se traduz em custos mais baixos para nossos clientes e melhor desempenho", disse à AFP Kristopher King, diretor do laboratório de IA em Austin.

Para que um sistema de segurança reconheça rostos, para que um carro autônomo alerte com precisão sobre perigos, para que o ChatGPT responda de forma clara e rápida ou para que a tradução de voz ao vivo seja realizada, é necessária uma IA cada vez mais sofisticada.

E os chips — geralmente feitos de silício com um circuito eletrônico integrado — permitem que a máquina seja programada, realizando milhões de cálculos matemáticos por segundo, investindo energia e tempo.

- Como funciona? -

"O treinamento de IA envolve centenas de milhares de chips trabalhando simultaneamente em um sistema de alta disponibilidade, treinando por várias semanas. Se algo falhar ou ficar indisponível durante esse período, eles precisam reiniciar do último ponto salvo ou começar do zero", explica Mark Carroll, diretor de engenharia da Amazon Annapurna Labs.

"Em resumo, [os clientes] eles se perguntam: podemos fazer isso mais rápido, a um custo menor e com maior confiabilidade? É por isso que nossa melhora de 40% na relação custo-benefício é tão importante para nossos clientes hoje", acrescenta.

Carroll explica que a Anthropic — uma empresa de IA com sede nos Estados Unidos e o maior cliente do Trainium — solicita principalmente maior desempenho e custos mais baixos.

- Por que um próprio? -

Algumas empresas preferiram terceirizar o desenvolvimento de chips para treinar sua inteligência artificial, optando principalmente pela Nvidia. Mas a Amazon também queria ter sua própria alternativa.

"Decidimos fabricar nosso próprio chip para que pudéssemos integrar verticalmente a arquitetura personalizada do chip com o software, seja para o AWS Bedrock [uma plataforma de IA empresarial] ou para um cliente que utilize nossa interface Neuron Kernel [software para os chips Trainium]", explica King.

"Personalizamos o software, o hardware em nossos data centers, os racks, os servidores e os chips. Isso se traduz no melhor desempenho para o cliente", acrescenta.

A AWS, líder mundial em serviços de computação em nuvem, não vende seus chips Trainium para terceiros. Eles estão disponíveis apenas para seus clientes.

Ch.Kahalev--AMWN