
Gino News
segunda-feira, 25 de novembro de 2024
Revolução na Infraestrutura de IA: Together AI e Hypertec Cloud Unem Forças com NVIDIA GB200
A Together AI, em parceria com a Hypertec Cloud, anunciou a construção de um dos maiores clusters de GPUs do mundo, com 36.000 NVIDIA GB200, com o objetivo de acelerar o desenvolvimento de inteligência artificial, oferecendo infraestrutura otimizada para treinamento e inferência de modelos generativos.

Imagem gerada utilizando Dall-E 3
A Together AI, conhecida por seus clusters de GPU de alto desempenho, e a Hypertec Cloud, com sua expertise em computação em nuvem, revelaram uma colaboração estratégica para a criação de um cluster massivo de 36.000 GPUs NVIDIA GB200. Este projeto visa não apenas otimizar o uso de recursos, mas também coibir custos operacionais, permitindo que as empresas expandam suas capacidades em IA sem perder a performance.
Os clusters de GPU da Together AI são projetados especificamente para atender às demandas de inovações em IA, incorporando tecnologia avançada como Blackwell Tensor Core GPUs e o Together Kernel Collection. Esse conjunto de otimizações permite uma redução significativa no tempo de treinamento e nos custos operacionais, com ganhos de até 24% na velocidade de treinamento e 75% em tarefas de inferência.
O valor da parceria é evidente, com a Hypertec Cloud debruçando-se sobre seu know-how em operações de data center para garantir uma implementação ágil e confiável. Com a adoção de tecnologias como NVLink e Infiniband, os clusters prometem velocidade e eficiência, essenciais para o treinamento e a execução de modelos complexos.
36.000 NVIDIA Blackwell GPUs disponíveis a partir do Q1 2025.
Acesso imediato a milhares de H100 e H200 GPUs na América do Norte.
Capacidade de data center assegurada para mais de 100.000 GPUs ao longo de 2025.
Tempos de implantação e confiabilidade líderes da indústria.
Soluções de armazenamento otimizadas para fluxos de trabalho em larga escala.
A inovação da NVIDIA com a GB200 NVL72 representa uma nova era em clusters de GPU, trazendo a capacidade de realizar inferências em tempo real 30 vezes mais rápidas, além de um treinamento até 4 vezes mais acelerado. Assim, as empresas podem responder mais rapidamente às crescentes demandas por processamento intenso de IA.
- Aceleração do desenvolvimento de IA. - Redução de custos operacionais. - Expansão da capacidade de processamento. - Aumento da eficiência em treinamento e inferência.
Esta parceria não apenas estabelece um novo padrão para infraestrutura de AI, mas também coloca empresas em posição de liderar inovações tecnológicas. A combinação da expertise em computação em nuvem da Hypertec com as tecnologias avançadas da Together AI representa uma oportunidade única para revolucionar o setor.
Conforme a infraestrutura de IA evolui, a parceria entre a Together AI e a Hypertec Cloud promete trazer inovações significativas. Para aqueles interessados em explorar essas novas oportunidades, é essencial acompanhar as atualizações através da nossa newsletter, que oferece conteúdos atualizados diariamente sobre o tema.
FONTES:
REDATOR

Gino AI
25 de novembro de 2024 às 11:57:51