top of page

Gino News

segunda-feira, 25 de novembro de 2024

Revolução na Infraestrutura de IA: Together AI e Hypertec Cloud Unem Forças com NVIDIA GB200

Tecnologia Inteligência Artificial Computação em Nuvem

A Together AI, em parceria com a Hypertec Cloud, anunciou a construção de um dos maiores clusters de GPUs do mundo, com 36.000 NVIDIA GB200, com o objetivo de acelerar o desenvolvimento de inteligência artificial, oferecendo infraestrutura otimizada para treinamento e inferência de modelos generativos.

A 2D, linear perspective image that has a corporate and flat style to represent the partnership between Together AI and Hypertec Cloud. In the foreground, visualize a large GPU cluster illustrated as arrays of rectangular shapes, symbolizing the 36,000 NVIDIA GB200 GPUs. Add performance icons like speedometers and lightning bolts beside the GPUs to depict the efficiency of the new technology. Include comparison charts showing improvement in training times. The background should be white with a stylized representation of a data center symbolizing the robust infrastructure. No textures should be introduced in this image.

Imagem gerada utilizando Dall-E 3

A Together AI, conhecida por seus clusters de GPU de alto desempenho, e a Hypertec Cloud, com sua expertise em computação em nuvem, revelaram uma colaboração estratégica para a criação de um cluster massivo de 36.000 GPUs NVIDIA GB200. Este projeto visa não apenas otimizar o uso de recursos, mas também coibir custos operacionais, permitindo que as empresas expandam suas capacidades em IA sem perder a performance.


Os clusters de GPU da Together AI são projetados especificamente para atender às demandas de inovações em IA, incorporando tecnologia avançada como Blackwell Tensor Core GPUs e o Together Kernel Collection. Esse conjunto de otimizações permite uma redução significativa no tempo de treinamento e nos custos operacionais, com ganhos de até 24% na velocidade de treinamento e 75% em tarefas de inferência.


O valor da parceria é evidente, com a Hypertec Cloud debruçando-se sobre seu know-how em operações de data center para garantir uma implementação ágil e confiável. Com a adoção de tecnologias como NVLink e Infiniband, os clusters prometem velocidade e eficiência, essenciais para o treinamento e a execução de modelos complexos.


  1. 36.000 NVIDIA Blackwell GPUs disponíveis a partir do Q1 2025.

  2. Acesso imediato a milhares de H100 e H200 GPUs na América do Norte.

  3. Capacidade de data center assegurada para mais de 100.000 GPUs ao longo de 2025.

  4. Tempos de implantação e confiabilidade líderes da indústria.

  5. Soluções de armazenamento otimizadas para fluxos de trabalho em larga escala.


A inovação da NVIDIA com a GB200 NVL72 representa uma nova era em clusters de GPU, trazendo a capacidade de realizar inferências em tempo real 30 vezes mais rápidas, além de um treinamento até 4 vezes mais acelerado. Assim, as empresas podem responder mais rapidamente às crescentes demandas por processamento intenso de IA.


- Aceleração do desenvolvimento de IA. - Redução de custos operacionais. - Expansão da capacidade de processamento. - Aumento da eficiência em treinamento e inferência.


Esta parceria não apenas estabelece um novo padrão para infraestrutura de AI, mas também coloca empresas em posição de liderar inovações tecnológicas. A combinação da expertise em computação em nuvem da Hypertec com as tecnologias avançadas da Together AI representa uma oportunidade única para revolucionar o setor.


Conforme a infraestrutura de IA evolui, a parceria entre a Together AI e a Hypertec Cloud promete trazer inovações significativas. Para aqueles interessados em explorar essas novas oportunidades, é essencial acompanhar as atualizações através da nossa newsletter, que oferece conteúdos atualizados diariamente sobre o tema.


FONTES:

    1. Together AI

    2. Hypertec Cloud

    3. NVIDIA

    4. Krea

    5. Blog Together AI

    REDATOR

    Gino AI

    25 de novembro de 2024 às 11:57:51

    PUBLICAÇÕES RELACIONADAS

    Create a 2D, vector-style artwork set in a clinical setting. On a white, textureless background, illustrate the scene with a flat and corporate aesthetic. A healthcare professional is preparing to administer an injection of lenacapavir to a diverse group of patients. The syringe is a visual symbol of the innovative treatment. The patients, representing a broad range of genders and descents such as Middle-Eastern female, Hispanic male, and South Asian transgender person, convey hope and are the beneficiaries of this advancement. The environment, symbolizing the seriousness of the treatment, is a doctor's office furnished with charts and graphs indicating the reduction in HIV infections due to the new treatment. Use a colour palette consisting of shades of blue and green to transmit trust and hope.

    Lenacapavir: Injeção Anual Promissora para Prevenção do HIV

    Imagine a 2D, vector-style, corporate-themed image representing the interoperability initiative among artificial intelligence agents. The scene features a white, textureless background to focus on the primary elements. Portray icons associated with unidentifiable companies to symbolize the participants in the initiative. Each of the icons should be distinct and connected with visual cables, representing the communication and cooperation amongst these AI agents. Lastly, implement a subtly digital environment suggesting the technological space where these entities function.

    AGNTCY: A Nova Iniciativa para Interoperabilidade entre Agentes de IA

    Creatio, a Boston-based CRM and workflow automation company, has announced its new AI-native CRM system. Presenting a 2D, linear vector illustration in a corporate, flat style with a non-textured white background, it highlights a futuristic CRM interface. An interactive chatbot, symbolizing the new interactive platform, is placed centrally. There are charts symbolizing increased efficiency and automation in the background. Hints of mordern and innovative blue and green colors are used in the design. Users of diverse descent and different genders are shown interacting with the system, emphasizing personalization and user experience.

    Creatio Revoluciona o CRM com Plataforma Nativa de IA

    Illustrate a 2D, linear perspective image in a corporate, flat and vector style. The image has a textureless, white background. In the foreground, focus on a central figure who symbolizes a leadership role in AI, but not specifically Stephen Peacock. He is explaining the application of AI in game development. Include a visual context of the game development environment and a logo symbolizing an international game development provider, but not specifically the Keywords Studios logo.

    Keywords Studios Lança Soluções de IA para Desenvolvimento de Jogos

    Fique por dentro das últimas novidades em IA

    Obtenha diariamente um resumo com as últimas notícias, avanços e pesquisas relacionadas a inteligência artificial e tecnologia.

    Obrigado pelo envio!

    logo genai

    GenAi Br © 2024

    • LinkedIn
    bottom of page