Resultados do MLPerf Storage v1.0 Destacam a Importância dos Sistemas de Armazenamento no Treinamento de Modelos de IA

Enterprise AI GenAI/LLMs Machine Learning Research / Reports

A MLCommons anunciou os resultados do MLPerf Storage v1.0, um benchmark que mede o desempenho dos sistemas de armazenamento para cargas de trabalho de aprendizado de máquina. Os resultados demonstram que, com a evolução das tecnologias de aceleradores e o aumento dos conjuntos de dados, os provedores de sistemas de ML devem garantir que suas soluções de armazenamento acompanhem as necessidades computacionais.

Create a 2D, linear perspective vector-style image designed in a flat and corporate style. The image should feature a data storage system represented by storage servers. It also should depict performance charts that symbolize the benchmark results of MLPerf Storage v1.0. Include AI icons to symbolize the application in AI. Illustrate NVIDIA accelerators without branding, hinting at the form factor of models A100 and H100. Highlight the digital connectivity to emphasize the importance of distributed training. All elements should be on a plain, white and untexturized background.

Imagem gerada utilizando Dall-E 3

O benchmark MLPerf Storage v1.0 é o primeiro a medir o desempenho de armazenamento em diversos cenários de treinamento de ML. Ele simula as demandas de armazenamento em várias configurações de sistema, cobrindo uma gama de aceleradores, modelos e cargas de trabalho. Três modelos foram incluídos no benchmark: 3D-UNet, Resnet50 e CosmoFlow, com uma variedade de tamanhos de amostra e tempos de processamento simulados.

Os resultados mostram que a tecnologia de armazenamento está evoluindo para atender às demandas dos novos aceleradores, como o NVIDIA H100, que reduz o tempo de computação por lote em até 76% em comparação com o V100. O benchmark também inclui suporte para treinamento distribuído, um cenário comum para acelerar o treinamento de modelos com grandes conjuntos de dados.

A ampla gama de soluções de armazenamento submetidas ao benchmark reflete a importância das cargas de trabalho de ML para todos os tipos de soluções de armazenamento. Oana Balmau, co-presidente do grupo de trabalho MLPerf Storage, destacou a diversidade de abordagens técnicas inovadoras recebidas. Curtis Anderson, também co-presidente, mencionou que o desempenho do acesso ao armazenamento se tornou um fator crítico para a velocidade geral do treinamento.

- MLPerf Storage v1.0 inclui mais de 100 resultados de desempenho de 13 organizações. - Participantes incluem DDN, Hammerspace, Hewlett Packard Enterprise, Huawei, IEIT SYSTEMS, Juicedata, Lightbits Labs, MangoBoost, Nutanix, Simplyblock, Volumez, WEKA e YanRong Tech. - O benchmark foi desenvolvido por mais de uma dúzia de provedores de soluções de armazenamento e grupos de pesquisa acadêmica.

Os resultados do MLPerf Storage v1.0 destacam a necessidade contínua de inovação nos sistemas de armazenamento para acompanhar os avanços em outras áreas da tecnologia de IA. À medida que os aceleradores se tornam mais rápidos, o desempenho do armazenamento se torna um fator crucial para evitar gargalos e maximizar a eficiência dos sistemas de treinamento de IA. O benchmark fornece informações técnicas valiosas para consumidores e impulsiona a competição e a inovação na indústria.