A Sageance, uma startup da Silicon Valley, se propõe a enfrentar um dos maiores desafios da inteligência artificial: o consumo excessivo de energia. A empresa afirma que sua tecnologia, que utiliza circuitos analógicos, pode executar o modelo de linguagem Llama 2-70B com apenas 10% do consumo energético de um sistema baseado em GPU Nvidia H100.

Os circuitos analógicos têm a promessa de economias significativas de energia, mas historicamente não cumpriram com essa expectativa em larga escala. O CEO da Sageance, Vishal Sarin, acredita que a alta demanda por modelos de IA generativa requer soluções inovadoras. A empresa foi fundada em 2018, e Sarin destacou que o consumo de energia se tornou um obstáculo crucial para a adoção em massa da IA.

Sageance planeja lançar seu primeiro produto voltado para sistemas de visão em 2025, antes de introduzir soluções para IA generativa. A empresa espera que a arquitetura de seus chips analógicos, empilhados verticalmente, permita um desempenho superior em comparação com os sistemas convencionais.

1. Promessa de 10% do consumo de energia em comparação com GPUs tradicionais.

2. Tecnologia que envolve referência de células em chip para calibração.

3. Primeiro produto focado em sistemas de visão para um lançamento em 2025.

4. Capacidade de gerar 666.000 tokens por segundo com 59 kW.

5. Visão do CEO sobre a necessidade de inovação no campo da IA.

O desenvolvimento de chips analógicos tem potencial para transformar a análise e o processamento de dados na inteligência artificial, especialmente em um momento em que a demanda por eficiência energética é crítica. O uso dessa tecnologia poderia reduzir significativamente o custo e o espaço exigido para a operação de modelos de IA.

- Aumento da eficiência energética. - Redução de custos operacionais. - Impulsiona a adoção de IA generativa. - Soluções mais sustentáveis para o setor.

Se a Sageance cumprir o que promete, poderá não apenas mudar o panorama da inteligência artificial, mas também motivar outras empresas a buscar inovações que priorizem a sustentabilidade. A necessidade de soluções energeticamente eficientes é mais urgente do que nunca, e a inovação no setor pode desempenhar um papel crucial.

Em resumo, a Sageance surge como uma potencial catalisadora de mudanças significativas no sector de IA, focando na eficiência energética e na viabilidade econômica. A expectativa é que as inovações tecnológicas que a empresa está desenvolvendo não apenas desafiem o status quo, mas também inspirem outras inovações no campo. Para mais informações sobre o desenvolvimento de tecnologias sustentáveis, inscreva-se em nossa newsletter e fique por dentro das atualizações diárias!

FONTES:

1. IEEE Spectrum

2. Sageance

3. Nvidia H100

4. Llama 2

5. Flash-based analog AI