A Supermicro amplia as soluções de IA e GPU de rack em escala com suporte para os aceleradores

Super Micro Computer, Inc. India

otimizado para LLM foi desenvolvido com base na arquitetura de blocos de construção da Supermicro, um design comprovado para sistemas de IA de alto desempenho com designs de rack em escala com arrefecimento a ar e a líquido. O design equilibrado do sistema associa uma GPU a uma rede 1:1 para fornecer um grande pool de memória de alta largura de banda entre nós e racks para se adequar aos maiores modelos de linguagem atuais com até trilhões de parâmetros, maximizando a computação paralela e minimizando o tempo de treinamento e a latência de inferência. O sistema 8U com o acelerador MI300X OAM oferece a potência bruta de aceleração de 8 GPUs com os links AMD Infinity Fabric™, permitindo até 896 GB/s de largura de banda de E/S P2P teórica de pico na plataforma de padrão aberto com memória de GPU HBM3 de 1,5 TB líder do setor em um único sistema, como também suporte nativo a matrizes esparsas, projetado para economizar energia, diminuir os ciclos de computação e reduzir o uso de memória para cargas de trabalho de IA. Cada servidor apresenta processadores AMD EPYC™ série 9004 de soquete duplo com até 256 núcleos. Em rack em escala, mais de 1000 núcleos de CPU, 24 TB de memória DDR5, 6,144 TB de memória HBM3 e 9728 unidades de computação estão disponíveis para os ambientes de IA mais desafiadores. O uso do Módulo Acelerador OCP (OAM), com o qual a Supermicro tem experiência significativa em configurações de 8U, leva um servidor totalmente configurado ao mercado mais rápido do que um design personalizado, reduzindo custos e tempo de entrega.

A Supermicro também está lançando um servidor 2U arrefecido a líquido com densidade otimizada, o AS -2145GH-TNMR, e um servidor 4U arrefecido a ar, o AS -4145GH-TNMR, cada um com 4 aceleradores AMD Instinct™ MI300A. Os novos servidores foram projetados para aplicações HPC e IA, que exigem uma comunicação extremamente rápida entre CPU e GPU. A APU elimina cópias redundantes de memória ao combinar a CPU, a GPU e a memória HBM3 da AMD de mais alto desempenho em um único chip. Cada servidor contém núcleos de CPU x86 "Zen4" de liderança para escalonamento de aplicações. Além disso, cada servidor inclui 512 GB de memória HBM3. Em uma solução de rack completo (48U) que consiste em 21 sistemas 2U, mais de 10 TB de memória HBM3 estão disponíveis, como também 19.152 unidades de computação. A largura de banda da memória HBM3 para CPU é de 5,3 TB/segundo.

Ambos os sistemas apresentam AIOMs duplos com suporte a Ethernet 400G e opções de rede expandidas projetadas para melhorar o espaço, a escalabilidade e a eficiência da computação de alto desempenho. O sistema 2U com resfriamento líquido direto ao chip oferece excelente TCO com mais de 35% de economia no consumo de energia com base em 21 soluções de rack de sistema 2U que produzem 61.780 watts por rack em relação a 95.256 watts de rack arrefecido a ar, como também uma redução de 70% no número de ventiladores em comparação com um sistema arrefecido a ar.

"Os aceleradores da série AMD Instinct MI300 oferecem desempenho de liderança, tanto para aplicativos de computação de alto desempenho acelerados de longa data quanto para a crescente demanda por IA generativa", disse Forrest Norrod, vice-presidente executivo e gerente geral do Data Center Solutions Business Group da AMD. "Continuamos trabalhando em estreita colaboração com a Supermicro para trazer ao mercado soluções totais de IA e HPC de ponta com base nos aceleradores da série MI300 e aproveitando a experiência da Supermicro em design de sistema e data center."

Saiba mais com os especialistas da Supermicro e da AMD. Assista a este webinar ao vivo ou sob demanda.

Para mais informação, acesse:

Site do acelerador AMD da Supermicro

AS -8125GS-TNMR2 (8U com MI300x)

AS -2145GH-TNMR (2U LC com MI300A) 

AS -4145GH-TNMR (4U AC com MI300A) 

Sobre a Super Micro Computer, Inc.

Supermicro (NASDAQ: SMCI) é líder mundial em soluções totais de TI otimizadas para aplicativos. Fundada e operando em San José, Califórnia, a Supermicro está comprometida em fornecer inovação pioneira no mercado para infraestrutura de TI empresarial, nuvem, IA e 5G Telco/Edge. Somos um fabricante de soluções totais de TI com servidores, IA, armazenamento, IoT, sistemas de comutação, software e serviços de suporte. A experiência em design de placas-mãe, energia e chassis da Supermicro permite que nosso desenvolvimento e produção seja ainda maior, ao possibilitar inovação de última geração, desde a nuvem até a borda, a nossos clientes internacionais. Nossos produtos são projetados e fabricados internamente (nos EUA, Taiwan e Países Baixos), aproveitando as operações mundiais para obter escala e eficiência, sendo otimizados para melhorar o TCO e reduzir o impacto ambiental (Computação Ecológica). O premiado portfólio Server Building Block Solutions® permite que os clientes otimizem sua carga de trabalho e aplicação exatas, ao selecionar entre uma ampla família de sistemas construídos a partir de nossos blocos de construção flexíveis e reutilizáveis, os quais suportam um conjunto abrangente de soluções de fatores de forma, processadores, memória, GPUs, armazenamento, rede, energia e refrigeração (ar condicionado, refrigeração ao ar livre ou refrigeração líquida). 

Supermicro, Server Building Block Solutions e We Keep IT Green são marcas comerciais ou marcas registradas da Super Micro Computer, Inc.

AMD, o logotipo da seta da AMD, AMD Instinct, EPYC e suas combinações são marcas comerciais da Advanced Micro Devices.

Todas as outras marcas, nomes e marcas registradas são propriedade de seus respectivos proprietários.

Foto - https://mma.prnewswire.com/media/2294582/SuperMicro_Servers_with_AMD_MI300_Series_Accelerators.jpg
Logotipo - https://mma.prnewswire.com/media/1443241/4442544/Supermicro_Logo.jpg

FONTE Super Micro Computer, Inc.