SuperServer Supermicro SYS-821GE-TNHR Server AI Raffreddato ad Aria con 8 GPU NVIDIA H100

Descrizione Server Supermicro 8 GPU H100:

Il Supermicro SYS-821GE-TNHR è un server AI avanzato raffreddato ad aria progettato per offrire prestazioni eccezionali per carichi di lavoro impegnativi, specialmente nel campo delle applicazioni AI e machine learning.

Combina potenti capacità di elaborazione con opzioni di archiviazione scalabili, consentendo un'integrazione senza interruzioni nelle infrastrutture IT esistenti. Il SYS-821GE-TNHR vanta inoltre sistemi di gestione termica avanzati che garantiscono un funzionamento affidabile anche sotto intensi carichi computazionali. Le caratteristiche principali includono il supporto multi-GPU, ampie configurazioni di memoria e slot di espansione flessibili, tutti mirati a ottimizzare l'efficienza del data center.

Le caratteristiche critiche del Supermicro SYS-821GE-TNHR includono la sua architettura scalabile, che consente l'integrazione flessibile di GPU o opzioni di archiviazione aggiuntive. Il server offre inoltre una capacità di memoria avanzata e il supporto per più slot di espansione PCIe, consentendo aggiornamenti senza interruzioni nel tempo. Inoltre, il suo robusto sistema di alimentazione garantisce un funzionamento ininterrotto anche sotto carichi pesanti.

Server Supermicro 8 GPU H100 Specifiche:

Dettagli Server Supermicro 8 GPU H100:

La prima grande caratteristica di questo server è che si tratta di una piattaforma 8U. Vediamo molti sistemi 6U e alcuni 7U nel settore, ma la piattaforma 8U è in realtà per una buona ragione. Con uno chassis più alto, Supermicro può utilizzare ventole più grandi e distribuire l'I/O in un fattore di forma più ampio.

Supermicro ha costruito questa piattaforma 8U perché è sufficientemente densa per la maggior parte dei rack che erogano meno di 60kW di potenza, anche con l'altezza aggiuntiva. Aumentando le dimensioni, ha ottenuto una manutenibilità leader di classe e un consumo energetico inferiore di alcuni punti percentuali rispetto a uno chassis 6U più corto.

Abbiamo circa 4,22 Tbps di larghezza di banda di rete in uscita da questo server, ovvero più di quanto possa gestire uno switch 100GbE a 32 porte. Questa è una delle forze trainanti della domanda di rete in questo momento nel settore.

Le CPU in questo sistema sono Intel Xeon, in particolare CPU Intel Xeon Scalable di 4a e 5a generazione. Per i codici, se si desidera cercare negli archivi STH, questi sono Sapphire Rapids ed Emerald Rapids. Mentre la piattaforma DGX di riferimento di NVIDIA utilizza CPU Intel Xeon, alcuni preferiscono AMD EPYC, e Supermicro ha anche questo stesso server in versione EPYC.
Le CPU sono un po' diverse qui poiché hanno dissipatori con ventola. Riceveranno comunque flusso d'aria se la ventola attiva si guasta, ma questi moduli ventola sono abbastanza facili da sostituire poiché sono tenuti in posizione da una singola vite.
Una ragione per cui, anche con CPU a 12 canali sul mercato sia da AMD che da Intel, la gente apprezza le CPU a 8 canali di memoria è che con i socket di larghezza minore si possono ottenere 2 DIMM per canale. Ciò significa 16 DIMM per CPU o 32 DIMM in totale.