Smontaggio del rack IA: Perché i chip AI stanno causando carenze globali di semiconduttori & Aumenti dei prezzi

— 4,500 Chip per rack AI; Sopra 45 Milioni di chip in un data center da 10.000 rack

Recentemente, Deloitte e l'Associazione dell'industria dei semiconduttori (SIA) hanno pubblicato congiuntamente un rapporto completo. Utilizzando a “smontaggio virtuale” metodologia, hanno meticolosamente decostruito un sistema rack AI di alto livello dall'interno.

Punti chiave di questo articolo:

1. Quanti chip sono installati in un singolo rack AI, e come sono le spese in conto capitale (CapEx) distribuito?

2. Quali componenti specifici dei semiconduttori sono incorporati nei sottosistemi chiave smontati nel rapporto?

IO

Quali chip hanno il valore più alto rispetto a. Quantità più alta in un rack AI?

Questo report scompone sistematicamente un rack AI di livello superiore, livello per livello, coprendo cinque livelli strutturali distinti: Stampo in silicio, Chip confezionato, Tabellone/Carta, Vassoio, e sistema a cremagliera-per rivelare la sua architettura di semiconduttore sottostante.

Secondo il rapporto, un rack è composto da cinque tipi di vassoi funzionali: Vassoi di calcolo, Vassoi di alimentazione, Rete & Vassoi IPMI, Vassoi di interconnessione dell'acceleratore, e vassoi CDU.

Vassoio di calcolo：Elaborazione del nucleo

Vassoio di alimentazione：Erogazione di potenza

Rete & Vassoio IPMI：O&Gestione M

Vassoio di commutazione/interconnessione：Interconnessione dell'acceleratore ad alta velocità

Vassoio CDU (Vassoio dell'unità di distribuzione del raffreddamento：Distribuzione del raffreddamento a liquido

1. Distribuzione del valore

Guardando innanzitutto al valore economico: i semiconduttori rappresentano oltre 95% del valore totale del sistema di un rack AI di fascia alta. Questo valore è fortemente concentrato nei vassoi di calcolo, specificamente all'interno degli acceleratori di intelligenza artificiale. Gli acceleratori IA da soli rappresentano circa il 74% del valore totale dei chip del rack, con singole unità con un prezzo compreso tra $10,000 E $40,000.

Un acceleratore AI è un insieme eterogeneo integrato: 1–2 la logica all’avanguardia muore (Nodo ≤7nm), accoppiato con memoria a larghezza di banda elevata 6–12 (HBM) pile (impilabile fino a 16 La DRAM muore ciascuna), integrato tramite interfacce di interconnessione e interposer ad alta velocità utilizzando il packaging avanzato 2.5D/3D.

Secondo la ripartizione, Circa il 70% del valore di un acceleratore risiede nei chip logici e circa il 20% nella memoria. Solo HBM, calcolato a ~$30 $50 per GB: richieste $400,000 A $600,000 quantità di memoria per rack.

Ciò implica che il driver di valore primario combina tre colli di bottiglia critici nei semiconduttori: logica d'avanguardia, HBM, e packaging avanzato– il tutto monopolizzato da alcuni IDM e fonderie chiave.

Per fascia di prezzo unitaria: patatine sotto $10 rappresentano circa il 52% del volume totale; $10–Le fiches da 100$ rappresentano circa il 29%; $100–Le fiches da $1.000 rappresentano circa il 16%; mentre i chip sopra $1,000 rappresentano solo il 3% circa.

2. Quantità & Ripartizione dei prezzi unitari

Guardando i prezzi e le quantità specifici:

Un singolo armadio ha circa 4,500 patatine confezionate.

Quando scomposto in stampi nudi, questo è tutto 20,000 chip di silicio.

Un data center da 10.000 rack è terminato 45 milioni di fiches.

Se lo scomponiamo in base al prezzo per unità:

<$10: Di 52% (principalmente alimentatori, analogico, interfacce, sensori, MCU)

$10–$100: Di 29%

$100–$1.000: Di 16%

>$1,000: soltanto 3% (principalmente acceleratori AI/CPU/ASIC switch)

Conclusione: Il valore del sistema è guidato dai vertici 3% di chip ad altissimo costo, mentre il volume totale è dominato da circuiti integrati periferici inferiori a $ 10. Sebbene basso nel prezzo unitario, una carenza di un singolo sottocomponente può arrestare la produzione dell’intero sistema.

Puoi vederlo in un armadietto AI, i chip più pregiati e quelli in maggiore quantità non sono gli stessi.

Tuttavia, questa energia a basso costo, analogico, e chip sensore, senza aggiungere molto valore, sono essenziali per il corretto funzionamento del sistema. La carenza di uno qualsiasi di essi potrebbe fermare l’intera assemblea.

II

Quali chip vengono utilizzati nei sottosistemi chiave,e come comprimono altre industrie?

Volume dei trucioli per tipo di vassoio：

Vassoio di calcolo：4,000 Patatine fritte

Vassoio di alimentazione：600 Patatine fritte

Rete & Vassoio IPMI：100 Patatine fritte

Vassoio di interconnessione：70 Patatine fritte

Vassoio CCDU：10 Patatine fritte

Queste decine di migliaia di chip, la stragrande maggioranza non sono costosi chip di tipo acceleratore, ma varie logiche di supporto, memoria, energia, analogico, e componenti del sensore. Sono sparsi su ogni vassoio e in ogni parte.

Il rapporto ha smontato alcuni componenti chiave ed elencato esattamente quali chip sono stati utilizzati all'interno:

Scheda di calcolo : 1–2 Acceleratori IA, 1–2 CPU, 8–32 DIMM, 50-100+ VRM, 10+ CI di controllo/supporto, 1+ CI di interconnessione di rete.

Acceleratore IA (GPU)：1–2 ASIC logici, 1+ Interconnetti PHY, 6–12 pile HBM (96–192 morti), 1 Interposer/Bridge Die co-confezionato.

Chiavetta RAM (DIMM)： 8–16 chip DRAM per DIMM, 1 RCD, 1 PMIC, 1 EEPROM SPD, 1 Sensore di temperatura.

Unità a stato solido NVMe (SSD)：256 Stampi NAND Flash, 1 Controller SSD, 1 Cache DRAM, 1 CI di interfaccia I/O, 1 PMIC.

Unità Elaborazione Dati (DPU)： 1 Die logica incorporata, 1 Motore a pacchetti, 1–2 DRAM su chip, 1 Interfaccia PHY, 1 Flash, 6–8 PMIC/VRM.

Scheda di rete ad alte prestazioni (NIC)：1 ASIC del controller di rete, 1 Ricetrasmettitore ottico, 4–8 SerDes/PHY, 1 Modulo DDR, 1 Interfaccia PCIe, 2–4 PMIC/VRM, 1 DSP, 1 Oscillatore, 1–2 Buffer orologio, 1 Generatore di orologi.

Tipica unità di distribuzione dell'alimentazione in un vassoio di calcolo del server AI:2– 6 IBC, 6–12 convertitori PoL, 1–2 SoC MCU/PMBus, 2–6 PMIC, 5–10 sensori di corrente/tensione, 2–4 conducenti & FET.

Vassoio di interconnessione dell'acceleratore:2 PHY ad alta velocità, 2 Cambia ASIC/vassoio, 16–72+ Ricetrasmettitori/Interruttori SerDes, 1–2 Chip ACC, 4–6 PMIC/VRM, 1–2 Generatori di clock/PLL, 1 Oscillatore, 1–2 Buffer orologio.

Alimentatore di livello server (alimentatore)：1 Raddrizzatore a ponte, 1 Controllore PFC, 2–4 MOSFET di potenza GaN, 1 Controllore PWM, 2–4 Gate driver, 2–4 FET del raddrizzatore sincrono, 1 SoC MCU/PMBus, 3–5 Sensori di tensione/temperatura.

BMC per server AI: passaggio fuori banda: interruttore in banda: Unità di raffreddamento a liquido CDU:

BMC per server AI: 1 SoC dell'MCU, 1 Flash del firmware, 1 Ethernet PHY con magnetici, 1–2 PMIC, 1 Temporizzatore del cane da guardia, 1 Generatore di orologi.

Commutazione fuori banda: 1 Cambia ASIC, 24 PHY Ethernet, 1 SoC/CPU di gestione, 1 Flash, 1 DRAM, 1 PMIC.

Commutazione in banda: 1 Cambia ASIC, 100+ Ricetrasmettitori SerDes, 1 FISICA Ethernet/InfiniBand, 72 Ricetrasmettitori ottici, 1 DSP, 10 PMIC, 1 MCU di controllo termico/ventola, 1 Flash, 1 DRAM.

Unità di raffreddamento a liquido CDU:3 Sensori di flusso, 4 Sensori di pressione, 4 Sensori di temperatura, 1 MCU del controllore, 1 Interfaccia Ethernet/PMBus.

Oltre a questo smontaggio, il rapporto evidenzia inoltre alcune direzioni di cambiamento, e da questi cambiamenti, possiamo prevedere le possibili tendenze future.

Il primo è l'alimentazione. L'alimentazione del rack sta passando dagli attuali 48 V CC a 400 V, e eventualmente anche 800 V CC ad alta tensione. Il consumo energetico di un singolo rack si sta avvicinando al livello dei megawatt; attualmente, i rack più potenti sono circa 100–120 kW, ma in futuro, un singolo rack potrebbe richiedere 1 MW. Con questo spostamento, semiconduttori composti come GaN e SiC vengono utilizzati sempre di più nei sistemi di alimentazione perché possono funzionare a tensioni più elevate e hanno perdite e generazione di calore inferiori rispetto ai tradizionali dispositivi al silicio.

Tendenze dell’evoluzione tecnologica fondamentale

L'erogazione di potenza sta passando da 48 V CC a 400 V/800 V HVDC man mano che la densità di potenza del rack si avvicina a 1 MW. Ciò accelera l’adozione dell’ampio gap di banda (GaN/SiC) dispositivi.

L’impennata del TDP obbliga alla transizione al raffreddamento a liquido (~30% di adozione da parte di 2035), crescente domanda di sensori di flusso/pressione/temperatura e MCU controller dedicati.

III

Conclusione & Approfondimenti strategici sulla catena di fornitura per Trusty IC

WPerché l’intelligenza artificiale innesca carenze globali di chip e aumenti dei prezzi?

Le fonderie e gli IDM stanno riallocando in modo aggressivo la capacità avanzata dei wafer, Confezione CoWoS, e linee DRAM verso ASIC AI ad alto margine e HBM.

Numeri di parte maturi tradizionali (Componenti legacy/maturi) vengono strategicamente eliminati:

I produttori originali che hanno concentrato le proprie risorse sull’intelligenza artificiale hanno ridotto la capacità di produzione delle DRAM generiche, NAND tradizionale, e chip di alimentazione/analogici standard, causando carenze strutturali di offerta, tempi di consegna più lunghi, e prezzi spot alle stelle per i chip legacy comunemente usati nelle auto, automazione industriale, assistenza sanitaria, e server tradizionali.

💡 Perché un IC affidabile？

Il fidato IC aiuta gli OEM globali, aziende EMS, e i fornitori risolvono tre sfide chiave della supply chain:

Approvvigionamento per carenza: approvvigionamento rapido di prodotti difficili da trovare, carenza, obsoleto, e componenti di semiconduttori EOL attraverso reti di approvvigionamento globali e inventario disponibile.

Inventario in eccesso & Ottimizzazione dei costi – Supporto per le scorte in eccesso, Ottimizzazione della distinta base, riferimento incrociato dei componenti, approvvigionamento alternativo, e riduzione del PPV.

Garanzia di qualità: controllo di qualità rigoroso, tracciabilità dei componenti, Ispezione a raggi X, e test di terze parti per garantire componenti elettronici autentici e affidabili.

Trusty IC: aiuta i clienti a trovare i componenti giusti, ridurre i costi di inventario, e gestire i rischi legati alla fornitura di semiconduttori.