Abbau des KI-Racks: Warum KI-Chips weltweite Halbleiterknappheit verursachen & Preiserhöhungen

— 4,500 Chips pro AI-Rack; Über 45 Millionen Chips in einem Rechenzentrum mit 10.000 Racks

Kürzlich, Deloitte und die Semiconductor Industry Association (IST) haben gemeinsam einen umfassenden Bericht veröffentlicht. Verwendung von a “virtueller Abriss” Methodik, Sie haben ein erstklassiges KI-Racksystem akribisch von innen nach außen dekonstruiert.

Wichtige Erkenntnisse aus diesem Artikel:

1. Wie viele Chips sind in einem einzelnen AI-Rack verbaut?, und wie ist der Kapitalaufwand? (CapEx) verteilt?

2. Welche spezifischen Halbleiterkomponenten in den wichtigsten Subsystemen eingebettet sind, wird im Bericht erläutert?

ICH

Welche Chips haben den höchsten Wert vs. Höchste Menge in einem AI-Rack?

Dieser Bericht dekonstruiert systematisch ein erstklassiges KI-Rack Schicht für Schicht – über fünf verschiedene Strukturebenen: Silikonwürfel, Verpackter Chip, Brett/Karte, Tablett, und Racksystem– um die zugrunde liegende Halbleiterarchitektur zu enthüllen.

Dem Bericht zufolge, Ein Rack besteht aus fünf funktionalen Tabletttypen: Rechenfächer, Power-Trays, Vernetzung & IPMI-Fächer, Beschleuniger-Verbindungsfächer, und CDU-Tabletts.

Computerfach：Kernverarbeitung

Power-Fach：Stromversorgung

Vernetzung & IPMI-Fach：O&M-Management

Schalter-/Verbindungsfach：Hochgeschwindigkeits-Beschleunigerverbindung

CDU-Tablett (Ablage der Kühlverteilereinheit：Flüssigkeitskühlungsverteilung

1. Wertverteilung

Betrachten Sie zunächst den wirtschaftlichen Wert: Halbleiter machen über aus 95% des gesamten Systemwerts eines High-End-KI-Racks. Dieser Wert konzentriert sich stark auf die Compute Trays, speziell innerhalb der KI-Beschleuniger. Allein KI-Beschleuniger machen etwa 74 % des gesamten Chipwerts des Racks aus, mit einzelnen Einheiten preislich dazwischen $10,000 Und $40,000.

Ein KI-Beschleuniger ist eine heterogen integrierte Baugruppe: 1–2 Spitzenlogik-Chips (≤7nm Knoten), gepaart mit 6–12 Speicher mit hoher Bandbreite (HBM) Stapel (bis zu stapelbar 16 DRAM stirbt jeweils), integriert über Hochgeschwindigkeits-Verbindungsschnittstellen und Interposer unter Verwendung von 2,5D/3D Advanced Packaging.

Laut Aufschlüsselung, Etwa 70 % des Werts eines Beschleunigers stecken in Logikchips und etwa 20 % im Speicher. Allein HBM – kalkuliert mit ca. 30 to $50 pro GB – Anforderungen $400,000 Zu $600,000 Speicherkapazität pro Rack.

Dies bedeutet, dass der primäre Werttreiber drei kritische Halbleiterengpässe vereint: Spitzenlogik, HBM, und fortschrittliche Verpackung– alles monopolisiert von einigen wichtigen IDMs und Gießereien.

Nach Einheitspreisstufe: Chips darunter $10 machen etwa 52 % des Gesamtvolumens aus; $10–100-Dollar-Chips repräsentieren ~29 %; $100–1.000-Dollar-Chips machen ~16 % aus; während Chips oben $1,000 machen nur ~3 % aus.

2. Menge & Aufschlüsselung der Stückpreise

Schauen Sie sich die spezifischen Preise und Mengen an:

Ein einzelner Schrank hat ca 4,500 verpackte Chips.

Beim Zerlegen in nackte Würfel, das ist ungefähr 20,000 Siliziumchips.

Ein Rechenzentrum mit 10.000 Racks ist vorbei 45 Millionen Chips.

Wenn wir es nach dem Preis pro Einheit aufschlüsseln:

<$10: um 52% (Hauptsächlich Netzteile, analog, Schnittstellen, Sensoren, MCUs)

$10–100 $: um 29%

$100– 1.000 $: um 16%

>$1,000: nur 3% (hauptsächlich KI-Beschleuniger/CPUs/Switch-ASICs)

Abschluss: Der Systemwert wird von der Spitze bestimmt 3% von extrem teuren Chips, wohingegen das Gesamtvolumen von Peripherie-ICs für unter 10 US-Dollar dominiert wird. Obwohl der Stückpreis niedrig ist, Ein Mangel an einer einzelnen Unterkomponente kann die Herstellung des gesamten Systems zum Stillstand bringen.

Das sieht man an einem KI-Schrank, Die wertvollsten Chips und die Chips in der größten Menge sind nicht identisch.

Jedoch, diese kostengünstige Energie, analog, und Sensorchips, ohne großen Mehrwert zu schaffen, sind für den reibungslosen Betrieb des Systems unerlässlich. Ein Mangel an einem von ihnen könnte dazu führen, dass die gesamte Versammlung zum Erliegen kommt.

II

Welche Chips werden in wichtigen Subsystemen verwendet?,und wie sie andere Branchen unter Druck setzen?

Spanvolumen nach Schalentyp：

Computerfach：4,000 Chips

Power-Fach：600 Chips

Vernetzung & IPMI-Fach：100 Chips

Verbindungsfach：70 Chips

CCDU-Fach：10 Chips

Diese Zehntausende Chips, Bei der überwiegenden Mehrheit handelt es sich nicht um teure Beschleuniger-Chips, aber verschiedene unterstützende Logik, Erinnerung, Leistung, analog, und Sensorkomponenten. Sie sind über jedes Tablett und jedes Teil verteilt.

Der Bericht zerlegte einige Schlüsselkomponenten und listete genau auf, welche Chips darin verwendet wurden:

Computerplatine : 1–2 KI-Beschleuniger, 1–2 CPUs, 8–32 DIMMs, 50-100+ VRMs, 10+ Steuerungs-/Unterstützungs-ICs, 1+ Netzwerkverbindungs-IC.

KI-Beschleuniger (GPU)：1–2 Logik-ASICs, 1+ PHY verbinden, 6–12 HBM-Stapel (96–192 stirbt), 1 Mitverpackter Interposer/Brückenchip.

RAM-Stick (DIMM)： 8–16 DRAM-Chips pro DIMM, 1 RCD, 1 PMIC, 1 SPD-EEPROM, 1 Temperatursensor.

NVMe-Solid-State-Laufwerk (SSD)：256 NAND-Flash-Chips, 1 SSD-Controller, 1 DRAM-Cache, 1 I/O-Schnittstellen-IC, 1 PMIC.

Datenverarbeitungseinheit (DPU)： 1 Eingebetteter Logikchip, 1 Paket-Engine, 1–2 On-Chip-DRAMs, 1 PHY-Schnittstelle, 1 Blitz, 6–8 PMICs/VRMs.

Hochleistungs-Netzwerkkarte (NIC)：1 Netzwerk-Controller-ASIC, 1 Optischer Transceiver, 4–8 SerDes/PHYs, 1 DDR-Modul, 1 PCIe-Schnittstelle, 2–4 PMIC/VRMs, 1 DSP, 1 Oszillator, 1–2 Taktpuffer, 1 Taktgenerator.

Typische Stromverteilungseinheit in einem AI-Server-Computerfach:2– 6 IBCs, 6–12 PoL-Konverter, 1–2 MCU/PMBus-SoCs, 2–6 PMICs, 5–10 Strom-/Spannungssensoren, 2–4 Fahrer & FETs.

Beschleuniger-Verbindungsfach:2 Hochgeschwindigkeits-PHYs, 2 ASICs/Tray wechseln, 16–72+ SerDes-Transceiver/Switch, 1–2 ACC-Chips, 4–6 PMICs/VRMs, 1–2 Taktgeneratoren/PLLs, 1 Oszillator, 1–2 Taktpuffer.

Netzteil in Serverqualität (Netzteil)：1 Brückengleichrichter, 1 PFC-Controller, 2–4 GaN-Leistungs-MOSFETs, 1 PWM-Controller, 2–4 Gate-Treiber, 2–4 Synchrongleichrichter-FETs, 1 MCU/PMBus-SoC, 3–5 Spannungs-/Temperatursensoren.

AI-Server-Rack BMC: Out-of-Band-Schalter: In-Band-Schalter: CDU-Flüssigkeitskühleinheit:

AI-Server-Rack BMC: 1 MCU-SoC, 1 Firmware-Flash, 1 Ethernet-PHY mit Magnetics, 1–2 PMICs, 1 Watchdog-Timer, 1 Taktgenerator.

Out-of-Band-Schalter: 1 ASIC wechseln, 24 Ethernet-PHYs, 1 Management-SoC/CPU, 1 Blitz, 1 DRAM, 1 PMIC.

In-Band-Schalter: 1 ASIC wechseln, 100+ SerDes-Transceiver, 1 Ethernet/InfiniBand PHY, 72 Optische Transceiver, 1 DSP, 10 PMICs, 1 Lüfter-/Thermosteuerungs-MCU, 1 Blitz, 1 DRAM.

CDU-Flüssigkeitskühleinheit:3 Durchflusssensoren, 4 Drucksensoren, 4 Temperatursensoren, 1 Controller-MCU, 1 Ethernet/PMBus-Schnittstelle.

Abgesehen von diesem Teardown, Der Bericht weist auch auf einige Richtungen des Wandels hin, und aus diesen Veränderungen, Wir können mögliche zukünftige Trends vorhersagen.

Erstens ist die Stromversorgung. Die Rack-Stromversorgung verlagert sich von derzeit 48 V DC auf 400 V, und schließlich sogar 800 V Hochspannungs-Gleichstrom. Der Stromverbrauch eines einzelnen Racks nähert sich der Megawatt-Marke; momentan, Die stärksten Racks haben eine Leistung von etwa 100–120 kW, aber in der Zukunft, Ein einzelnes Rack benötigt möglicherweise 1 MW. Mit dieser Verschiebung, Verbindungshalbleiter wie GaN und SiC werden immer häufiger in Stromversorgungssystemen eingesetzt, da sie bei höheren Spannungen betrieben werden können und im Vergleich zu herkömmlichen Siliziumbauelementen geringere Verluste und Wärmeentwicklung aufweisen.

Kerntrends der technischen Entwicklung

Die Stromversorgung verlagert sich von 48 V Gleichstrom auf 400 V/800 V HGÜ, da sich die Rack-Leistungsdichte 1 MW nähert. Dies beschleunigt die Einführung von Wide-Bandgap (GaN/SiC) Geräte.

Steigende TDP erzwingt einen Übergang zur Flüssigkeitskühlung (~30 % Akzeptanz durch 2035), steigende Nachfrage nach speziellen Durchfluss-/Druck-/Temperatursensoren und Controller-MCUs.

III

Abschluss & Strategische Einblicke in die Lieferkette für Trusty IC

WHy-KI löst weltweite Chipknappheit und Preiserhöhungen aus?

Gießereien und IDMs verteilen die Kapazität für moderne Wafer aggressiv neu, CoWoS-Verpackung, und DRAM-Linien hin zu margenstarken KI-ASICs und HBM.

Traditionelle ausgereifte Teilenummern (Ältere/ausgereifte Komponenten) werden strategisch auslaufen:

Die ursprünglichen Hersteller, die ihre Ressourcen auf KI konzentrierten, haben die Produktionskapazität für allgemeines DRAM gekürzt, traditionelles NAND, und Standard-Power/Analog-Chips, Dies führt zu strukturellen Versorgungsengpässen, längere Vorlaufzeiten, und explodierende Spotpreise für häufig verwendete alte Chips in Autos, Industrielle Automatisierung, Gesundheitspflege, und traditionelle Server.

💡 Warum Trusty IC？

Trusty IC hilft globalen OEMs, EMS-Unternehmen, und Lieferanten lösen drei zentrale Herausforderungen in der Lieferkette:

Engpassbeschaffung – Schnelle Beschaffung schwer zu findender Waren, Mangel, veraltet, und EOL-Halbleiterkomponenten über globale Beschaffungsnetzwerke und verfügbare Lagerbestände.

Überschüssiger Lagerbestand & Kostenoptimierung – Unterstützung bei Überbeständen, Stücklistenoptimierung, Komponentenquerverweis, alternative Beschaffung, und PPV-Reduktion.

Qualitätssicherung – Strenge Qualitätskontrolle, Rückverfolgbarkeit der Komponenten, Röntgeninspektion, und Tests durch Dritte, um authentische und zuverlässige elektronische Komponenten sicherzustellen.

Vertrauenswürdiger IC – hilft Kunden, die richtigen Komponenten zu finden, Lagerkosten reduzieren, und Management von Halbleiterversorgungsrisiken.