Démontage du rack IA: Pourquoi les puces IA provoquent une pénurie mondiale de semi-conducteurs & Hausses de prix

— 4,500 Chips per AI Rack; Sur 45 Millions de puces dans un centre de données de 10 000 racks

Récemment, Deloitte et la Semiconductor Industry Association (EST) a publié conjointement un rapport complet. Utiliser un “démontage virtuel” méthodologie, ils ont méticuleusement déconstruit un système de rack IA de haut niveau de l'intérieur vers l'extérieur.

Points clés à retenir de cet article:

1. Combien de puces sont installées dans un seul rack AI, et comment sont les dépenses en capital (Investissements) distribué?

2. Quels composants semi-conducteurs spécifiques sont intégrés dans les sous-systèmes clés détruits dans le rapport?

je

Quelles puces détiennent la valeur la plus élevée par rapport à. Quantité la plus élevée dans un rack AI?

Ce rapport déconstruit systématiquement couche par couche un rack IA de premier plan, couvrant cinq niveaux structurels distincts.: Matrice de silicium, Puce emballée, Tableau/Carte, Plateau, et système de rack-pour révéler son architecture semi-conductrice sous-jacente.

D'après le rapport, un rack se compose de cinq types de plateaux fonctionnels: Plateaux de calcul, Plateaux d'alimentation, Réseautage & Plateaux IPMI, Plateaux d'interconnexion d'accélérateur, et plateaux CDU.

Plateau de calcul：Traitement de base

Plateau d'alimentation：Livraison de puissance

Réseautage & Plateau IPMI：Ô&M Gestion

Plateau de commutation/interconnexion：Interconnexion d’accélérateur à grande vitesse

Plateau CDU (Plateau d'unité de distribution de refroidissement：Distribution de refroidissement liquide

1. Répartition de la valeur

Regarder d’abord la valeur économique: les semi-conducteurs représentent plus 95% de la valeur totale du système d'un rack AI haut de gamme. Cette valeur est fortement concentrée dans les plateaux de calcul, spécifiquement au sein des accélérateurs d’IA. Les accélérateurs d’IA représentent à eux seuls environ 74 % de la valeur totale des puces du rack, avec des unités individuelles dont le prix est compris entre $10,000 et $40,000.

Un accélérateur d’IA est un assemblage intégré de manière hétérogène: 1–2 matrices logiques de pointe (Nœud ≤7nm), associé à une mémoire à bande passante élevée de 6 à 12 (HBM) piles (empiler jusqu'à 16 La DRAM meurt chacun), intégré via des interfaces d'interconnexion à haut débit et des interposeurs utilisant un packaging avancé 2,5D/3D.

Selon la panne, Environ 70 % de la valeur d'un accélérateur réside dans les puces logiques et environ 20 % dans la mémoire. HBM seul – calculé à environ 30 $ pour $50 par Go : demandes $400,000 à $600,000 valeur de mémoire par rack.

Cela implique que le principal facteur de valeur combine trois goulots d'étranglement critiques dans le domaine des semi-conducteurs.: logique de pointe, HBM, et un emballage avancé- tous monopolisés par quelques IDM et fonderies clés.

Par niveau de prix unitaire: chips sous $10 représentent ~52% du volume total; $10–Les jetons de 100$ représentent ~29%; $100–Les jetons de 1 000 $ représentent environ 16 %; tandis que les chips sont au-dessus $1,000 ne représentent que ~ 3 %.

2. Quantité & Répartition du prix unitaire

En regardant les prix et les quantités spécifiques:

Une seule armoire contient environ 4,500 chips emballées.

Une fois décomposé en matrices nues, c'est à peu près 20,000 puces de silicium.

Un centre de données de 10 000 racks compte plus de 45 millions de jetons.

Si on le décompose par le prix unitaire:

<$10: à propos 52% (principalement des alimentations, analogique, interfaces, capteurs, MCU)

$10–100$: à propos 29%

$100–1 000$: à propos 16%

>$1,000: seulement 3% (principalement des accélérateurs d'IA/CPU/switch ASIC)

Conclusion: La valeur du système est déterminée par le sommet 3% de puces ultra-coûteuses, alors que le volume total est dominé par les circuits intégrés périphériques inférieurs à 10 $. Bien que le prix unitaire soit bas, une pénurie d'un seul sous-composant peut interrompre la fabrication du système dans son ensemble.

Vous pouvez voir cela dans une armoire IA, les jetons les plus précieux et les jetons en plus grande quantité ne sont pas les mêmes.

Cependant, cette énergie à faible coût, analogique, et puces de capteurs, sans ajouter beaucoup de valeur, sont essentiels au bon fonctionnement du système. Une pénurie de l’un d’entre eux pourrait paralyser toute l’assemblée..

II

Quelles puces sont utilisées dans les sous-systèmes clés,et comment écrasent-ils d’autres industries?

Volume de copeaux par type de plateau：

Plateau de calcul：4,000 Puces

Plateau d'alimentation：600 Puces

Réseautage & Plateau IPMI：100 Puces

Plateau d'interconnexion：70 Puces

Plateau CCDU：10 Puces

Ces dizaines de milliers de jetons, la grande majorité ne sont pas des puces coûteuses de type accélérateur, mais diverses logiques de support, mémoire, pouvoir, analogique, et composants du capteur. Ils sont dispersés sur chaque plateau et chaque pièce.

Le rapport a démonté certains composants clés et répertorié exactement les puces utilisées à l'intérieur.:

Tableau de calcul : 1–2 accélérateurs d’IA, 1–2 processeurs, 8–32 DIMM, 50-100+ VRM, 10+ CI de contrôle/support, 1+ CI d'interconnexion réseau.

Accélérateur d'IA (GPU)：1–2 ASIC logiques, 1+ Interconnecter PHY, 6–12 piles HBM (96–192 décès), 1 Matrice d'interposeur/pont co-emballée.

Clé RAM (DIMM)： 8–16 puces DRAM par DIMM, 1 RCD, 1 PMIC, 1 EEPROM SPD, 1 Capteur de température.

Disque SSD NVMe (SSD)：256 Matrices Flash NAND, 1 Contrôleur SSD, 1 Cache DRAM, 1 CI d'interface E/S, 1 PMIC.

Unité de traitement des données (DPU)： 1 Matrice logique intégrée, 1 Moteur de paquets, 1–2 DRAM sur puce, 1 Interface physique, 1 Éclair, 6–8 PMIC/VRM.

Carte réseau hautes performances (Carte réseau)：1 Contrôleur réseau ASIC, 1 Émetteur-récepteur optique, 4–8 SerDes/PHY, 1 Module DDR, 1 Interface PCIe, 2–4 PMIC/VRM, 1 DSP, 1 Oscillateur, 1–2 tampons d'horloge, 1 Générateur d'horloge.

Unité de distribution d'énergie typique dans un plateau de calcul de serveur AI:2– 6 GRV, 6–12 convertisseurs PoL, 1–2 SoC MCU/PMBus, 2–6 PMIC, 5–10 capteurs de courant/tension, 2–4 Pilotes & FET.

Plateau d'interconnexion accélérateur:2 PHY à grande vitesse, 2 Changer d'ASIC/plateau, 16–72+ émetteurs-récepteurs/commutateurs SerDes, 1–2 puces ACC, 4–6 PMIC/VRM, 1–2 générateurs d'horloge/PLL, 1 Oscillateur, 1–2 tampons d'horloge.

Unité d'alimentation de qualité serveur (Bloc d'alimentation)：1 Pont Redresseur, 1 Contrôleur PFC, 2–4 MOSFET de puissance GaN, 1 Contrôleur PWM, 2–4 pilotes de porte, 2–4 FET redresseurs synchrones, 1 SoC MCU/PMBus, 3–5 capteurs de tension/température.

Support de serveur AI BMC: commutateur hors bande: commutateur intra-bande: Unité de refroidissement liquide CDU:

Support de serveur AI BMC: 1 SoC MCU, 1 Flash du micrologiciel, 1 Ethernet PHY avec magnétique, 1–2 PMIC, 1 Minuterie de surveillance, 1 Générateur d'horloge.

Commutateur hors bande: 1 Changer d'ASIC, 24 PHY Ethernet, 1 Gestion SoC/CPU, 1 Éclair, 1 DRACHME, 1 PMIC.

Commutateur intra-bande: 1 Changer d'ASIC, 100+ Émetteurs-récepteurs SerDes, 1 Ethernet/InfiniBand PHY, 72 Émetteurs-récepteurs optiques, 1 DSP, 10 PMIC, 1 MCU de contrôle de ventilateur/thermique, 1 Éclair, 1 DRACHME.

Unité de refroidissement liquide CDU:3 Capteurs de débit, 4 Capteurs de pression, 4 Capteurs de température, 1 Contrôleur MCU, 1 Interface Ethernet/PMBus.

A part ce démontage, le rapport souligne également quelques directions de changement, et de ces changements, nous pouvons prédire les tendances futures possibles.

Le premier est l’alimentation électrique. L'alimentation du rack passe de l'actuel 48 V CC à 400 V., et même éventuellement 800 V DC haute tension. La consommation électrique d'un seul rack approche le niveau du mégawatt; actuellement, les racks les plus puissants mesurent environ 100 à 120 kW, mais dans le futur, un seul rack peut avoir besoin de 1 MW. Avec ce changement, les semi-conducteurs composés comme le GaN et le SiC sont de plus en plus utilisés dans les systèmes électriques car ils peuvent fonctionner à des tensions plus élevées et ont des pertes et une génération de chaleur inférieures par rapport aux dispositifs traditionnels au silicium..

Tendances d’évolution technologique de base

La fourniture d'énergie passe de 48 V CC à 400 V/800 V HVDC à mesure que la densité de puissance du rack approche 1 MW.. Cela accélère l'adoption du large bande interdite (GaN/SiC) appareils.

La montée en flèche du TDP force une transition vers le refroidissement liquide (~30% d'adoption par 2035), demande croissante de capteurs de débit/pression/température dédiés et de microcontrôleurs de contrôleur.

III

Conclusion & Informations stratégiques sur la chaîne d'approvisionnement pour Trusty IC

Why AI déclenche des pénuries mondiales de puces et des hausses de prix?

Les fonderies et les IDM réattribuent de manière agressive leur capacité de production de plaquettes avancées., Emballage CoWoS, et lignes DRAM vers les ASIC et HBM IA à forte marge.

Numéros de pièces matures traditionnels (Composants hérités/matures) sont stratégiquement éliminés:

Les fabricants d'origine concentrant leurs ressources sur l'IA ont réduit la capacité de production de DRAM générale., NAND traditionnelle, et puces d'alimentation/analogiques standard, provoquant des pénuries structurelles d’approvisionnement, des délais plus longs, et la montée en flèche des prix au comptant des puces traditionnelles couramment utilisées dans les voitures, automatisation industrielle, soins de santé, et serveurs traditionnels.

💡 Pourquoi Trusty IC？

Trusty IC aide les OEM mondiaux, Entreprises EMS, et les fournisseurs résolvent trois défis clés de la chaîne d'approvisionnement:

Shortage Sourcing – Approvisionnement rapide en produits difficiles à trouver, pénurie, obsolète, et composants semi-conducteurs EOL via des réseaux d'approvisionnement mondiaux et des stocks disponibles.

Inventaire excédentaire & Optimisation des coûts – Prise en charge des stocks excédentaires, Optimisation de la nomenclature, référence croisée de composant, approvisionnement alternatif, et réduction de la VPP.

Assurance qualité – Contrôle qualité strict, traçabilité des composants, Inspection aux rayons X, et des tests tiers pour garantir l'authenticité et la fiabilité des composants électroniques.

Trusty IC — Aider les clients à trouver les bons composants, réduire les coûts d'inventaire, et gérer les risques liés à l'approvisionnement en semi-conducteurs.