Desmontaje del rack de IA: Por qué los chips de IA están provocando escasez mundial de semiconductores & Aumentos de precios

— 4,500 Chips por bastidor AI; Encima 45 Millones de chips en un centro de datos de 10.000 racks

Recientemente, Deloitte y la Asociación de la Industria de Semiconductores (ES) publicaron conjuntamente un informe completo. Utilizando un “desmontaje virtual” metodología, deconstruyeron meticulosamente un sistema de rack de IA de primer nivel desde adentro hacia afuera.

Conclusiones clave de este artículo:

1. ¿Cuántos chips se instalan en un solo bastidor de IA?, y como es el Gasto de Capital (CapEx) repartido?

2. ¿Qué componentes semiconductores específicos están integrados en los subsistemas clave derribados en el informe??

I

¿Qué chips tienen el mayor valor?. La mayor cantidad en un rack de IA?

Este informe deconstruye sistemáticamente capa por capa un bastidor de IA de primer nivel, que abarca cinco niveles estructurales distintos.: Troquel de silicio, Chip empaquetado, Tablero/Tarjeta, Bandeja, y sistema de bastidor—para revelar su arquitectura semiconductora subyacente.

Según el informe, un estante consta de cinco tipos de bandejas funcionales: Bandejas de Computación, Bandejas de alimentación, Redes & Bandejas IPMI, Bandejas de interconexión del acelerador, y bandejas CDU.

Bandeja de cálculo：Procesamiento central

Bandeja de alimentación：Entrega de energía

Redes & Bandeja IPMI：oh&Gestión M

Bandeja de interruptor/interconexión：Interconexión de acelerador de alta velocidad

Bandeja CDU (Bandeja de unidad de distribución de refrigeración：Distribución de refrigeración líquida

1. Distribución de valor

Mirando primero el valor económico: Los semiconductores representan más 95% del valor total del sistema de un rack de IA de alta gama. Este valor está muy concentrado en las bandejas de computación., específicamente dentro de los aceleradores de IA. Los aceleradores de IA por sí solos representan aproximadamente el 74 % del valor total de los chips del rack., con unidades individuales con precios entre $10,000 y $40,000.

Un acelerador de IA es un conjunto heterogéneamente integrado: 1–2 la lógica de vanguardia muere (Nodo ≤7 nm), emparejado con 6–12 memorias de alto ancho de banda (hbm) pilas (apilando hasta 16 DRAM muere cada), Integrado a través de interfaces de interconexión de alta velocidad e intercaladores utilizando paquetes avanzados 2,5D/3D..

Según el desglose, ~70% del valor de un acelerador reside en chips lógicos y ~20% en memoria. Solo HBM (calculado en ~$30 por $50 por GB: demandas $400,000 a $600,000 valor de memoria por bastidor.

Esto implica que el principal impulsor del valor combina tres cuellos de botella críticos en los semiconductores.: lógica de vanguardia, hbm, y embalaje avanzado—Todo monopolizado por unos pocos IDM y fundiciones clave..

Por nivel de precio unitario: chips debajo $10 representan ~52% del volumen total; $10–Las fichas de $100 representan ~29%; $100–Las fichas de $1,000 representan ~16%; mientras que las patatas fritas arriba $1,000 representan sólo ~3%.

2. Cantidad & Desglose del precio unitario

Mirando los precios y cantidades específicos:

Un solo gabinete tiene aproximadamente 4,500 patatas fritas empaquetadas.

Cuando se descompone en matrices desnudas, eso es aproximadamente 20,000 chips de silicio.

Un centro de datos de 10.000 racks tiene más de 45 millones de fichas.

Si lo desglosamos por el precio unitario:

<$10: acerca de 52% (principalmente fuentes de alimentación, cosa análoga, interfaces, sensores, MCU)

$10–$100: acerca de 29%

$100–$1,000: acerca de 16%

>$1,000: solo 3% (principalmente aceleradores de IA/CPU/ASIC de conmutación)

Conclusión: El valor del sistema está impulsado por la parte superior. 3% de chips de costo ultra alto, mientras que el volumen total está dominado por circuitos integrados periféricos de menos de 10 dólares. Aunque es bajo en precio unitario, una escasez en cualquier subcomponente puede detener la fabricación del sistema completo.

Puedes ver eso en un gabinete de IA., las fichas más valiosas y las fichas en mayor cantidad no son las mismas.

Sin embargo, estas energías de bajo costo, cosa análoga, y chips sensores, sin agregar mucho valor, son esenciales para que el sistema funcione sin problemas. La escasez de cualquiera de ellos podría paralizar toda la asamblea..

II

¿Qué chips se utilizan en subsistemas clave?,y cómo exprimen a otras industrias?

Volumen de chips por tipo de bandeja：

Bandeja de cálculo：4,000 Papas fritas

Bandeja de alimentación：600 Papas fritas

Redes & Bandeja IPMI：100 Papas fritas

Bandeja de interconexión：70 Papas fritas

Bandeja CCDU：10 Papas fritas

Estas decenas de miles de chips, la gran mayoría no son costosos chips tipo acelerador, pero varias lógicas de apoyo, memoria, fuerza, cosa análoga, y componentes de sensores. Están esparcidos por cada bandeja y cada parte..

El informe desmontó algunos componentes clave y enumeró exactamente qué chips se utilizaron en su interior.:

Tablero de Computación : 1–2 aceleradores de IA, 1–2 CPU, 8–32 DIMM, 50-100+ VRM, 10+ Circuitos integrados de control/soporte, 1+ IC de interconexión de red.

Acelerador de IA (GPU)：1–2 ASIC lógicos, 1+ Interconexión física, 6–12 pilas HBM (96–192 muere), 1 Troquel intercalador/puente empaquetado conjuntamente.

memoria RAM (DIMM)： 8–16 chips DRAM por DIMM, 1 RCD, 1 PMIC, 1 EEPROM SPD, 1 Sensor de temperatura.

Unidad de estado sólido NVMe (SSD)：256 Troqueles de memoria flash NAND, 1 Controlador SSD, 1 Caché de DRAM, 1 Interfaz de E/S IC, 1 PMIC.

Unidad de procesamiento de datos (DPU)： 1 Troquel lógico integrado, 1 Motor de paquetes, 1–2 DRAM en chip, 1 Interfaz física, 1 Destello, 6–8 PMIC/VRM.

Tarjeta de red de alto rendimiento (tarjeta de red)：1 Controlador de red ASIC, 1 Transceptor óptico, 4–8 SerDes/PHY, 1 Módulo DDR, 1 Interfaz PCIe, 2–4 PMIC/VRM, 1 DSP, 1 Oscilador, 1–2 búferes de reloj, 1 Generador de reloj.

Unidad de distribución de energía típica en una bandeja de computación de servidor AI:2– 6 IBC, 6–12 convertidores PoL, 1–2 SoC MCU/PMBus, 2–6 PMIC, 5–10 sensores de corriente/voltaje, 2–4 conductores & FET.

Bandeja de interconexión del acelerador:2 PHY de alta velocidad, 2 Cambiar ASIC/bandeja, 16–72+ transceptores/conmutadores SerDes, 1–2 chips ACC, 4–6 PMIC/VRM, 1–2 generadores de reloj/PLL, 1 Oscilador, 1–2 búferes de reloj.

Unidad de fuente de alimentación de nivel de servidor (fuente de alimentación)：1 Puente rectificador, 1 Controlador PFC, 2–4 MOSFET de potencia GaN, 1 Controlador PWM, 2–4 controladores de puerta, 2–4 FET rectificadores síncronos, 1 SoC MCU/PMBus, 3–5 sensores de voltaje/temperatura.

Bastidor de servidor AI BMC: interruptor fuera de banda: interruptor dentro de banda: Unidad de refrigeración líquida CDU:

Bastidor de servidor AI BMC: 1 SoC de MCU, 1 Actualización de firmware, 1 Ethernet PHY con magnéticos, 1–2 PMIC, 1 Temporizador de vigilancia, 1 Generador de reloj.

Conmutador fuera de banda: 1 Cambiar ASIC, 24 PHY de Ethernet, 1 Gestión de SoC/CPU, 1 Destello, 1 DRACMA, 1 PMIC.

Conmutador dentro de banda: 1 Cambiar ASIC, 100+ Transceptores SerDes, 1 Ethernet/InfiniBand PHY, 72 Transceptores ópticos, 1 DSP, 10 PMIC, 1 MCU de control térmico/ventilador, 1 Destello, 1 DRACMA.

Unidad de refrigeración líquida CDU:3 Sensores de flujo, 4 Sensores de presión, 4 Sensores de temperatura, 1 Controlador MCU, 1 Interfaz Ethernet/PMBus.

Además de este derribo, El informe también señala algunas direcciones de cambio., y de estos cambios, Podemos predecir posibles tendencias futuras..

Primero es la fuente de alimentación. La alimentación del rack está cambiando de los actuales 48 V CC a 400 V, e incluso eventualmente CC de alto voltaje de 800 V. El consumo de energía de un solo rack se acerca al nivel de los megavatios; actualmente, los bastidores más potentes rondan los 100-120 kW, pero en el futuro, un solo rack puede necesitar 1MW. Con este cambio, Los semiconductores compuestos como GaN y SiC se utilizan cada vez más en sistemas de energía porque pueden funcionar a voltajes más altos y tienen menores pérdidas y generación de calor en comparación con los dispositivos de silicio tradicionales..

Tendencias de evolución de la tecnología central

El suministro de energía está cambiando de 48 VCC a 400 V/800 V HVDC a medida que la densidad de potencia del rack se acerca a 1 MW. Esto acelera la adopción de banda prohibida amplia. (GaN/SiC) dispositivos.

El creciente TDP obliga a una transición a la refrigeración líquida (~30% de adopción por 2035), Creciente demanda de sensores de flujo/presión/temperatura dedicados y MCU de controlador.

III

Conclusión & Información estratégica sobre la cadena de suministro para Trusty IC

W.La IA provoca escasez global de chips y aumentos de precios?

Las fundiciones y los IDM están reasignando agresivamente la capacidad de obleas avanzadas, Embalaje CoWoS, y líneas DRAM hacia ASIC de IA y HBM de alto margen.

Números de pieza maduros tradicionales (Componentes heredados/maduros) están siendo eliminados estratégicamente:

El hecho de que los fabricantes originales centraran sus recursos en la IA ha reducido la capacidad de producción de DRAM en general., NAND tradicional, y chips de alimentación/analógicos estándar, causando escasez estructural de suministro, plazos de entrega más largos, y precios al contado disparados para los chips heredados de uso común en los automóviles, automatización industrial, cuidado de la salud, y servidores tradicionales.

💡 Por qué confiar en IC？

Trusty IC ayuda a los OEM globales, Empresas de EMS, y los proveedores resuelven tres desafíos clave de la cadena de suministro:

Abastecimiento de escasez: abastecimiento rápido de productos difíciles de encontrar, escasez, obsoleto, y componentes semiconductores EOL a través de redes de abastecimiento globales e inventario disponible.

Exceso de inventario & Optimización de costos: soporte para exceso de stock, Optimización de la lista de materiales, referencia cruzada de componentes, abastecimiento alternativo, y reducción del VPP.

Garantía de calidad: estricto control de calidad, trazabilidad de componentes, Inspección por rayos X, y pruebas de terceros para ayudar a garantizar componentes electrónicos auténticos y confiables.

Trusty IC: ayuda a los clientes a encontrar los componentes adecuados, reducir los costos de inventario, y gestionar los riesgos del suministro de semiconductores.