Desmontagem do Rack AI: Por que os chips de IA estão causando escassez global de semicondutores & Aumentos de preços

- 4,500 Chips por AI Rack; Sobre 45 Milhões de chips em um data center com 10.000 racks

Recentemente, Deloitte e a Associação da Indústria de Semicondutores (É) divulgaram em conjunto um relatório abrangente. Utilizando um “desmontagem virtual” metodologia, eles desconstruíram meticulosamente um sistema de rack de IA de alto nível de dentro para fora.

Principais conclusões deste artigo:

1. Quantos chips estão instalados em um único rack AI, e como fica a Despesa de Capital (CapEx) distribuído?

2. Quais componentes semicondutores específicos estão incorporados nos principais subsistemas detalhados no relatório?

EU

Quais fichas têm o valor mais alto vs.. Maior quantidade em um AI Rack?

Este relatório desconstrói sistematicamente um rack de IA de nível superior, camada por camada, abrangendo cinco níveis estruturais distintos: Matriz de Silício, Chip Embalado, Tabuleiro/Cartão, Bandeja, e sistema de rack—para revelar sua arquitetura semicondutora subjacente.

De acordo com o relatório, um rack consiste em cinco tipos de bandejas funcionais: Bandejas de computação, Bandejas de energia, Rede & Bandejas IPMI, Bandejas de interconexão do acelerador, e bandejas CDU.

Bandeja de computação：Processamento Central

Bandeja de energia：Entrega de energia

Rede & Bandeja IPMI：Ó&Gestão M

Bandeja de switch/interconexão：Interconexão de acelerador de alta velocidade

Bandeja CDU (Bandeja da unidade de distribuição de resfriamento：Distribuição de refrigeração líquida

1. Distribuição de valor

Olhando primeiro para o valor econômico: semicondutores representam mais 95% do valor total do sistema de um rack AI de última geração. Este valor está fortemente concentrado nas bandejas de computação, especificamente dentro dos aceleradores de IA. Somente os aceleradores de IA representam aproximadamente 74% do valor total do chip do rack, com unidades individuais com preços entre $10,000 e $40,000.

Um acelerador de IA é um conjunto integrado heterogeneamente: 1–2 matrizes lógicas de ponta (nó ≤7nm), emparelhado com 6–12 memória de alta largura de banda (HBM) pilhas (empilhando até 16 DRAM morre cada), integrado por meio de interfaces de interconexão de alta velocidade e interpositores usando empacotamento avançado 2,5D/3D.

De acordo com a divisão, Cerca de 70% do valor de um acelerador está em chips lógicos e cerca de 20% na memória. Somente HBM – calculado em aproximadamente US$ 30 para $50 por GB – demandas $400,000 para $600,000 valor de memória por rack.

Isso implica que o principal direcionador de valor combina três gargalos críticos de semicondutores: lógica de ponta, HBM, e embalagens avançadas—todos monopolizados por alguns IDMs e fundições importantes.

Por nível de preço unitário: fichas sob $10 representam cerca de 52% do volume total; $10–Fichas de US$ 100 representam aproximadamente 29%; $100– Fichas de US$ 1.000 representam aproximadamente 16%; enquanto fichas acima $1,000 representam apenas cerca de 3%.

2. Quantidade & Detalhamento do preço unitário

Olhando para os preços e quantidades específicas:

Um único gabinete tem cerca de 4,500 chips embalados.

Quando dividido em matrizes nuas, isso é sobre 20,000 chips de silício.

Um data center com 10.000 racks tem mais de 45 milhões de fichas.

Se dividirmos pelo preço por unidade:

<$10: sobre 52% (principalmente fontes de alimentação, analógico, interfaces, sensores, MCUs)

$10–$100: sobre 29%

$100–$ 1.000: sobre 16%

>$1,000: apenas 3% (principalmente aceleradores de IA/CPUs/switch ASICs)

Conclusão: O valor do sistema é impulsionado pelo topo 3% de chips de custo ultra-alto, enquanto o volume total é dominado por CIs periféricos abaixo de US$ 10. Embora baixo no preço unitário, uma escassez em qualquer subcomponente pode interromper a fabricação de todo o sistema.

Você pode ver isso em um gabinete de IA, as fichas mais valiosas e as fichas em maior quantidade não são as mesmas.

No entanto, essas energias de baixo custo, analógico, e chips sensores, embora não agregue muito valor, são essenciais para o bom funcionamento do sistema. A falta de qualquer um deles poderia paralisar toda a assembléia.

II

Quais chips são usados ​​em subsistemas principais,e como eles espremem outras indústrias?

Volume de chips por tipo de bandeja：

Bandeja de computação：4,000 Batatas fritas

Bandeja de energia：600 Batatas fritas

Rede & Bandeja IPMI：100 Batatas fritas

Bandeja de interconexão：70 Batatas fritas

Bandeja CCDU：10 Batatas fritas

Essas dezenas de milhares de chips, a grande maioria não são chips caros do tipo acelerador, mas várias lógicas de suporte, memória, poder, analógico, e componentes do sensor. Eles estão espalhados em todas as bandejas e em todas as partes.

O relatório desmontou alguns componentes principais e listou exatamente quais chips foram usados ​​dentro:

Placa de computação : 1–2 aceleradores de IA, 1–2 CPUs, 8–32 DIMMs, 50-100+ VRMs, 10+ CIs de controle/suporte, 1+ IC de interconexão de rede.

Acelerador de IA (GPU)：1–2 ASICs lógicos, 1+ Interconectar PHY, 6–12 pilhas HBM (96–192 mortes), 1 Matriz Interposer/Ponte Co-embalada.

Pendrive RAM (DIMM)： 8–16 chips DRAM por DIMM, 1 RCD, 1 PMIC, 1 EEPROM SPD, 1 Sensor de temperatura.

Unidade de estado sólido NVMe (SSD)：256 Matrizes Flash NAND, 1 Controlador SSD, 1 Cache DRAM, 1 CI de interface de E/S, 1 PMIC.

Unidade de Processamento de Dados (DPU)： 1 Matriz Lógica Incorporada, 1 Mecanismo de pacotes, 1–2 DRAMs no chip, 1 Interface física, 1 Clarão, 6–8 PMICs/VRMs.

Placa de rede de alto desempenho (Placa de rede)：1 Controlador de rede ASIC, 1 Transceptor Óptico, 4–8 SerDes/PHYs, 1 Módulo DDR, 1 Interface PCIe, 2–4 PMIC/VRM, 1 DSP, 1 Oscilador, 1–2 buffers de relógio, 1 Gerador de relógio.

Unidade de distribuição de energia típica em uma bandeja de computação de servidor de IA:2– 6 IBCs, 6–12 Conversores PoL, 1–2 SoCs MCU/PMBus, 2–6 PMICs, 5–10 sensores de corrente/tensão, 2–4 motoristas & FETs.

Bandeja de interconexão do acelerador:2 PHYs de alta velocidade, 2 Alternar ASICs/bandeja, 16–72+ Transceptores/Switches SerDes, 1–2 chips ACC, 4–6 PMICs/VRMs, 1–2 Geradores de Relógio/PLLs, 1 Oscilador, 1–2 buffers de relógio.

Unidade de fonte de alimentação de nível de servidor (fonte de alimentação)：1 Ponte Retificadora, 1 Controlador PFC, 2–4 MOSFETs de potência GaN, 1 Controlador PWM, 2–4 drivers de portão, 2–4 FETs retificadores síncronos, 1 SoC MCU/PMBus, 3–5 sensores de tensão/temperatura.

Rack de servidor AI BMC: interruptor fora de banda: interruptor dentro da banda: Unidade de refrigeração líquida CDU:

Rack de servidor AI BMC: 1 SoC MCU, 1 Firmware Flash, 1 Ethernet PHY com magnetismo, 1–2 PMICs, 1 Temporizador de vigilância, 1 Gerador de relógio.

Chave fora de banda: 1 Trocar ASIC, 24 PHYs Ethernet, 1 SoC/CPU de gerenciamento, 1 Clarão, 1 DRAM, 1 PMIC.

Switch dentro da banda: 1 Trocar ASIC, 100+ Transceptores SerDes, 1 Ethernet/InfiniBand PHY, 72 Transceptores ópticos, 1 DSP, 10 PMICs, 1 MCU de controle térmico/ventilador, 1 Clarão, 1 DRAM.

Unidade de refrigeração líquida CDU:3 Sensores de fluxo, 4 Sensores de pressão, 4 Sensores de temperatura, 1 Controlador MCU, 1 Interface Ethernet/PMBus.

Além desta desmontagem, o relatório também aponta algumas direções de mudança, e a partir dessas mudanças, podemos prever possíveis tendências futuras.

Primeiro é a fonte de alimentação. A alimentação do rack está mudando dos atuais 48 Vcc para 400 V, e até mesmo, eventualmente, 800V DC de alta tensão. O consumo de energia de um único rack está se aproximando do nível de megawatts; atualmente, os racks mais fortes têm cerca de 100–120kW, mas no futuro, um único rack pode precisar de 1 MW. Com esta mudança, semicondutores compostos como GaN e SiC estão sendo cada vez mais usados ​​em sistemas de energia porque podem operar em tensões mais altas e têm menores perdas e geração de calor em comparação com dispositivos tradicionais de silício.

Principais tendências de evolução tecnológica

O fornecimento de energia está mudando de 48 V CC para 400 V/800 V HVDC à medida que a densidade de potência do rack se aproxima de 1 MW. Isso acelera a adoção de banda larga (GaN/SiC) dispositivos.

O aumento do TDP força uma transição para o resfriamento líquido (~30% de adoção por 2035), demanda crescente por sensores dedicados de fluxo/pressão/temperatura e MCUs controladores.

III

Conclusão & Insights estratégicos da cadeia de suprimentos para Trusty IC

Chy AI desencadeia escassez global de chips e aumento de preços?

Fundições e IDMs estão realocando agressivamente a capacidade avançada de wafer, Embalagem CoWoS, e linhas DRAM para AI ASICs e HBM de alta margem.

Números de peça maduros tradicionais (Componentes legados/maduros) estão sendo estrategicamente eliminados:

Os fabricantes originais que concentraram seus recursos em IA reduziram a capacidade de produção de DRAM geral, NAND tradicional, e chips de potência/analógicos padrão, causando escassez estrutural de oferta, prazos de entrega mais longos, e preços spot disparados para chips legados comumente usados ​​em carros, automação industrial, assistência médica, e servidores tradicionais.

💡 Por que IC confiável？

Trusty IC ajuda OEMs globais, Empresas de EMS, e os fornecedores resolvem três desafios principais da cadeia de suprimentos:

Shortage Sourcing – Fornecimento rápido de produtos difíceis de encontrar, falta, obsoleto, e componentes semicondutores EOL por meio de redes globais de fornecimento e inventário disponível.

Excesso de estoque & Otimização de Custos – Suporte para excesso de estoque, Otimização de lista de materiais, referência cruzada de componentes, fonte alternativa, e redução de PPV.

Garantia de Qualidade – Rigoroso controle de qualidade, rastreabilidade de componentes, Inspeção de raios X, e testes de terceiros para ajudar a garantir componentes eletrônicos autênticos e confiáveis.

Trusty IC — Ajudando os clientes a encontrar os componentes certos, reduzir custos de estoque, e gerenciar riscos de fornecimento de semicondutores.