第一层:系统和共用主机空间:

这是物理基础。服务器供应商如$DELL、$HPE和$SMCI组装和销售实际计算硬件。共用主机空间提供商如$EQIX和$DLR拥有并运营该硬件所在的设施。 我认为该层是土地和建筑的基础。

第二层A:内存:

高带宽内存和DRAM位于或靠近GPU并能够以保持与AI负载一致的速度将数据传递出来。 $MU、SK Hynix和Samsung是关键-player。 没有足够内存带宽的GPU就像困在城镇交通中的F1车一样。

第二层B:网络和光学:

只有当数据能够移动时才有意义。 $AVGO设计了自定义ASIC和网络芯片。$MRVL供应交换器和$PHY供给硅化材料。

$AAOI制造了运输数据在数据中心纤维光缆上的光纤传感器。 在AI中,如果网络卡住或产生许多干扰,速度就毫无用处。 因此,这一段的重要性。

第二层c:发电和冷却:

AI数据中心是很令人惊叹的热机。$VRT和$ETN提供电力分配、$UPS系统和流体冷却基础设施。$SU涵盖更广泛的能效管理和冷却解决方案。 当电力受限或热能不能离开房间时,整个建造成风都受阻。

第三层: rack内的连接:

在 rack 内,数据必须从芯片内连接到另一个芯片并尽可能减少延迟。 $AVGO、$ALAB和$CRDO提供器件、PCIe和CXL连接,从而使这一点成为可能。

在这个层次,微小的延迟变成规模庞大的不效率。 所有关注量子纤维的焦点会容易忽略。

第四层:制作厂和包装:

这是实际制作芯片的场所和组装的地方。 $TSM生产最先进的节点。 $INTC和$ASX处理制造和高级包装,包括芯片和 CoWoS。 $AMCR提供包装材料。

我认为这是“栈的工业核心”。

第五层:半导体设备

这是制造工具的工具,想象一下。$ASML制造EUV光刻机,对于领导生产来说是不可或缺的。$AMAT、$LRCX和$KLAC供应全链路的沉积、刻蚀和检查设备。

看到了么。AI瓶颈全面的详解。

如果你 喜欢这个总结,可能也喜欢我网页上的另一个相关的 pinned 文章,那里要详解的每个段落。