图灵汇官网

图灵汇 12 月 10 日消息，2024 IEEE IEDM 国际电子设备会议正在美国加州旧金山召开。据分析师 Ian Cutress 在 X 平台上的更新，英伟达在此次会议上展示了其对未来AI加速器的设计理念。

英伟达提出，未来的AI加速器将构建在大尺寸的高级封装基板上，采用垂直供电技术，并集成了硅光子输入输出（I/O）设备。此外，GPU将采用模块化设计，内存则采用三维垂直堆叠DRAM，且在模块内部直接安装散热装置。

在英伟达提供的示意图中，每个AI加速器由四个GPU模块组成，每个模块垂直连接六个小型DRAM内存模块，并配备三组硅光子I/O设备。硅光子I/O能够提供比现有电气I/O更高的带宽和能效，这是当前技术发展的一个重要方向。而三维垂直堆叠DRAM内存相比传统的2.5D HBM方案，信号传输距离更短，有助于增加引脚数量和提高每引脚的数据传输速度。然而，这种设计也带来了更高的发热量，因此模块内嵌的冷板可以增强散热效果。

Ian Cutress 表示，这样的AI加速器要到2028年甚至更晚才能实现。一方面，由于英伟达在AI GPU方面的订单量巨大，对硅光子器件的需求也将随之激增。只有当英伟达能够确保每月生产超过一百万个硅光子连接时，才会全面转向光学I/O。另一方面，垂直堆叠芯片产生的热效应需要通过更先进的材料和技术手段来解决，未来可能还会出现芯片内部冷却系统。