图灵汇官网

英伟达展望未来AI加速器：集成硅光子I/O与3D垂直堆叠内存

在2024年IEEE IEDM国际电子设备会议上，英伟达分享了关于未来AI加速器的构想。根据分析师Ian Cutress的报告，英伟达认为未来的AI加速器将采用大面积先进封装基板，并结合垂直供电、集成硅光子I/O器件、多模块GPU设计以及3D垂直堆叠DRAM内存。

英伟达设想的AI加速器复合体将包括四个GPU模块，每个模块与六个小型DRAM内存模块垂直连接，并配备三组硅光子I/O器件。硅光子I/O技术能够提供比现有电气I/O更高的带宽和能效，是当前先进工艺的重要趋势。此外，3D垂直堆叠的DRAM内存相比现有的2.5D HBM方案，信号传输距离更短，有助于增加I/O引脚数量和提升每引脚速率。然而，垂直集成更多器件会导致发热量增加，因此模块内部整合冷板可以提高散热效率。

Ian Cutress指出，这样的AI加速器复合体预计要到2028年至2030年甚至更晚才能成为现实。一方面，由于英伟达在AI GPU订单上的巨大需求，对硅光子器件的需求也将非常高，只有当每月能生产超过100万个硅光子连接时，才会全面转向光学I/O。另一方面，垂直芯片堆叠带来的热效应需要更先进的材料来解决，可能需要引入芯片内冷却方案。