AI行业跟踪报告第52期：OIO，AyarLabs获英伟达投资，光子算数董事长参股迈信林.pdf

电子行业

英伟达数据中心产品首席平台架构师罗伯·奥伯（RobOber）认为，过去十年，

英伟达加速计算已经为AI带来百万倍的加速，而下一个百万倍的加速将需要光

学I/O等全新技术，来支持未来AI/ML工作负载和系统架构的带宽、功率和规模

要求。

OpenAI计算主管克里斯托弗·伯纳（ChristopherBerner）也强调，横向扩展

期间的互连带宽对于防止加速器在等待网络传输或梯度时停转至关重要。

AyarLabs开发了业界首款针对大规模AI工作负载优化的封装内光学I/O解决方

案。相比采用可插拔光学器件+电气SerDes的传统互连，AyarLabs的方案可实

现5~10倍的更高带宽、4~8倍的能效，并将延迟降低至1/10。

图2：AyarLabs的OIO方案图3：AyarLabs的OIO方案

资料来源：芯东西，光大证券研究所资料来源：芯东西，光大证券研究所

AyarLabs的方案结合了两项行业首创技术——TeraPHY光学I/OChiplet和

SuperNova多波长光源。

1、TeraPHY可集成到客户的SoC封装中，利用其SuperNova远程光技术实现

更快的芯片间通信，从而帮助客户最大限度地提高AI基础设施的计算效率和性

能，还能提高“AI应用的盈利能力指标”。

TeraPHY光学I/OChiplet是一款体积小、功耗低、吞吐量高的铜背板和可插拔

光学通信替代方案，其模块化多端口设计可承载8个光通道（相当于x8PCIe

Gen5链路）。它将硅光子学与标准CMOS制造工艺结合，使专用集成电路（ASIC）

能跨越从毫米到千米的距离进行通信，相当于形成一个巨型GPU。每个端口有

256Gbps，每个Chiplet有2Tbps。

图4：AyarLabs的OIO方案图5：AyarLabs的TeraPHY光学I/OChiplet

资料来源：芯东西，光大证券研究所资料来源：芯东西，光大证券研究所

万亿参数AI模型和高性能计算（HPC）设计需要不断增加的带宽。AyarLabs

光学I/O提供4Tbps的总双向带宽，为生成式AI架构开辟了新的可能性。高性

能计算（HPC）和AI的分布式计算系统无法容忍传统电气I/O前向纠错带来的

数十纳秒额外延迟。而AyarLabs光学I/O的延迟为每Chiplet+TOF5纳秒，

-2-

电子行业

无需前向纠错。为了使电气I/O和可插拔光学器件能够穿越系统、机架和数据中