AI行业跟踪报告第52期：OIO，AyarLabs获英伟达投资，光子算数董事长参股迈信林.docx

英伟达数据中心产品首席平台架构师罗伯·奥伯（RobOber）认为，过去十年，英伟达加速计算已经为AI带来百万倍的加速，而下一个百万倍的加速将需要光学I/O等全新技术，来支持未来AI/ML工作负载和系统架构的带宽、功率和规模要求。

OpenAI计算主管克里斯托弗·伯纳（ChristopherBerner）也强调，横向扩展期间的互连带宽对于防止加速器在等待网络传输或梯度时停转至关重要。

AyarLabs开发了业界首款针对大规模AI工作负载优化的封装内光学I/O解决方案。相比采用可插拔光学器件+电气SerDes的传统互连，AyarLabs的方案可实现5~10倍的更高带宽、4~8倍的能效，并将延迟降低至1/10。

图2：AyarLabs的OIO方案 图3：AyarLabs的OIO方案

资料来源：芯东西， 资料来源：芯东西，

AyarLabs的方案结合了两项行业首创技术——TeraPHY光学I/OChiplet和SuperNova多波长光源。

1、TeraPHY可集成到客户的SoC封装中，利用其SuperNova远程光技术实现更快的芯片间通信，从而帮助客户最大限度地提高AI基础设施的计算效率和性能，还能提高“AI应用的盈利能力指标”。

TeraPHY光学I/OChiplet是一款体积小、功耗低、吞吐量高的铜背板和可插拔光学通信替代方案，其模块化多端口设计可承载8个光通道（相当于x8PCIeGen5链路）。它将硅光子学与标准CMOS制造工艺结合，使专用集成电路（ASIC）能跨越从毫米到千米的距离进行通信，相当于形成一个巨型GPU。每个端口有256Gbps，每个Chiplet有2Tbps。

图4：AyarLabs的OIO方案 图5：AyarLabs的TeraPHY光学I/OChiplet

资料来源：芯东西， 资料来源：芯东西，

万亿参数AI模型和高性能计算（HPC）设计需要不断增加的带宽。AyarLabs光学I/O提供4Tbps的总双向带宽，为生成式AI架构开辟了新的可能性。高性能计算（HPC）和AI的分布式计算系统无法容忍传统电气I/O前向纠错带来的数十纳秒额外延迟。而AyarLabs光学I/O的延迟为每Chiplet+TOF5纳秒，

无需前向纠错。为了使电气I/O和可插拔光学器件能够穿越系统、机架和数据中心，112Gbps长距离电气I/O会消耗6-10pJ/b的能量。AyarLabs光学I/O消耗的能量则不到5pJ/b（10W）。

图6：AyarLabs的OIO方案 图7：AyarLabs的OIO方案

资料来源：芯东西， 资料来源：芯东西，

2、SuperNova是首款符合CW-WDMMSA标准的多波长、多端口光源，最多支持将16种波长的光传输至16根光纤。与CWDM4多波长可插拔光学器件相比，其波长增加了64倍。该光源可驱动256个光学载波，实现16Tbps的双向带宽。

图8：AyarLabs的SuperNova技术 图9：AyarLabs的SuperNova技术

资料来源：芯东西， 资料来源：芯东西，

AyarLabs基于开放标准（UCIe、CXL、CW-WDMMSA），能顺利大规模集成到AI系统中。AyarLabs的芯片由格芯生产。AyarLabs与INTEL合作，将其技术集成到INTEL的制造产品中。同时，AyarLabs目前也在与台积电洽谈。HPE、INTEL、洛克希德·马丁、英伟达都是AyarLabs的技术合作伙伴。其供应链合作伙伴包括格芯、MACOM、SiversSemiconductors等。

2024年，AyarLabs开始向部分客户出货约15000台设备。马克·韦德希望到

2026年中期，其芯片能实现大批量生产；到2028年及以后，每年出货量可达

到1亿台以上。

2、中国企业光子算数深度布局OIO，光子算数董事长白冰入股上市公司迈信林

中国企业光子算数深度布局OIO

光子算数（南京）科技有限责任公司深度布局OIO行业。光子算数于2017年11月成立，是国内首家光计算芯粒公司，也是光计算领域内首个国家高新技术

企业，注册资本659.7万元人民币。

光子算数的核心技术成员来自北京交通大学“杰青+万人领军”团队，依托国央企/军工单位、地方政府等重大场景需求，持续承担国家自然科学基金委、北京市科委、北京电控等光计