北大蔡一茂教授：深度解读AI芯片技术趋势，架构创新、新型存储与先进封装.pdf

北大蔡一茂教授：解读AI芯片技术趋势，架构创新、

新型存储与先进封装

新型存储器挑起AI芯片大梁，感存算一体成新趋势。

作者：心缘

自1956年国家在北京大学由黄昆先生领衔建立半导体专门化，到北京大学于

2020年设立集成电路科学与工程一级学科，再到今年7月北京大学集成电路学

院揭牌成立，北京大学集成电路学科已走过65度春秋，正整合优势产学资源，

迈向新的阶段。

作为推动北大集成电路学科建设的关键成员，北京大学信息科学技术学院副院

长、微纳电子学系系主任蔡一茂教授长期从事先进存储器、神经形态器件及类

脑芯片关键技术研究，对于人工智能时代新器件、新架构、新工艺有着深刻见

地。AI芯片发展到了怎样的阶段？

存算一体因何蓬勃发展、还需攻克哪些难关？哪些技术方向为AI加速计算提

供了优化能效和性能的更多可能？类脑计算与AI芯片如何相辅相成？……围

绕这些问题，近日，智东西与蔡一茂教授展开了一场深度对话。

01.AI芯片五大衡量维度，通用性是终极目标

从初绽锋芒到逐渐被大众认知，AI芯片经过数年发展，已经走到了角逐规模化

商用的新节点。

蔡一茂教授认为，从学术角度来看，目前AI芯片领域呈百花齐放的态势，包

括深度学习神经网络芯片、类脑芯片等很多技术路径大家都在探索。他指出衡

量AI芯片方案性能有5个维度：自适应、性能、能效比、可编程性、可扩展

性。

其中，将可扩展性理解成“支撑的参数规模更大”还不太够，将来一个重要趋

势是走向通用性，这对于人工智能、AI芯片都非常重要。

很多AI公司面临AI芯片或AI方案落地困难或者成本控制的挑战是无法将一

个方案简单的复制应用于不同的场景，而这个是软件公司相对容易做到的。

比如微软Office是一个标准的通用的产品，只要拿到授权许可就能使用，因

此所有团队集中起来做好Office，无需设立专门的团队来为某家企业解决

Office问题。

但目前大多数AI公司做不到这一点，因为AI应用场景存在差异化，通常需要

根据其数据格式、具体应用场景入驻一个团队来联调。

在蔡一茂教授看来，“这是限制AI算法和芯片实际大规模应用的一个重要挑

战”，无论是AI算法还是AI芯片的通用性，产学界都尚未出现很好的解决方

案。“我相信AI的应用会落地越来越多，虽然现在有些困难，但整体大家还

是寄予厚望。”蔡一茂教授说，“所以这个领域的研究在相当长的时间内依然

会是热点。”

02.国产替代催化大算力新机遇避开技术只谈生态是“伪命题”

相比AI芯片发展初期，如今云端、边缘市场更为繁荣，更多创企开始主攻大

算力芯片。据蔡一茂教授观察，这是整体算力需求使然。随着AI算力需求大

幅飙涨，全国多地开始建设大规模AI超算中心。对于手头不算宽裕的创企或

小型研究团队来说，这为他们进行AI训练、AI推理等运算，降低了获取算力

资源的门槛。

目前GPU仍是AI训练市场最主流的加速芯片。尽管一些互联网大公司已经开

始根据自家业务自研芯片来实现更高的性价比和对场景更好的适应性，但他们

也会继续采用GPU，毕竟GPU更加通用。

有NVIDIA摘冠在前，一些公司已经开始布局GPU国产替代方案，将来有望在

一些领域或者受限的企业中，凭借更高性价比，分得一块市场。倘若要对标英

伟达或者相关的GPU技术，至少在某些领域上能与之匹敌，客户能够接受其性

价比，在此过程中逐渐培养起自己的生态联盟。

“如果技术不行，老拿生态来讲，这是很难行得通的。”蔡一茂教授谈道，“技

术上至少要有特色，然后再来看生态的构建；如果技术还差一大截，就说生态，

这是个伪命题。”当然，技术的追赶不是一蹴而就，更多的是希望有迭代的机

会，有超越现有技术的可能。

同时，很多人说自己的新技术有多好，可能过一段时间，对手就推出了一个更

厉害的，所以看到竞争对手在进步，这也非常重要。

至于其他新兴技术路线，想要取代GPU绝非易事。

一方面，许多技术只能做到单点性能更好，而非综合性能更好；另一方面，一

些已有方案更好落地，投入更多资源就会迭代得更快。

相比取代GPU，蔡一茂教授相信，发掘一些新的领域，更可能把市场做的越来

越大，比如开发新兴技术去解决现有GPU不擅长加速的领域。

03.攻关新型存储器、先进封装解锁AI芯片进化之门

除了AI芯片架构本身的进展外，更高性能的芯片，往往离不开先进的存储器

和封装方式。传统芯片存在的一大瓶颈是“存储墙”。

存储和计算，是芯片的两大基础功能。存储器与计算单元之间的数据搬运，往

往消耗大量功耗，但很多加速芯片并未解决这个问题。

为