关超宇-面向国产AI芯片的高效推理框架的优化与实践.pdf

ML-Summit2024

全球机器学习技术大会

MachineLearningSummit

2024年4月25-26日·上海

主办方：

合作伙伴：

2024技术会议一技术人的思想盛宴

全球机器学习全球软件研发全球产品经理全球C++及系

技术大会技术大会大会统软件技术大会

ML-Summit2024SDCon2024PM-summit2024CPP-Summit2024

9月5-6日北京7月4-5日北京8月8-9日北京10月17-18日深圳

12月5-6日深圳11月7-8日上海

媒体服务一多形态的技术内容

媒体服务

访谈新闻稿件产品解读产品评测客户案例活动整理专题

权威出版

《新程序员》

聚集全球技术大师、行业技术先锋，从前沿技术到行业先锋，

为您带来全方位的深刻洞见和专业解读。

《中国开发者调查报告》

中国样本丰富的开发者调

查报告，目前已成为完整

准确了解中国开发者市场

的重要参考资料。扫码购买必威体育精装版

版程序员杂志

ML-Summit2023

关超宇清昴智能科技CEO

年龄最小的清华研究生特奖得主，清华大学硕士，导师朱文武教授。

曾以一作身份发表论文7篇；两项深度学习挑战赛冠军；世界首个

AutoGL自动图学习开源系统（Github800+星标）首席架构师。

演讲主题：

面向国产AI芯片的高效推理框架的优化与实践

MLGuider：面向国产AI芯片推

理的优化与实践

清昴智能

推理市场现状与发展趋势

MLGuider简介

面向AIGC的推理优化技术栈

国产芯片加速案例分享

未来工作展望

清昴智能介绍

推理市场现状

算力需求量预估

大模型已成为新时代的“水电煤”，底层技术单位：万张

1200011264

革新带来技术设施结构性调整

10000

8000

随着各家基础模型以及开源模型训练的逐渐发

6000

展与成熟，模型推理需求量将逐步增长

3459

4000