一种自适应AI模型部署方法.pdf

(19)中华人民共和国国家知识产权局

(12)(12)发明专利说明书

(10)申请公布号CN113050955A

(43)申请公布日2021.06.29

(21)申请号CN201911363266.1

(22)申请日2019.12.26

(71)申请人阿尔法云计算(深圳)有限公司

地址518000广东省深圳市南山区高新南十道深圳湾科技生态园10B

(72)发明人周胜平林俊杰吴栋仲景武

(74)专利代理机构

代理人

(51)Int.CI

G06F8/60

G06N20/00

H04L29/08

权利要求说明书说明书幅图

(54)发明名称

一种自适应AI模型部署方法

(57)摘要

本发明揭示了一种自适应AI模型

部署方法，所述方法包括：接收业务应用

对AI接口的调用，所述被业务应用调用的

AI接口对应特定的AI模型，决策所述AI

接口调用对应模型的部署状态，所述对AI

模型部署状态的决策包括对所述AI模型的

预部署状态的使用与对AI功能模型的遴

选。针对所述AI模型部署决策与功能模型

遴选的方法作实施，可以有效提升AI模型

对业务应用的灵活性，提高AI模型的可用

性与易用性，从而进一步提升AI在业务应

用场景上的适用深度与广度。

法律状态

法律状态公告日法律状态信息法律状态

2021-06-29公开公开

2021-11-26实质审查的生效实质审查的生效

权利要求说明书

1.一种AI模型自适应部署的方法,其特征在于,包括:

接收业务应用对AI接口的调用,所述对AI接口的调用包含对作为AI接口的参数进

行数据赋值,所述被业务应用调用的AI接口对应特定的AI模型;

决策所述AI接口调用对应模型的部署状态,所述部署状态为所述被调用AI接口对

应AI模型的部署状态,所述对AI模型部署状态的决策包括对所述AI模型的预部署

状态的使用;

遴选所述AI模型对应的功能模型,所述功能模型为同一个AI模型对应的多个差异

性实现,所述对AI功能模型的遴选为从所述AI模型对应的多个差异性实现中作遴

选。

2.根据权利要求1所述方法,其特征在于,所述AI调用模型部署状态的决策,还包括:

获取所述被调用AI接口对应AI模型的候选功能模型的预部署状态。

3.根据权利要求2所述的方法,其特征在于,所述AI调用模型部署状态的决策,还包括:

获取由所述AI模型的候选功能模型的预部署状态所确定端侧的动态信息,所述动态

信息包含所确定端侧的可用性。

4.根据权利要求3所述的方法,其特征在于,对所述部署状态对功能模型的遴选,还包

括:

获取由所述AI模型的部署状态所确定的功能模型所在端侧的动态信息。

5.根据权利要求4所述的方法,其特征在于,根据所述动态信息对所述功能模型作遴

选,还包括:

根据功能模型的资源需求与动态信息反应的端侧资源间的匹配结果确定对功能模型

的遴选结果。

6.根据权利要求5所述的方法,其特征在于,所述AI模型的自适应部署,还包括:

执行根据所述AI接口调用确定的功能模型,并输出所述功能模型的优化样本。

7.根据权利要求6所述的方法,其特征在于,所述AI模型在部署执行后的优化样本,还

包括:

以所述样本为动态样本,结合所述AI模型的训练生成