基于云计算的人工智能AIaaS云服务平台研究.pdf

第32卷第7期电子设计工程2024年4月

Vol.32No.7ElectronicDesignEngineeringApr.2024

基于云计算的人工智能AIaaS云服务平台研究

苑学贺，杨永艳，庞帆，张宏伟

（北京中电普华信息技术有限公司，北京100107）

摘要：随着人工智能技术在各领域的应用推广，传统互联网人工智能云服务平台或产品难以满足

各行业不同业务场景、模型的集约管理以及服务能力提升等迫切需求。提出通过在开源的K8S云

平台容器框架上导入并集成OpenVINO™ModelServer强大的AI服务组件，构建企业级人工智能服

务AIaaS云服务平台。实现了AI模型快速部署、便捷运维、集约化管理，提高了服务能力和用户体

验。测试结果表明，提出的框架在性能上优于同类技术框架，满足实际生产业务需求。

关键词：人工智能；人工智能即服务；云计算；容器化；虚拟化

中图分类号：TP18文献标识码：A文章编号：1674-6236（2024）07-0047-06

DOI：10.14022/j.issn1674-6236.2024.07.010

ResearchonAIAIaaScloudserviceplatformbasedoncloudcomputing

YUANXuehe，YANGYongyan，PANGFan，ZHANGHongwei

（BeijingZhongdianPuhuaInformationTechnologyCo.，Ltd.，Beijing100107，China）

Abstract:WiththeapplicationandpromotionofAItechnologyinvariousfields，traditionalInternetAI

cloudserviceplatformsorproductsaredifficulttomeettheurgentneedsofdifferentbusinessscenarios

andmodelsinvariousindustriesforintensivemanagementandservicecapabilityimprovement.The

articleproposestobuildanenterpriselevelAIserviceplatformAIaaScloudserviceplatformbyimporting

andintegratingthepowerfulAIservicecomponentsofOpenVINO™ModelServerontheopen⁃sourceK8S

cloudplatformcontainerframework.Theframeworkrealizesrapiddeployment，convenientoperation，

maintenanceandintensivemanagementofAImodels，andimprovesservicecapabilitiesanduser

experience.Thetestresultsshowthattheperformanceoftheproposedframeworkisbetterthanthatof

similartechnicalframeworks，andmeetstheactualproductionbusinessneeds.

Keywords:artificialintelligence；AIasaService；cloudcomputing；containerization；virtualization

随着人工智能技术的发展，AI智能服务及其产究对象，对企业现有AI建设现状及应用情况开展调

品在各行业和领域中应用越发普及。对于如电力公研；对人工智能服务平台进行规划设计，并提出相关

司这类大型企业，由于安全性及专业性考虑，无法采设计；对该平台关键技术进行了相关研究