智能研发的点与面：蚂蚁代码大模型落地实践.pptx

智能研发的点与面：蚂蚁代码大模型落地实践

演讲人：肖斌;;

研发提效探索

CodeFuse在蚂蚁研发全生命周期提效的探索;;;;;;

智能研发发展路线

蚂蚁智能研发发展路线;

在现有产品功能上做智能化升级是AI应用的重要方式。一些适合的场景：

1.生成式，如自然语言生成用例、根据变更代码补齐测试用例等；

2.总结类，如对PR标题和描述的总结、基于文档的总结与问答；

3.推理类，如代码冲突解决、问题的诊断与修复、异常日志分析等；;

单纯问答形式无法满足智能化需求，需要结合平台的能力进行智能化改造。

以领域Agent为核心，对效能平台进行全面升级，增加超级会话及Agent调度与执行能力;

AINative模式

AI原生：用户无需主动触发AI功能，任何原有功能都能友好嵌入AI能力至用户操作中。;

关键技术与难点

CodeFuse研发助手关键技术以及难点突破;;

工程关键技术与难点

算法模型≠产品落地;

如何对高频场景进行触发时机优化（代码补全为例）;

什么是模型幻觉问题

仓库内其他相关文件内容;

基于上下文感知学习(ICL)能力，解决模型幻觉问题

Context-Aware感知边界;

上下文感知学习(ICL)能力预处理–本地索引构建;

基于上下文感知学习(ICL)能力，解决模型幻觉问题

结合RAG+程序分析能力强化上下文。

感知本地仓库中预处理构建的文本库/向量库做相似度检索寻找相似代码。通过AST解析，引用链路等追踪手段，找到对应相关代码并压缩

测试集EM：40.9%-59.75%;

基于上下文感知学习(ICL)能力，解决模型幻觉问题

Context-Aware扩展边界的意义;

基于上下文感知学习(ICL)能力，解决模型幻觉问题;

?Motivation

?大模型自回归训练，仅适合Chat任务，不支持代码补全。

?代码补全需要根据代码的上下文预测代码缺失部分，此模式无法结合上下文进行完型填空。

?FIM（Fillinthemiddle）

?将训练的文本序列一部分移动到结尾，自回归重新排序进行训练。

?Character：字符粒度随机切分样本，生成结??无法保证语法准确性，工程需要复杂后处理保证预发准确性。

?Block-FIM

?Block：结合程序分析技术构建Block数据，将样本进行Block粒度切，模型生成完整Block停止。;

未来方向思考

未来软件研发领域发展方向思考;

完全无需人类监督，AI完成全部工作，人类只需给出初始目标

AI完成绝大部分工作，人类设定目标，提供资源，监督结果

人类与AI协同完成工作，AI一般提供初稿

人类完成绝大部分工作，AI提供建议或信息

人类利用工具完成工作，没有任何明显AI辅助;

AI程序员（Multi-Agent技术路线）;

技术普惠

AI让技术更加人性化：AI不是替代我们研发人员，是让更多人成为我们;

THANKS

大模型正在重新定义软件

LargeLanguageModelIsRedefining

TheSoftware