统一多层网关架构系列课程-应用网关的演进历程和分类 从流量网关迈向AI网关.pdf

应用网关的演进历程和分类

从流量网关迈向AI网关

耿蕾蕾（如葑）

阿里云开发工程师

2024/10/18

统一多层网关架构视频教程

CONTENT01网关演进形态概览

目录

02网关各演进形态的说明

03网关的下一站：AI网关

04Higress：AI原生的API网关

统一多层网关架构视频教程

网关演进形态概览

伴随软件架构的演进网关形态也在持续进化，K8s成为统一运维界面，AI成为流量增长的核心驱动力

实现快模块化服务管理高密度部署按量使用AI应用

维护成本高负载均衡RPC技术原子、自治极致弹性Agent、轻量

KubernetesRuntimeLLM

单体架构垂直架构SOA架构微服务架构云原生架构AI原生架构

流量网关（Nginx）ESB微服务网关云原生网关AI网关？

今年以来，AI产业的流量增长明显。2-4月，AI产品的日均总流量在1亿，4-6月流量开始增长，到了6-8月日均总流量为1.5~1.6

亿。也就是说，在不到半年时间里，AI产品的总流量增长了50%。

网关作为天然的流量入口，在AI浪潮下又何去何从呢？

统一多层网关架构视频教程

网关演进形态之流量网关

解决从单节点应用变成多节点应用后的流量负载调度问题

Who运维

业务的高可用、可伸缩

Why、接入加速

负载均衡、健康检查、流控

How、重试、TLS卸载、压缩、缓

存等

典型代表：Nginx，首次公开发布时间2004.10.4

统一多层网关架构视频教程

网关演进形态之ESB网关

解决标准化和简化组织内服务之间的通信、消息传送和集成，遵循服务导向型架构（SOA）原则

Who运维、开发

业务的快速集成、

Why提升开发效率、

统一观测运维

SOAP协议、协议转换、路

How

由、服务编排、认证授权等

没有确切首次提出时间，大多数人认为2006年ESB被广泛讨论

统一多层网关架构视频教程

网关演进形态之微服务网关

帮助开发者集中管理微服务路由、增强安全性、提供监控、简化访问和提高系统的整体可靠性

Who研发

微服务API的聚合管理、

WhyAPI通用能力解耦

服务发现、RESTful