4.一种多GPU的RDMA通信方法.pdf

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN118612158A

(43)申请公布日2024.09.06

(21)申请号202410765510.1(51)Int.Cl.

H04L47/36(2022.01)

(22)申请日2024.06.14

H04L47/43(2022.01)

(71)申请人杭州质算科技有限公司H04L67/141(2022.01)

地址310000浙江省杭州市下城区环城北

G06F15/173(2006.01)

路169号汇金国际大厦西1幢1501室

申请人杭州幻方人工智能基础研究有限公

司

宁波积幂信息科技有限公司

杭州幻方科技有限公司

上海积幂科技有限公司

(72)发明人周尚彦张毅超张力越

(74)专利代理机构杭州之江专利事务所(普通

合伙)33216

专利代理师张慧英

权利要求书2页说明书6页附图2页

(54)发明名称

一种多GPU的RDMA通信方法

(57)摘要

本发明涉及计算机技术领域，尤其涉及一种

多GPU的RDMA通信方法，包括以下步骤：S101：注

册内存缓存区，并交换所述内存缓存区的信息，

建立RDMA连接；S102：确定报文切分大小，并对发

送报文进行切片，得到若干大小相同的报文切片

S103：采用受控的多GPU轮询发送，控制总体发送

在途报文切片数量小于等于预设在途最大切片

数，每个GPU在途报文切片数量根据预设服务质

量进行调整；S104：确认接收完成，本轮发送完

成。本发明的有益效果在于：减少了在节点内部

的数据复制，GPU之间的通讯更加高效，针对多

GPU通过一张网卡通信造成的网络拥塞情况，有

A了非常大的改善，更好的实现网络带宽的利用，

8提高通讯功能。

5

1

2

1

6

8

1

1

N

C

CN118612158A权利要求书1/2页

1.一种多GPU的RDMA通信方法，其特征在于包括以下步骤：

S101：注册内存缓存区，并交换所述内存缓存区的信息，建立RDMA连接；

S102：确定报文切分大小，并对发送报文进行切片，得到若干大小相同的报文切片；

S103：采用受控的多GPU轮询发送，控制总体发送在途报文切片数量小于等于预设在途

最大切片数，每个GPU在途报文切片数量根据预设服务质量进行调整；

S104：确认接收完成，本轮发送完成。

2.根据权利要求1所述的一种多GPU的RDMA通信方法，其特征在于在所述步骤S101中至

少包括一个发送节点和一个接收节点，并且均分别包括至少一个GPU；发送节点和接收节点

均配置RDMA协议网卡。

3.根据权利要求1‑2任一权利要求所述的一种多GPU的RDMA通信方法，其特征在于，所

述步骤S101中，发送节点和接收节点把要发送的内存注册为DMA‑buffer并作为内存缓存

区，并把该内存地址注册为RDMA的内存区MemoryRegion；所述内存缓存区信息为，内存缓存

区地址及秘钥。

4.根据权利要求1‑3任一权利要求所述的一种多GPU的RDMA通信方法，其特征在于，在

所述步骤S102中，所述报文切