GPU 集群组网:InfiniBand 与以太网,光模块和线缆怎么配
一、两种方案
- InfiniBand:英伟达 Quantum 系列交换机加 ConnectX 网卡,延迟低,大规模训练集群常用。
- 以太网(RoCE):Spectrum 等以太网交换机加支持 RoCE 的网卡,生态通用,便于和现有网络打通。
二、速率和端口形态
InfiniBand 有 HDR 200G、NDR 400G、XDR 800G 等代际;以太网常见 100G、200G、400G、800G。端口形态有 OSFP、QSFP112、QSFP-DD、QSFP56、QSFP28 等,两端的形态要对得上。例如交换机上的 800G OSFP 双端口光模块,可以拆成两路 400G 分别连到两台服务器的网卡。
三、按距离选连接方式
- 机柜内几米以内:DAC 铜缆,成本低,不需要光模块。
- 稍远一些:AOC 有源光缆。
- 更远:光模块加光纤。SR 为多模,几十米到一百米,用于机柜之间;DR 为单模,约 500 米;FR 为单模,约 2 公里;LR 为单模,约 10 公里。
四、下单前准备
把网卡型号、交换机型号、需要的端口数量和机柜之间的距离一起发给我们,可以帮您核对兼容性和数量,避免形态或距离选错。
