万兆网卡与阵列卡搭配方案:构建高性能服务器存储架构的实践
在存储服务器与高性能计算节点的搭建过程中,很多工程师会把注意力集中在CPU和内存上,却忽略了数据进出通道的瓶颈往往出现在板卡侧。万兆网卡负责前端高速接入,阵列卡决定后端磁盘的读写调度效率,两者如果搭配失当,整机吞吐可能连理论值的40%都跑不到。海口瑄瑜烨网络科技有限公司在为客户做存储架构调优时,经常遇到这类"高配低能"的案例。
从PCIe通道看板卡协同的底层逻辑
一块双口万兆网卡满速双向传输需要约40Gbps的PCIe带宽,而主流12Gb/s SAS阵列卡在8盘位RAID 5场景下,持续读性能可达6GB/s以上。如果两者共享同一组PCIe 3.0 x8通道,CPU的PCIe Root Complex就会成为争抢点。建议将万兆网卡与阵列卡分别插在CPU直连的PCIe插槽上,避开PCH转发的通道,这是最容易被忽视但收益最直接的一步。
实操:搭配方案与关键参数设定
以一台4U 24盘位存储服务器为例,可参考以下配置思路:
- 万兆网卡选用双口SFP+型号,搭配网卡模块(光模块或DAC线缆)连接上联交换机,启用SR-IOV或RDMA降低CPU中断开销;
- 阵列卡选择带2GB缓存且支持超级电容保护的型号,缓存策略设为Write Back,条带大小根据业务类型调整——数据库用64KB,视频流用256KB;
- 若需接入外部磁带库或JBOD,另配一块HBA卡以IT模式直通,避免RAID层与上层文件系统产生双重校验;
- 光纤网卡在多路径冗余场景下,配合MPIO驱动可实现链路故障秒级切换。
需要注意的是,阵列卡的固件版本与驱动匹配度直接影响IOPS表现,某次实测中仅升级固件就让随机写从12万IOPS提升到18万IOPS。
实测数据对比:搭配方式对吞吐的影响
我们在同一台服务器上做了两组对比。A组:万兆网卡与阵列卡均插在PCH通道,24块SAS盘组RAID 6;B组:两者分别插在CPU直连插槽,其余不变。结果如下:
- 顺序读:A组3.2GB/s,B组5.8GB/s,提升81%;
- 顺序写:A组1.9GB/s,B组3.4GB/s,提升79%;
- 4K随机读:A组9.6万IOPS,B组15.2万IOPS,提升58%。
差距主要来自PCIe链路争用和中断亲和性。另外,光纤网卡在B组中启用RSS多队列后,单核软中断占用从35%降到11%,为存储协议栈留出了更多CPU时间。
存储架构的性能不是靠堆料堆出来的,而是靠通道规划、缓存策略和固件调优一点点挤出来的。海口瑄瑜烨网络科技有限公司建议在选型阶段就把万兆网卡、阵列卡、HBA卡和网卡模块作为一个整体来评估,而不是分开采购后再被动适配。如果您正在规划新的存储节点,欢迎带着盘位数量和业务模型来聊,我们可以给出更具体的通道分配建议。