AI高性能存储怎么选?带宽之外还要关注什么
背景图 2026-11-02 23:15:34

训练读取慢,可能是带宽不足,也可能卡在大量样本的打开和查找上。按实际访问方式匹配存储,能减少无效投入。深信服aStor统一存储结合高带宽数据通道、小文件优化和多活元数据服务,为不同AI负载持续供数。

不同训练任务对存储有哪些要求

顺序读取大文件与反复打开海量小文件,对存储的要求不同。前者主要消耗传输带宽,后者还涉及大量目录和属性操作。选型测试应保留真实文件分布和并发方式,观察任务实际需要多久读到数据。

测试可采用实际样本和加载程序,并保留预期客户端数量与缓存状态。让训练读取和其他业务一起运行,观察等待时间、并发响应及错误情况,才能判断当前配置是否满足业务要求。

大文件读取的带宽与网络要求

视频、遥感影像、科学数据和大型模型文件,常以较大连续块读取。此时,单节点读带宽、客户端数量、网络拓扑和文件布局共同影响总吞吐。深信服aStor统一存储通过高带宽文件访问与全闪资源承接持续供数负载。规划节点和网络时,应把单客户端需求、多客户端总需求及读写并发分别计算,使存储供数能力与实际任务相匹配。

训练服务器与存储之间的协议也会影响数据路径。NFS over RDMA为文件访问提供RDMA高速通道;pNFS是标准并行访问机制,NFS+是产品提供的文件访问增强能力,分别按其支持的客户端环境配置。若模型训练框架采用可直连GPU的数据路径,GDS可以参与文件数据加载。部署时还需核对GPU、驱动、文件系统接口和软件版本,确认数据沿目标通路传输。

大文件场景的判断指标除了持续读速率,还应包括不同并发规模下的吞吐变化、任务启动阶段加载时间和长时间运行稳定性。若数据读取已经不再限制任务,进一步提高峰值带宽未必产生业务收益;如果前处理或解码仍占主导,存储优化也不应被描述为端到端训练加速。

维亚生物采用深信服aStor统一存储,在其AI研发环境中,单客户端测试达到120 GB/s,高于20 GB/s的需求,形成明确的性能余量。这项数据对应单客户端测试,适合说明该环境的供给能力与需求关系。实际训练与模拟任务仍按各自加载方式组织;将需求、客户端数量和测试负载一起记录,把高性能选择落实到明确的业务窗口。

天权智算在其AI算力数据中心采用深信服aStor统一存储,以7框14节点全闪与8台混闪共同承载500卡规模GPU算力集群的后端存储,规划4 PB可用容量。存储经IB网络提供NFS over RDMA访问,支撑数据采集、隔离检测、清洗与训练全流程读写,并借助NFS+多路径实现链路故障秒级切换。这一架构说明,大规模智算中心可在同一套存储上统一高性能供数与长期容量扩展,而不必为每个阶段单独建设存储。 

小文件读取的时延与元数据要求

图像样本、切片、JSON标注和多模态关联文件常由大量小对象组成。访问这类数据时,打开、查找、读取属性等操作可能比实际传输的数据量更显著。仅用4K随机IOPS推断文件场景并不充分,因为IOPS描述请求速率,不等于文件数量、目录扫描速度或端到端数据集加载时间。

深信服aStor统一存储通过小文件低时延路径与多活元数据服务,支撑并发访问中的数据操作和元数据处理。对训练团队更直接的业务观察,是指定目录遍历、样本打开、数据加载器供数和多客户端同时读取的耗时变化。

目录组织方式同样重要。层级过深、单目录文件过多、重复扫描和低效数据加载器都可能造成额外元数据操作。可以按数据集、批次或任务划分访问范围,减少无关目录遍历,并让采样进程保持合理并发。存储的元数据能力与应用侧的目录设计共同决定小文件体验。

AI算力少等待

GPU利用率下降常被归因于存储,但等待还可能来自解码、数据增强、CPU调度、网络拥塞或容器冷启动。需要沿调用链观察:训练进程何时请求样本,数据加载器是否有队列空洞,客户端和存储网络是否饱和,存储响应是否与GPU空闲时间对应。只有存储读取在时间上构成限制,改进存储路径才可能减少相应等待。

在文件训练路径中,可以依据应用兼容性使用NFS over RDMA、pNFS与NFS+或GDS。对对象数据,S3 over RDMA提供高性能对象访问通道;NVIDIA cuObject则可由相应数据加载组件调用,连接对象数据与GPU数据准备流程。S3 over RDMA作用于对象访问传输路径,cuObject作用于其所支持的对象加载集成,二者都需要匹配软件栈和工作负载。

访问方式应与应用接口匹配。训练程序使用POSIX文件接口时,可选择适配的文件通道;采集和预处理采用S3时,可按对象路径设计。测试同时记录预热状态、并发数量和应用版本,区分缓存命中与持续读取性能。

模型检查点与结果写入

训练并不只有读取。Checkpoint、日志、评估结果和新生成数据都需要写回存储。保存周期过长会增加故障后重做范围,过短则增加写入负载和任务管理开销。企业应让训练框架按任务要求安排保存,并观察保存过程是否与数据读取争用资源。

深信服aStor统一存储通过高带宽写入与全局追加写,组织训练状态、结果和新数据的持续写入路径。写入评估应关注持续写入能力、多个任务并发保存时的响应、Checkpoint完成时间以及训练恢复时读取对应状态的过程。不能仅凭磁盘顺序写规格推断完整断点续训时间。

写后数据还要纳入版本、保护和保留策略。对于可再生成的中间结果,与难以重新采集的原始数据可以采用不同的保留方式。明确哪些内容需要版本追踪、哪些可以清理,能够减少写入增长给容量规划带来的长期压力。

运营成本更可控

训练数据总容量不等于持续活跃的工作集。全闪适合性能敏感、频繁访问的训练样本或模型数据;混闪可承担持续增长的容量与较低频数据。深信服aStor统一存储提供全闪和混闪两种产品形态,并支持数据流动,使企业可以依据访问周期安排活跃数据和历史数据的位置。

影石采用深信服aStor统一存储,训练数据承载从集中混闪扩展到全闪加既有混闪,总原始容量超过2 PB。其训练读取约5 GB/s,GPU利用率从低于40%提升到高于80%,训练效率接近翻倍。读取吞吐、GPU利用率和训练效率分别描述了该环境的供数与任务运行状态,为评估完整数据链提供了实际参照。

全闪与混闪的配置比例应跟随任务变化。高频数据集在多个训练轮次中反复读取时,提前准备到性能层更有意义;历史素材则可保留在容量层,在确定使用时再加载。规划时同时观察工作集大小、访问周期、预热窗口和增长速度,避免把全部容量按峰值性能采购,或只按冷数据成本配置而让任务等待。

高性能存储如何测试

选型测试宜使用接近生产的数据规模和文件分布,客户端覆盖预期并发,同时运行采集、训练读取和Checkpoint写入。记录缓存、网络、协议及软件版本,便于比较不同配置下的持续表现。

建议分别测大文件连续吞吐、小文件加载、并发目录操作、对象访问和Checkpoint写入。每项记录平均值与尾部响应、任务阶段耗时及资源使用情况。若测试对象是GPU训练,还应同步记录GPU等待原因、CPU数据加载和解码耗时,分别判断读取、预处理与计算环节的变化。

AI高性能存储应按真实访问方式选择。大文件看持续吞吐,小文件看打开和元数据访问,并发任务还要检查稳定性及写入影响。深信服aStor统一存储提供对应的数据通道与管理能力,企业可用生产样本和加载程序测试,确定当前配置并为训练规模增长预留资源。

常见问题

Q:高性能存储只看带宽吗?

A:不止。时延、IOPS、目录枚举、小文件访问、并发客户端与元数据服务同样决定训练读取体验。

Q:大规模集群怎么保证持续性能?

A:通过多活元数据、NFS+/pNFS、GDS与RDMA高速通道,结合全闪介质支撑高并发供数。

Q:存储怎么平滑扩展到更大规模?

A:统一存储支持线性扩展,可在同一套架构上统一高性能供数与长期容量扩展,不必每个阶段单独建设。