训练任务定期保存Checkpoint,是为了在任务中断、调度变化或后续继续训练时,保留可恢复的进度。单个任务保存一次或许并不困难,当多个训练任务在相近时间写入模型参数、优化器状态及相关文件,存储就会面对明显的集中写入压力。与此同时,其他训练任务仍在读取样本,已经中断的任务也可能正在加载进度。
多个训练任务集中保存进度时,深信服aStor统一存储可通过分布式文件服务承接并行写入,用多活元数据处理分散分片创建与目录操作,再按客户端条件配置高带宽访问通路。恢复任务则围绕完整可用的Checkpoint安排共享读取,并对位于冷层的进度提前预热。保存与恢复分别配置资源,使平台既能应对写入高峰,也能减少重新加载前的数据准备等待。
多任务同时保存带来的IO变化
Checkpoint的组成取决于训练框架、模型与并行方式。一份训练进度可能由多个工作进程分别写入分片,也可能同时产生索引、配置和状态文件。正文写入需要带宽,文件创建、属性更新与目录操作则需要元数据处理能力,两者都可能成为集中保存时的瓶颈。
多个任务同时触发保存后,原本相对分散的写入会在短时间内重叠。如果训练数据读取与Checkpoint写入还共用一组入口或底层资源,保存任务就可能与持续供数相互争用。只观察磁盘容量或单客户端顺序写入速度,难以解释多任务运行时出现的等待。
恢复阶段又改变了访问方向。训练进程需要重新定位可用进度,读取必要分片并重建运行状态。恢复读取是否集中发生、是否命中热点缓存、框架是否能只读取各进程所需数据,都会影响实际启动过程。因此,Checkpoint场景需要同时规划保存高峰和恢复需求,而不只是追求一次文件写入的峰值。
保存完成,需要应用与存储各自完成责任
训练进度可恢复,首先取决于框架是否完整记录所需状态。以分布式Checkpoint机制为例,各工作进程协调保存对应数据,框架还要管理描述这些数据的元信息。应用通常需要在所有必要分片完成后,才将这次进度作为可恢复版本对外使用,避免后续任务读取到尚未写完的集合。
异步保存可以将部分保存工作与训练计算重叠,但会占用额外的暂存内存和IO资源。发起异步任务并不等于它已经完成,应用需要等待对应完成状态,再据此管理进度版本。存储侧的高带宽可以改善实际数据传输,框架侧的保存协调则负责保证训练状态在逻辑上的完整性。
深信服aStor统一存储的写入路径遵循对应的保护和持久化条件,再向上层返回完成结果。介质、缓存和后台整理共同参与数据承载,前台确认与后续内部数据布局调整具有各自职责。应用保存策略与存储持久化机制配合,才能使一次Checkpoint从“开始写”走到“可以恢复”。
对于文件方式保存的训练任务,可以按任务与版本组织目录,并为正在生成与已经完成的进度设置明确状态。清理策略只处理已经被新版本替代且不再被任务引用的进度,避免节省空间的动作与训练恢复互相影响。这些应用层安排,和共享文件存储的稳定访问一样重要。
深信服aStor统一存储承接集中写入的资源路径
AI算力少等待:针对集中保存中的不同压力,深信服aStor统一存储分别处理数据通路与文件操作。分布式文件服务通过多活元数据服务、目录分片和元数据缓存分散创建及查询请求,减少大量任务集中操作少数目录时的等待;数据层则根据配置承接并行写入,使训练保存不只依赖单一服务入口。
在客户端与网络满足相应条件时,多连接文件访问可以将请求分散至多个资源,NFS over RDMA减少数据传输中的复制和CPU开销。它的作用是改善文件读写通路,实际收益仍与训练进程的并发方式、文件布局及客户端能力有关。训练框架是否充分并发写入,与存储能否提供并行服务,需要一起考虑。
小IO聚合可以将大量分散请求组织成更适合底层处理的连续写入,缓解小请求的额外开销;较大的Checkpoint分片则更需要关注持续吞吐和完整链路带宽。全闪与混闪配置各有适用位置,应根据保存高峰、恢复目标与数据留存范围安排,而不宜仅用总容量确定承载方式。
统一承载各类业务:深信服aStor统一存储在同一架构中提供块、文件、对象和向量服务,面向传统生产与AI创新。本场景主要展开文件服务对训练进度、样本与共享数据的承载,使平台能够按任务使用所需服务,并在统一管理下安排不同类型的数据资源。
集中保存与训练恢复,按两类高峰分配资源
集中保存期间,训练样本仍可能被其他任务持续读取。资源规划应将两类负载叠加观察,检查文件服务入口、网络、存储节点以及底层介质的繁忙程度。保存带宽很高但训练供数明显下降,说明平台还需要调整资源分配,而不是单独宣布保存性能已经达标。
对需要加载较大进度文件的恢复任务,深信服aStor统一存储可以将近期有效Checkpoint保留在性能资源上,让训练进程通过共享文件路径读取所需分片。已进入冷层、但即将用于恢复的进度,可在任务启动前预热。先准备好完整文件集合,再安排恢复读取并发,能够减少临时调取冷数据造成的等待;模型状态的重建与任务重新启动仍由训练框架完成。
多任务平台还应把保存周期、进度保留数量与热点空间一起安排。较旧但仍需保留的版本可进入容量资源,数据完成后端保存并具备安全副本后再释放前端缓存。后台下沉与前台保存共用资源时,控制后台任务节奏,将更充足的读写预算留给正在保存或恢复的任务,避免容量整理与训练关键步骤集中争用资源。
故障恢复还需要保留可识别的有效版本。快照可以为相应目录提供历史状态访问,冗余保护应结合节点与硬盘故障域配置,独立备份或异地恢复则承担更大范围故障下的数据保护责任。将训练进度管理与分层保护结合,能够提高长时间训练面对中断时的可恢复性。
某头部电信运营商地市级智算中心的统一承载实践
某头部电信运营商地市级智算中心采用深信服aStor统一存储,承接大规模GPU环境中的训练、推理、Checkpoint和镜像数据。不同任务既包含较小文件,也包含较大的数据对象,对共享访问、集中读写和批量上线提出了共同要求。
项目采用全闪资源构建PB级数据底座,通过适配客户端和并行文件访问方式,对接虚拟机与容器环境。建设过程同时完成相关软件包、用例验证和批量部署准备,使较大规模的计算节点能够使用一致的数据访问方式。
这一实践体现了Checkpoint在智算平台中与其他负载共同承载的现实需求。高性能存储需要进入实际操作系统、客户端、网络和容器访问链路,训练进度才能成为平台可以持续使用的数据。对多租户或多任务智算环境,先把访问与交付方式统一,再根据保存和恢复压力安排资源,有利于让新增算力尽快接入生产。
另一项国产算力科研平台实践,采用深信服aStor统一存储组合全闪与混闪资源,承载训练、推理及科研相关数据,并以块、文件和对象服务满足不同应用。冷热分层使活跃任务与较低频数据分别获得合适资源,也为训练进度的保留和后续使用提供了统一管理基础。
集中保存看并行写入和元数据处理,训练恢复看有效版本、分片读取与热点准备。深信服aStor统一存储以共享文件服务、高效数据通路和冷热资源组织支撑这两类负载;训练框架确认进度完整,存储完成持久化与持续供数,二者共同为长时间训练保留可靠的恢复起点。



