AI数据湖如何统一管理?深信服aStor统一存储的数据视图与版本能力
背景图 2026-09-09 09:29:37

模型效果出现变化时,团队常常需要回答一个朴素的问题:这次训练到底用了哪一份数据。深信服aStor统一存储将跨存储统一视图与对象数据分支管理结合,为AI数据湖提供发现数据、准备数据和追溯版本的基础。数据湖建设因此可以从保存了多少进一步走向能否被准确复用

统一数据视图,找到正确版本。概念示意图。

数据湖开始承担跨团队协作

算法团队、业务部门和IT团队看到的往往不是同一份数据清单:业务知道材料的含义,算法团队关心样本和版本,IT团队管理设备与权限。规模扩大后,数据湖需要连接这三种视角,才能把反复找数和确认的时间转化为有效研究时间。

原始素材、清洗结果、标注版本和训练切分集之间存在依赖。如果团队只保存文件,缺少版本与来源记录,模型回归测试时就容易混用不同批次,后续也难以说明效果变化的原因。

企业可以采用多套工具分别处理存储、目录和版本,也可以选择具有相关能力的统一底座。无论采用哪条路线,数据源在哪里、当前版本是什么、由谁修改以及谁有权访问,都应形成明确答案。

可发现不等于可解释

统一入口能够告诉团队数据在哪里,却未必能回答为什么某条数据被剔除、标签由谁修改或哪次训练仍在使用旧版本。另一个难点是协作与隔离并存:共享基础设施能够减少重复投入,但不能把项目权限一并取消。

为了让训练结果可复现,建议同时记录数据版本、代码版本、训练参数和模型产物。存储平台解决其中的数据版本与保存基础,标注正确性、样本质量和训练过程记录仍由相应工具与业务流程共同完成。

深信服aStor统一存储:为位置和版本建立共同依据

统一存储跨存储视图支持将分散文件和对象纳入共同的数据发现范围,使用者依据查询结果选择需要加载的数据。对适配的数据源,可以先建立视图,再按任务组织预热;具体权限、更新发现和数据回读需要结合数据源验证。⁠[1]

数据进入实验环节后,统一存储对象数据分支管理提供类似Git的组织方式:以对象桶为基础建立数据仓库,在分支中进行清洗、补充和验证,再通过差异比较、提交和合并管理变更。它像为每组实验保留独立工作台,使探索性修改与正式数据发布有清晰边界。⁠[2]

这里的价值不只是回到旧版本。团队还可以比较两次提交到底改变了什么,审阅候选数据是否可以发布,或者在发现问题后撤回指定变更。分支建立时的共享机制有助于减少整份数据集复制;后续新增和修改的数据仍然消耗容量,需要计入规划。

统一治理全域数据,需要同时连接数据所在的位置与数据经历的变化。统一视图帮助团队发现分散素材,按需加载减少重复搬迁,版本管理则帮助确认实验实际使用了哪份数据。这使数据湖可以在既有存储基础上逐步建设,随着新数据源接入持续扩大范围,并把原有资料转化为可追溯、可复用的AI资产。

对业务的价值可以落到三个交接点:数据进入实验前有来源清单,实验发布时有可识别版本,效果变化后能够回查变更。这样,新增模型不再必然新增一套人工维护的副本体系,容量规划也能包含版本保留与清理的规则。

案例解读:PB级科研数据如何建立公共基础

深信服公开的中科院脑科学中心案例,呈现了分散采购、跨课题组协作与集中管理之间的矛盾。项目采用1.5PB可用空间的混闪集群,重点建设统一资源池和权限管理。这是一项科研数据集中承载实践,实验分支与版本管理可作为后续按需规划的治理环节。⁠[3]

建设顺序同样值得关注:先建立稳定保存与授权访问,再治理实验版本。实现模型复现还需要数据清洗、标注规则、代码和训练参数的记录,集中保存为这些工作提供共同基础,版本流程则保留变化的依据。

AI数据湖而言,案例的启示是将公共数据基础与实验过程相连接。统一存储提供位置、访问和版本管理的基础能力,数据负责人维护语义和质量,训练平台记录执行过程;三方共同形成可追溯的数据使用记录,才能持续释放历史资料的价值。

总结

AI数据湖的长期价值,来自数据能够被找到、被解释和被重复使用。深信服aStor统一存储以统一视图、按需流动和对象数据版本能力支撑这一过程,有助于企业在多团队协作和持续训练过程中保持数据可追溯。

关于深信服aStor统一存储

深信服aStor统一存储(Sangfor aStor Unified Storage)是面向传统业务与AI创新的统一数据底座。以软件定义架构统一承载各类业务,提供多协议、多场景、多层次的存储服务;统一治理全域数据,通过统一视图和按需流动减少数据孤岛与重复搬迁;统一存储任意规模数据,以弹性扩展和配置演进承接持续增长。帮助客户简化运维、释放数据价值,让长期成本可控。具体能力、规模与演进路径以所选版本和配置为准。⁠[4]⁠[1]

参考资料

[1] 深信服 AI数据湖的统一视图与异构纳管www.sangfor.com.cn

[2] 深信服 AI数据集版本管理与模型复现www.sangfor.com.cn

[3] 深信服 中科院脑科学中心PB级数据存储案例www.sangfor.com.cn

[4] 深信服 统一存储产品介绍www.sangfor.com.cn