自动驾驶数据回传存储解决方案: 多车队集中写入与持续扩容
背景图 2026-10-30 18:12:02

自动驾驶数据回传并不总是均匀发生。多支车队在相近时间完成采集、接入回传网络后,视频、图片、传感器数据与日志会集中进入中心平台。数据写入之后还要解压、筛选、标注和训练,如果接收队列持续增长,或者后续处理跟不上,已经采集的数据就难以及时成为可用样本。

多车队集中回传时,深信服aStor统一存储可在中心端通过对象或文件服务承接并行写入:大对象用分块流水处理持续传输,小对象以聚合方式降低零散IO开销,文件侧用多活元数据和目录分片分担集中创建。再为解压、标注与训练预留访问资源,并按数据增长扩展容量,就能将高峰接收与后续研发组织在同一数据底座上。

多车队回传高峰,要看同一时间来了多少数据

按日均采集量估算容量,可以了解长期保存规模,却难以反映回传压力。多支车队集中接入、任务结束后的批量上传,以及网络恢复后的积压补传,都可能让写入在较短窗口内叠加。回传平台需要在这些时间段内接收数据,同时继续服务其他业务。

高峰能力由完整通路决定:车端或回传端可用网络、中心接收服务、上传并发控制与后端存储共同参与。前端带宽不足时,存储增加性能难以缩短网络传输;接收进程数量有限时,后端也可能没有获得足够请求。先识别数据在哪个队列中等待,才能安排有效的资源扩展。

存储侧还要区分对象大小和文件组织。大段视频与压缩包偏向持续带宽,零散图片、日志和描述文件会增加创建、索引与请求处理次数。不同车队、采集任务和数据类型的混合负载,决定了平台不能只用单个大文件的写入速度评价回传能力。

从“上传成功”到“可以进入处理”,需要清楚的交接

回传服务通常需要管理任务标识、目录或对象命名、传输重试与完成状态。在网络不稳定或任务重试时,这些应用层信息帮助区分尚未完成、正在处理和已经交付的数据,避免后续流程过早读取不完整内容,或对重复提交执行多次处理。

数据进入存储后,还需要由上传与处理平台核对所需文件是否齐全、摘要或其他校验信息是否匹配,再将相应数据集交给后续任务。存储内部的数据校验负责保护存储通路中的数据正确性,业务清单与任务状态则负责确认这一批采集数据在逻辑上完整,两者承担不同职责。

对采用S3上传的接收链路,可以使用对象服务承载正文,并由接收应用组织任务状态;已有文件上传和处理程序,则可以使用相应文件入口。关键是让每类接入方式具有明确的数据归属和完成条件,使并发增加以后,后续解压与标注仍能获得可识别、可追溯的数据集合。

深信服aStor统一存储为集中写入分散处理压力

AI算力少等待:车队数据集中进入时,深信服aStor统一存储可通过对象或文件服务承接并行写入。对象侧将接口处理、索引与数据正文处理分工,结合小对象聚合和大对象分块流水提高相应环节效率;文件侧以多活元数据服务和目录分片分散创建、查询等请求,使大量数据文件进入平台时获得适当处理资源。

中心接收服务写入存储时,可按实际客户端与网络选择通路:S3 over RDMA服务满足相应条件的对象传输,NFS over RDMA服务适配的文件访问。车队到中心的远程上传,则由接入网络和接收服务共同承接。将远程传输与中心落盘分别规划,能够让高速存储能力作用在真正需要改善的环节。

高峰写入还需要与后续读取共同安排。解压任务会一边读取压缩文件,一边创建和写入大量新文件;训练任务可能同时反复读取热点样本。应按接收、数据准备和训练的压力分配资源,使上游写入增加后,不会只是把等待转移到下一步处理。

数据准备速度,决定回传成果多久能够用于训练

自动驾驶数据进入中心,只是算法使用的起点。压缩文件需要展开,样本需要筛选和标注,训练平台还需要按自己的目录或对象方式访问。这个阶段可能从大文件持续写入,迅速转变为海量小文件创建、属性操作与并发读取。

因此,回传存储方案需要为后处理保留能力。分布式元数据处理缓解文件数量增加带来的查询与创建压力,小IO聚合改善底层零散读写,适配的并行文件通路则帮助计算节点获得所需数据。把这些能力放在同一底座上,能够减少回传数据为进入下一个处理阶段而再次整体搬运。

统一承载各类业务:深信服aStor统一存储在同一架构下提供块、文件、对象与向量数据服务,支持传统生产和AI创新。自动驾驶平台可以围绕已有工具选择接收和处理接口;当S3采集与文件处理需要使用同一份数据时,在完成相应共享配置、身份映射和写入协调后,可通过协议互通减少重复副本。

对多个团队共同使用的数据,目录、权限和配额还需要按项目组织。原始采集、处理结果与训练样本分别保留清晰的管理关系,能够让研发人员判断数据来自哪里、是否已经处理,以及是否可以直接用于任务,减少因数据状态不清造成的重复工作。

魔视智能:深信服aStor统一存储加快路采数据准备

魔视智能采用深信服aStor统一存储混闪方案,承载自动驾驶海量数据,并改善真实业务文件的解压处理。原有环境解压同一份业务压缩文件约需90分钟,大量文件创建、属性设置和写入操作使元数据处理成为主要压力,数据无法及时进入后续清洗、标注和训练准备。

在相同业务文件的对比测试中,解压耗时缩短至7分钟。项目将文件访问通路、多活元数据处理和目录切分等能力结合起来,使回传之后的数据更快成为可继续加工的文件。这个结果直接对应数据准备环节,也说明回传平台的价值不能停留在“已经收到压缩包”。

项目于2025年8月上线,之后按业务增长完成两次扩容,总授权容量达到3.8PB。混闪资源承担当前生产数据,后续全闪升级路径通过测试验证,使企业能够在持续保存海量数据的同时,为更高性能任务保留演进空间。

这一实践适合用于理解回传与研发之间的衔接:先让数据稳定进入,再让文件处理及时完成,并以分步扩容跟上采集规模。前台高峰写入需要按实际车队和网络配置建设,后续元数据与文件处理能力则决定新增数据能否尽快进入算法迭代。

长期扩容,应分别安排活跃工作集与历史数据

车队规模增长后,原始数据、加工结果与训练集都可能继续增加。容量规划需要考虑保留周期、样本复用和重复副本,性能规划则关注正在接收、处理和反复读取的数据。将所有历史数据长期放在同一高性能层,未必是最适合持续建设的方式。

统一储存任意规模数据:深信服aStor统一存储可按需增加容量及相关服务资源,并通过全闪与混闪协同安排冷热承载。活跃任务使用性能资源,低频数据使用适合长期保存的容量资源,数据在完成相应保存条件后再按策略流动,使新增投入能够跟随工作集与业务规模变化。

冷热流动需要与回传速率匹配。如果新数据进入性能层的速度长期超过后端保存速度,待下沉数据会积累,因此扩容时需要一起观察前端空间、后端吞吐和两者间的网络能力。通过后台任务调度与分阶段扩展,让短时回传高峰和长期保存形成稳定关系,才能避免每次车队增加都重新建设存储体系。

天瞳威视:深信服aStor统一存储连接标注与训练

天瞳威视采用深信服aStor统一存储,部署三台全闪与六台混闪,形成2PB存储空间,承接自动驾驶采集、标注及训练数据。Windows标注使用CIFS,Linux训练使用NFS,并结合容器访问方式,让不同计算环境围绕共享数据工作。

此前,标注和训练人员需要把数据复制到工作站或服务器本地盘。统一文件访问与分层承载减少了跨环节复制,使采集成果能够更直接地进入后续研发流程。这一案例展示了回传存储建设的另一项价值:接收之后保持共享可用,让容量增长和团队协作能够在同一平台中继续推进。

多车队集中回传需要接得住高峰,也需要让数据接得上研发。深信服aStor统一存储通过并发写入、海量文件处理、统一访问与持续扩容,为自动驾驶数据从接收、准备到训练使用提供共同底座。把入口能力、后处理效率和长期保存一起安排,能够让新增采集规模转化为更及时可用的数据,而不是不断增长的传输与处理队列。