中文
2026-09-01 17:55:44
人工智能风险并非风险清单的‘新增项’，而是渗透全量风险的‘乘数’，会放大存量风险。”8月14日，在新金融联盟主办的“智启金融新质生产力，共筑AI安全共同体”内部研讨会上，工商银行原首席技术官吕仲涛表示。
这是新金融联盟第109期内部研讨会，由新金融联盟秘书长吴雨珊主持，中国金融四十人论坛提供学术支持。人民银行和证监会相关领导，工商银行原首席技术官吕仲涛做了主题交流。兴业银行首席信息官唐家才、国泰海通证券首席信息官俞枫、国家开发银行信息科技部副总经理郑江奎、深信服科技行业总部首席技术官杨闯发表了主题演讲。来自银行、非银金融机构及科技公司的近百家机构的代表参会。
研讨会现场
AI正在重塑金融安全边界
唐家才认为，人工智能的快速发展，给传统安全体系带来前所未有的冲击，各类安全能力边界需要重新审视、全面升级。俞枫表示，目前AI应用给金融安全防护带来两个巨大挑战。第一，AI本身增加了很多安全暴露点。第二，AI用在安全体系后，提升了安全能力，但其自身防护要求也更高。
杨闯进一步指出，AI既成为保护对象，也正在成为攻击主体。安全与便利性的权衡，正在演变为安全与智能性的权衡。攻击速度在发生质变，漏洞从被发现到被利用的时间窗口越来越短。更值得警惕的是，AI已经具备自主选择攻击路径并执行入侵的能力。未来的攻击，不仅可能来自人的主观意图，也可能由AI为完成任务而自主发起。
吕仲涛结合国际国内经验提出，构建发展与安全并重的金融业AI治理体系，应重点把握三个原则：一是坚持风险为本而非技术为本，不简单以模型参数大小决定监管强度，而是综合应用场景、业务影响、客户权益和系统重要性等因素，全面实施风险分级分类管理。二是坚持全程留痕，建立全生命周期管控链，让每一次模型变更、每一项关键决策、每一次异常处置都可追溯、可复核、可问责。三是坚持包容审慎，高价值低风险场景加快落地，高敏感高影响场景审慎推进。
AI安全面临三重挑战
与会专家认为，当前金融AI安全主要面临数据、模型、新型安全风险等三大层面的挑战。
数据层面，吕仲涛指出，很多金融机构不是没有数据，而是缺少可被安全、高质量使用的数据。一是数据标准不统一，影响模型训练和跨场景复用；二是数据分散在不同系统，治理、维护、运营成本高；三是在隐私保护、数据安全、商业秘密保护的前提下，如何实现数据价值释放，仍需更多技术和制度创新。
模型层面，大模型存在幻觉、偏见、不可预测等固有挑战。俞枫指出，算法偏见和模型幻觉对金融服务来讲是致命伤。吕仲涛也强调，在金融领域，一个看似微小的错误，可能造成客户投诉、操作风险甚至声誉风险。
新型安全风险层面，杨闯认为，AI自身安全已从“怕说错话”演进为“怕做错事”。Agent时代安全重点从“模型说什么”转向“Agent做什么”。俞枫表示，大模型带来提示词注入、知识库越权、智能体劫持等新型安全挑战，传统规则防御已经显得捉襟见肘。唐家才指出，智能体自主执行需开放高等级权限，可直接调用数据、文件及外联接口，风险隐患较高。但智能体自主执行是必须走通、走稳的一个方向。兴业银行对此保持审慎态度，实行“沙箱试点、可控探索”模式，持续打磨安全管控能力，逐步推动试点成果向生产级应用转化。
用AI对抗AI
应对上述挑战，吕仲涛表示，要持续提升面向AI的高质量数据治理能力、安全用数能力和知识工程能力：一是要夯实数据目录、数据标准、数据质量和元数据管理等基础能力；二是要强化数据分级分类、授权管理、脱敏处理和全程审计等治理水平；三是平衡数据价值释放与个人信息、商业秘密保护之间的关系。
他同时指出，金融机构不能把通用模型直接搬运到生产环境，而要围绕金融业务特点，构建包括知识增强、规则约束、权限控制、结果校验、人工复核在内的多层安全防线，高风险场景应坚持“小步快跑、逐级验证”。
唐家才介绍，兴业银行搭建五层可信AI安全体系，全方位治理模型幻觉、提升模型可信度。依次为：数据工程层——将原始数据转化为标准化知识体系，从源头夯实模型基础；真值增强层——通过思维链显性化校正等方式规避模型主观臆断；治理闭环层——搭建AI监督AI的监控体系，高风险场景强制保留人工审核；控制治理层——分级分类管控权限与边界；运行监测层——全流程留痕、全问题回流、全闭环整改。
有与会专家认为，AI安全治理的核心是构建全链路可观测能力，当前行业最关注AI运行行为可追溯、风险可感知、异常可干预。仅靠制度约束远远不够，必须依托技术手段兜底，对输入输出内容、模型运行行为、资源消耗情况实行全流程监测，实现风险实时发现、自动预警、快速处置。
“在AI时代，防守方最大的劣势是响应速度，而最大的优势，是对业务风险的最终裁决权。”俞枫表示，国泰海通坚持践行“用AI对抗AI”，用AI推理能力覆盖未知变种，再由人从业务视角做出最终裁决。基于上述理念构建了“渗透测试–动态护栏–智能研判–应急响应”的四位一体闭环，实现了从漏洞清零、运行时精准防控，到全量AI辅助研判，再到分级熔断与快速恢复的全流程覆盖，为大模型业务构筑起高韧性的安全屏障。
杨闯认为，只有AI原生安全，才能应对AI时代的安全攻击。传统外挂式AI更像“坐在法院看卷宗的侦探”，缺乏第一现场证据。AI原生安全则要深入网、端、身份、资产等第一现场，直接获取一手遥测数据，改变的是整个攻防节奏。AI原生安全体系将“发现—研判—遏制—调查—加固—学习”连接成一条连续的智能闭环，让金融安全体系真正追上AI时代的攻击速度。
关于我们
扫码获取一对一服务
