众合资本以AI对抗AI！谷澍详解防范大模型应用风险四大做法

专题：2026陆家嘴论坛：央行、金融监管总局、证监会领导演讲

　　21世纪经济报道记者张欣

　　“要‘以AI对抗AI’，建立纵深防御体系，确保攻击可以早发现、快处置、能自愈，不断提升自动化、智能化的风险应对水平。要增强AI对抗能力，部署专门的安全监测模型，持续进行对抗训练，提升系统韧性。”

　　6月18日，农业银行董事长谷澍在2026陆家嘴论坛——“全体大会五：健全科技金融全生命周期服务体系，服务实体经济高质量”发展上发表题为《控制大模型应用风险的几点做法》演讲时如是表示。

（谷澍在陆家嘴论坛，来源：东方网）

　　“创新与安全的平衡问题，成为制约大模型深化应用的关键所在。”谷澍指出，当前AI已成为科技创新的重要引擎，在银行的应用不断拓展深化，有效助力了金融高质量发展。但也要关注大模型的规模化应用带来的新风险挑战。

　　在他看来，模型黑箱、模型幻觉、模型自主思考与决策带来的不确定性，是当前金融业大模型应用面临的突出风险。从底层运行机理来看，模型风险是一种客观存在，金融从业者要做的不是追求对风险的绝对消除，而是如何建立与风险共生的治理体系。

　　结合农业银行一线实践，谷澍现场分享了防控大模型应用风险的四大具体做法，其中以AI对抗AI构筑智能安全防线、健全权责与包容并行的内部AI治理体系两大举措，备受关注。

　　一是分类施策推进场景适配。按照金融场景的风险等级和监管合规要求，建立模型黑箱分级管控机制，不同场景匹配差异化的技术路线与可解释性要求。对于信贷决策等强监管场景，采用模型蒸馏技术，让大模型在数据合成、归因分析和决策式模型生成等方面提供助力，将大模型能力迁移至更具可解释性的小模型；对于投研分析等高认知场景，强化思维链（CoT）设计，构建清晰的“思考推理”轨迹，增强决策过程的透明度；对于产品营销等创意类场景，构建灵活的上下文工程，充分激活模型的随机性来激发创新活力。

　　二是设定一定的标尺约束控制模型幻觉。找准大模型与业务流程的结合点，设置必要的参数标尺，同时强化人机互补的约束机制，切实压缩大模型“自由编造”空间。比如，应用AI赋能信贷调查报告智能生成，通过建立业务标尺、模型互检、模型反思、业务数据校准等方式，对模型生成的内容进行自动校验，确保“讲得准”；信贷方案、用信条件等关键内容审核要由人类主导，确保结果可控。

　　三是以AI手段应对AI应用风险。AI大幅降低网络攻击门槛，传统安全格局面临根本性重塑，安全防御手段亟需升级。要“以AI对抗AI”，建立纵深防御体系，确保攻击可以早发现、快处置、能自愈，不断提升自动化、智能化的风险应对水平。要增强AI对抗能力，部署专门的安全监测模型，持续进行对抗训练，提升系统韧性。要建立全链路可信验证与准入机制，强化漏洞扫描和运行状态监测，确保供应链安全。要强化数据隐私保护，通过提示词注入防御、多租户会话隔离、输出内容拦截等措施，防范模型推理过程中的敏感数据泄露。

　　四是强化银行内部AI治理体系。AI治理分为宏观层面与企业层面，针对AI应用带来的风险，要健全“权责明晰与风险包容并重”的银行内部AI治理体系，确保AI既用得好、又管得好。要明确责任边界。持续完善覆盖需求提出、模型开发、上线运行、效果评估的全流程管理规范，明确业务、科技、风控等部门的责任边界，确保模型风险责任可追溯，杜绝“黑箱即免责”。要留足创新空间。建立分层的容错机制，坚持“先行先试、先内后外、先外围后核心”的渐进式策略，防止未经充分验证的AI能力直接面客。

　　谷澍强调，智能体范式的推广对工具接口的调用会进一步放大模型风险，将“信息幻觉”推向“行为失控”。因此金融从业者要把安全可靠作为智能体运行的关键前提，通过分层透明、人机协同、有效治理等多重机制，构建“敏捷、可信、安全”的智能体生态，赋能金融服务发展。