大模型正在持续深入业务。模型能力走得越深，安全治理的对象就越广、链条也越长，所涉及的系统和数据越多。

近期发布的《关于银行业保险业人工智能安全开发应用的指导意见》（金发〔2026〕8 号）中，对金融机构应用人工智能提出了覆盖开发、部署、运行和应急处置的安全要求。监管对象也从大模型生成内容，延伸到智能体（Agent）的运行过程、工具调用和业务操作。

对金融机构而言，安全责任随之进入每一条 AI 业务链路，「模型由第三方提供」不再是免责通道。从训练数据、用户输入和模型输出，到 Agent 调用系统、执行动作，都要求金融机构做到风险可识别、过程可追溯、结果可干预。大模型安全因此需要持续覆盖模型和业务运行的全过程。

针对这些要求，百度智能云面向金融行业构建了完整的 AI 安全方案，覆盖训练、推理、运营、评测等环节，并延伸至 Agent 运行安全。

本文按照金融机构落实监管责任的实际路径，拆解每项要求如何进入系统、由什么能力承接，以及最终如何验证。

1. 把监管要求转成五项建设任务

监管文件给出了原则和责任边界，落到建设层面，金融机构至少需要解决五个问题。

第一，进入模型的数据是否安全。训练语料、企业知识库、历史客服对话和业务文档中，既有身份证号、银行卡号等个人信息，也可能包含内部经营数据、错误知识和违规话术。数据进入模型前，需要完成识别、脱敏和清洗。

第二，每一次模型交互是否可控。用户输入、上下文、模型输出以及多模态内容都可能带来风险。系统既要识别提示词注入、越狱攻击和通用内容风险，也要理解夸大收益、违规荐股、不当营销等金融业务风险，并按照风险等级执行拦截、提示或安全回复。

第三，模型上线后能否持续发现问题。业务规则、监管口径、模型版本和攻击手法都在变化，实时护栏难以覆盖所有隐蔽风险。金融机构需要对生产交互进行回溯质检，发现漏检和误伤，并及时更新词库、策略与业务豁免规则。

第四，安全能力能否被持续验证。上线前的测评只能说明当时的状态。模型升级、业务变化或新型攻击出现后，还要通过自动化攻防和分级评测重新验证，形成可追踪的风险结果和整改依据。

第五，Agent 的运行过程是否受控。Agent 会调用工具、访问系统并执行动作，风险可能直接落到数据查询、权限使用和业务操作上。金融机构需要看到完整调用轨迹，在高危动作执行前完成判断和干预，并通过红队评估检验工具与权限链路。

2. 大模型安全：把责任落到训练、推理、运营和评测

百度智能云 AI 安全护栏金融解决方案覆盖「训练 - 推理 - 运营 - 评测」全生命周期：训练阶段减少风险进入模型，推理阶段实时识别和处置，运营阶段发现漏检与误伤，评测阶段验证防护效果。运营和评测中发现的问题继续反馈到清洗规则与检测策略中，使安全能力能够随业务持续更新。

2.1 训练阶段：从源头切断风险，让模型「学得干净」

模型的安全能力，首先取决于它学习了什么。

金融机构的训练语料通常来自历史业务文档、客服对话、合同资料、产品材料和内部知识库，数据量大、格式复杂，风险也分散在不同载体中。

百度智能云将风险控制前置到训练数据环节，对文本、图片、文档、JSON 等不同形态的数据进行识别、脱敏与净化。系统既识别身份证号、手机号、银行卡号、账户信息等显式敏感字段，也通过语义分析发现自然语言和非结构化文档中的个人隐私与敏感业务信息。

针对金融业务，清洗范围还包括虚假宣传、夸大承诺、违规荐股等内容，减少模型学习错误知识、违规话术和不当表达。处理结果可以为数据来源、清洗规则和处置情况留下记录，为后续审计提供依据。

2.2 推理阶段：在每次交互中识别和处置风险

不同于训练数据清洗，推理阶段面对的是真实交互：训练阶段发现风险数据可以直接删除，推理阶段却不能简单地用一句「抱歉，无法回答」结束对话。这既影响用户体验，也难以满足「拒答率不高于 5% 」的监管要求。

因此，推理阶段的安全护栏不仅要识别风险，还要在拦截之后给出合理的安全回复。

全链路、全模态风险的实时识别

针对金融业务中图文产品介绍、客服截图、投顾录音、合同文档、营销视频等多模态场景，传统方式往往针对每种模态和风险分别训练多个独立的小模型，风险判断单一且孤立，无法理解模态之间的语义关联。

例如：一张大象的图片，配上「如何购买图中的珍贵物品」的文字，单独判断均未违规，但组合后可能构成违法意图。这类复合风险正是传统拼接架构的盲区。

百度智能云摒弃拼接式思路，基于多模态大模型的自然语言理解能力构建统一审核底座，将图片、音频、视频、文档信息与文本语境放在同一语义空间中联合理解，从而具备应对复合型、隐蔽型风险的能力。

提供正向引导的安全代答

识别风险后，系统会根据风险等级和业务策略，在拦截、风险提示、安全代答之间选择合适的处置方式。

其中，安全代答不是简单返回错误提示，而是针对风险类型生成合规、清晰、符合业务语境的替代回复，主动完成正向引导和纠偏。其底层由红线大模型 + 信任域 RAG 支撑：红线大模型专门处理涉政、违法犯罪、偏见歧视这类高敏问题；信任域 RAG 基于政府网站、官媒、百科等权威来源，确保回答符合可靠、统一的官方口径。

2.3 运营阶段：用生产数据持续修正策略

推理阶段的实时防护，追求的是时效性：秒级识别、秒级处置，安全的同时不能损伤响应速度。但再准的实时防护也不可能 100% 覆盖，难免存在漏报或误识别。金融机构每天动辄几十万甚至上百万条对话，仅靠人工抽检，既覆盖不全、准确率也难以稳定，传统人工审核的准确率平均在 80% 左右。

因此，百度智能云通过质检回溯和运营处置，把实时护栏没接住的风险找回来，把误伤样本修正过来，并把线上真实发生的情况沉淀为新策略。

质检负责发现：系统将用户输入、上下文信息、模型输出、命中的风险类型、检测结果和处置动作进行统一留存和关联分析，并使用专门微调训练的裁判大模型，以及更长的思维推导能力，以异步方式对线上全量放行的问答内容做二轮评估，尽快发现未被实时护栏拦截的隐蔽问题。同时，对被拦截内容做误伤巡检，避免过度拦截影响业务体验。

运营负责处置： 质检一旦识别到线上风险露出，会立即与风险干预系统进行联动。在统一安全框架下，快速补充新的金融风险表达、产品合规口径、调整审核范围，设置特定业务豁免，提升策略响应速度。

通过质检回溯和运营处置，风险露出的时间可压缩到小时级发现与处理，运营干预的准确率也可以从传统人工审核的 80% 左右提升到 98%。

2.4 评测阶段：给出可量化的安全结论

业务、模型和攻击方式持续变化，安全评测需要覆盖上线前验证和运行后的周期性复测。百度智能云通过仿写大模型、毒性增强和裁判大模型，扩大风险题库、模拟真实攻击，并对模型回答进行细粒度判定。

• 仿写大模型围绕业务场景和风险类型生成不同用词、句式、角色和上下文包装的测试变体，降低评测集被模型记忆的可能；

• 毒性增强将前缀注入、反向抑制、恶意角色扮演、多轮越狱等攻击模式加入测试；

• 裁判大模型对回答给出判定理由，按照 A1—A5 分级输出风险结果和优化建议。

生产质检中发现的问题可以转化为新的评测用例，评测暴露的薄弱点则推动语料清洗规则和风险检测策略更新。金融机构由此获得可复测、可比较、能直接指导整改的安全报告。

3. Agent 安全：把防护延伸到工具、权限和动作

《金发〔2026〕8 号》对智能体运行安全提出要求，是因为 Agent 带来的风险已经超出内容生成。它可以自主规划任务、调用工具、访问系统和执行操作。一条伪指令、一次越权调用，都可能造成真实的数据泄露或业务损失。

百度智能云沿着 Agent 的完整调度链路设置防护：

在上下文入口识别伪指令、伪授权和调试诱导，阻止恶意输入影响 Agent 的任务判断；

在动作执行前结合调用轨迹、工具类型和权限范围判断风险，对高危操作进行提醒、二次确认或实时阻断；

在执行结果返回后检查内容合规性，并离线复盘完整轨迹，定位风险从哪里进入、最终影响了哪个环节。

运行防护之外，智能体红队评估模拟攻击者对 Agent 的意图、工具和权限链路发起测试，并对 Skill、插件和依赖进行扫描，输出风险定级、攻击链复盘与修复建议。目前，百度智能云对 Skill 主流仓库覆盖率达 100%，月扫描量达到百万级，累计拦截风险超过 1 万次。

这套能力让金融机构能够同时管理 Agent 的输入、决策、调用和结果，并为高风险操作保留可审计的运行轨迹。

4. 金融机构如何把《金发〔2026〕8 号》要求落到系统中

《金发〔2026〕8 号》明确了金融机构在人工智能开发、应用和运行过程中的安全责任。落实这些要求，需要金融机构将监管条款进一步转化为系统建设、运行管理和安全验证中的具体动作。

百度智能云围绕语料治理、上线评测、内容防护、Agent 运行管控和红队评估等环节，为金融机构提供相应的产品与服务支持。

产品功能能够覆盖监管要求，只是金融机构进行安全选型的一部分。模型版本、业务范围、监管口径和攻击手法会持续变化，金融机构还需要考察服务方能否长期交付并运营这些能力，包括是否具备完整的安全服务体系、专业团队、实施经验和持续响应机制。

近期，百度安全获评国家信息安全服务资质（人工智能安全类一级），成为国内首批取得该项国家级资质的大模型厂商。百度在人工智能安全领域的服务能力与治理水平获得国家权威机构认可，也为金融机构考察安全服务方的交付与持续运营基础提供了权威依据。

5. 某全国股份制银行：从通用内容审核走向金融业务治理

业务需求

某全国股份制银行在智能客服、产品咨询等核心场景规模化应用大模型。场景直接面向客户，模型一旦输出夸大收益、误导性宣传或不当营销话术，就可能触碰金融监管红线。这些风险具有明确的业务语义，通用内容审核难以完整识别。

该行在选型时重点考察三项能力：

护栏能否识别金融专项风险；

零售、对公、财富管理等条线能否独立配置策略并隔离数据；

监管口径变化后，业务运营团队能否自主更新词库和规则。

经过多轮技术验证，该行接入百度智能云大模型安全护栏审核服务与安全评测服务。

百度智能云 AI 安全解决方案

百度智能云为该行提供覆盖「训练—推理—运营—评测」的全生命周期方案。训练阶段进行语料清洗和合规前置；推理阶段在输入和输出环节实时检测，在通用内容安全之外叠加金融专项策略，识别提示词攻击、夸大宣传和误导性收益承诺；多租户架构支持各业务条线独立配置策略、隔离数据；运营阶段通过自动化质检发现隐蔽风险，并让运营团队自主更新词库和策略；评测阶段回溯历史问答，暴露漏拦风险并校准检测策略。

落地成效

• 合规达标：满足《银行保险机构数据安全管理办法》与《金发〔2026〕8 号》等监管要求，实现 99.74% 内容合规率；

• 性能无损：面对日均数十万次调用的高并发，新增安全能力带来的时延控制在 80ms 以内，业务几乎无感；

• 持续运营：各业务线按自身标准独立运营合规策略，减少了统一策略一刀切造成的误伤和漏检；合规策略的响应周期也从依赖研发排期，缩短到运营团队自主配置即可完成。

6. 结语

《金发〔2026〕8 号》把金融 AI 安全责任延伸到数据、模型、内容、运行过程和 Agent 动作。金融机构需要建立贯穿训练、推理、运营、评测和 Agent 调用链路的安全能力，并能用日志、质检结果、评测报告和调用轨迹证明这些能力持续有效。

百度智能云 AI 安全护栏金融解决方案将监管要求拆成对应的系统能力和运营动作，帮助金融机构缩短从理解条款到完成建设、从发现风险到调整策略的路径，让大模型和 Agent 在真实业务中保持可控、可追溯、可验证。