智能制造网APP
智能制造网手机站
智能制造网小程序
智能制造网官微
智能制造网服务号
智能控制
机器人
仪器仪表
物联网
3D打印
工业软件
回放
预告
品牌
杭荣
一、引言
当智能体从被动应答工具跃迁为能够自主规划、调用工具并执行复杂决策的执行者时，技术的突破速度与安全治理的反应速度之间的差距正在放大。当前，以大模型为技术底座的金融智能体正逐步由单点试点阶段迈向规模化部署阶段，一方面，智能体的自主决策能力放大了信贷误判、投资偏差、合规失守等操作风险；另一方面，模型发现漏洞、利用漏洞的网络攻击能力持续提升，智能体对外部工具的调用权限和联网能力又使其成为新型攻击的入口与载体，数据泄露、权限劫持、对抗性攻击的威胁显著升级。任何单一环节的治理缺位都可能引发系统性震荡。
二、技术迭代拓展金融智能体应用边界
人工智能技术在感知能力、推理能力、决策执行及学习能力持续提升，拓展金融智能体应用边界。感知能力层面，多模态大模型实现了文本、图像、语音的融合理解，使智能体能够处理包含财报图表、合同扫描件、语音客服录音在内的复杂金融信息，突破了传统单模态系统的信息获取边界。推理能力层面，思维链与长上下文技术将模型的逻辑推演能力提升至新高度，支撑智能体完成跨文档比对、法规制度解读、复杂计算等高阶认知任务，推理深度从表层问答延伸至因果分析与策略推演。决策执行层面，工具调用和智能体编排技术赋予模型与外部系统交互的能力，使其能够自主调用风控引擎、交易接口、数据库完成端到端操作，实现从问答助手到执行工具的关键跨越。学习能力层面，检索增强与持续微调机制让智能体在运行中不断吸收新知识，适应快速变化的金融监管规则与市场环境，解决了静态模型知识滞后于现实世界的根本难题。
人工智能技术正全面渗透金融机构前中后台，场景落地呈现体系化特征。金融行业大模型应用落地的业务场景覆盖金融机构的客服、营销及风控等领域，在规则明确、结果可预期的高标准化场景，智能问答、材料预审与报表生成等应用快速落地，充分释放金融智能体基于规则的生成能力。在人工判断与规则匹配并重的半标准化场景，如智能投研、反欺诈监测等环节，当前金融机构普遍通过构建适配的人机协同机制实现落地。针对利益交织、情境依赖的非标准化场景，如信贷终审与客户纠纷调解，应严格限制金融智能体的决策权限，防范算法黑箱越位替代金融专业判断的风险。智能体在金融领域应用正跨越零散试点阶段，迈入全业务链条赋能的新时期。
智能体能力深化面临既有系统的业务壁垒挑战，打通跨部门、跨条线的协同网络已成为突破应用瓶颈的重要路径。客户画像、交易流水、风控模型等核心数据分散在不同业务条线，跨系统调用面临权限、标准、合规的多重关卡。与此同时，智能体的服务形态也在经历根本性升级，交互端从被动响应转向主动识别客户需求与预判业务节点，执行端从单一信息检索升级为串联资格判断、材料核验、跨系统流转的任务闭环。应通过推动金融核心数据要素在合规框架内的安全共享，逐步将金融智能体嵌入底层业务流程，实现从局部赋能向全域协同的提升。
三、安全治理守牢金融智能体风险底线
金融智能体的自主性带来了风险性质的变化。传统AI系统的风险主要集中在内容是否准确合规，而金融智能体的风险已升级为未经授权的资金转移、配置变更或数据外泄，形成直接的财产损失与操作危机。模型层面，大模型的幻觉问题仍是首要威胁，对抗性攻击和后门漏洞则可能被恶意利用，诱导模型输出错误结论。数据层面，金融机构掌握的海量客户数据、交易记录和风控参数使其成为高价值攻击目标，隐私泄露、数据污染和投毒攻击威胁着信息安全的根基。算法层面，训练数据中的历史偏见可能被模型学习并放大，导致信贷审批中的歧视性决策，冲击金融普惠的公平底线。
从国内外治理实践看，人工智能治理已超越单一技术安全范畴，与产业发展、组织管理、风险评估、标准测评和责任机制紧密相关。欧盟《人工智能法案》以风险分级为基础，对不同风险等级的人工智能系统配置差异化要求；美国国家标准与技术研究院(NIST)发布的《人工智能风险管理框架》强调从治理、映射、测量、管理等环节构建风险管理闭环。我国围绕生成式人工智能服务管理、安全治理、算法治理的制度与标准体系建设持续推进，呈现出分类分级、风险导向、技管结合和协同治理的发展趋势。
金融智能体安全治理应采取基于场景的分类分级管理思路。金融智能体安全治理不能仅从模型本身判断风险，而应结合具体业务场景识别其数据敏感程度、业务影响范围、自动化水平、外部连接情况和客户权益影响。需充分体现金融业务属性，突出金融行业客户权益敏感、数据类型复杂、资金链路集中、监管责任明确等特征。同时，治理体系建设需进一步完善评价指标、测试方法和全生命周期管理机制。一是系统研究金融人工智能风险识别机制，构建覆盖模型风险、算法偏见、数据安全及第三方依赖的风险分类框架；二是设计“风险分级、控制分层”的差异化治理架构，建立从人工智能引入、运营到退出的全生命周期管控标准；三是提出涵盖分级准入评估、动态风险监测与预警和分级退出的差异化管控机制。
四、金融智能体技术迭代与安全治理协同推进
金融智能体应用发展的重心正从单纯的技术应用拓展转向技术创新和安全治理协同发展，强调安全稳妥推进人工智能应用。
一是将安全治理嵌入金融智能体应用全生命周期。建立覆盖金融智能体准入、运行与退出的全生命周期管控机制。在准入阶段，依据风险等级差异化设置技术验证、压力测试与安全合规审查标准，重点评估金融智能体的决策稳定性与系统容错能力，在运行阶段建立监测体系，对模型漂移、异常调用链与行为偏离等关键信号实施实时追踪，并预设人工接管与权限收敛机制，在退出阶段，明确降级条件与强制退出情形，确保金融智能体权限的即时收敛与业务有序过渡。
二是完善金融智能体标准规范与评测认证体系。加快构建适配金融智能体特性的安全治理标准规范与评测认证体系。推动建立覆盖模型安全、数据安全、交互协议与业务应用的多维度安全测试框架，持续完善测试数据集与评测工具，为金融机构提供可量化的安全基准参考。建立动态评测机制，将评测反馈作为数据集优化与模型迭代的依据。推动金融智能体安全标准与现有金融合规要求的衔接。
三是构建协同共治的金融智能体安全治理生态。在机构内部，推动业务部门、风险管理部门与审计部门三道防线适配智能体治理需求，形成场景风险分级管控的分工机制。在监管层面，对低风险应用以规则指引为主，对高风险应用引入现场检查、事前备案与定期报送机制。同时，建立金融智能体漏洞监测平台，并探索将安全工具建设、漏洞修复能力等纳入治理评估，形成可持续的金融智能体安全产业生态。
五、结束语
金融智能体正站在从可用走向可信的关键节点。中国信息通信研究院聚焦金融智能体安全风险构建覆盖金融智能体建设、应用、评价全环节的标准规范体系，明确金融智能体应用过程中的责任边界与运行底线，为金融机构智能体应用准入、运行管理、风险评估和持续改进提供支撑。展望未来，随着金融智能体安全治理体系逐步完善，金融智能体将持续拓展应用场景边界，向业务流程进行深度赋能，为金融业数智化转型注入新的动力，助力构建更加智能、高效、普惠且可信赖的金融服务模式。
作者简介
何阳，中国信息通信研究院云计算与数字化研究所副所长、高级工程师。中国通信行业标准化协会金融科技标准推进委员会(TC604)主席，证券期货行业标准化委员会专家委员。主要研究方向为金融人工智能、产融合作、科技金融、金融信创、金融安全等，拥有多年金融科技领域技术标准和产业政策研究经验，参与多个金融科技领域重大国家政策、顶层规划的编写工作。
徐秀，中国信息通信研究院云计算与数字化研究所金融科技部主任工程师，高级工程师。主要研究方向为金融AI应用、金融AI安全治理，金融数据安全、密码应用等，负责相关领域政策支撑、标准制定、行业洞察、咨询规划、测试评估等工作，发表论文近20篇。
叶敏，中国信息通信研究院云计算与数字化研究所工程师。主要研究方向为金融AI应用、金融AI算力、金融AI安全治理及金融信息技术创新等，负责相关领域政策支撑、行业报告编写、行业标准制定、咨询规划、测试评估等工作。
校 审 | 谨 言、珊 珊
编 辑 | 凌 霄
浙公网安备 33010602000006号
智能制造网APP
智能制造网小程序
微信公众号
