01

AI 智能体在银行的应用

记录我在银行做 AI Agent 的实践与思考

5+ 落地场景
3 Agent 架构迭代
200+ Prompt 调优轮次
2年 实践经验

📌 内容声明:本板块分享的是 AI 智能体的通用技术实践和开发心得。 所有内容已脱敏处理,不涉及具体银行名称、内部系统架构、客户数据和业务指标。 分享的目的是推动行业技术交流,而非泄露内部信息。

02

应用场景

AI Agent 在银行能做什么 — 已实践的方向

📖 知识库智能问答 高频

"制度文件太多,找半天找不到答案"

用 Agent 对接内部制度库/操作手册,员工用自然语言提问,Agent 检索相关文档并生成准确回答,附带来源引用。

技术方案:RAG 架构(向量检索 + LLM 生成)
关键挑战:制度更新频繁需实时同步;答案必须可溯源,不能"编造"
效果:查询效率提升 60%+,新人培训周期缩短
📄 文档智能处理 高频

"每天几百份材料要人工审核录入"

Agent 自动识别文档类型,提取关键字段(金额、日期、主体名称等),结构化输出,人工只需复核异常项。

技术方案:OCR + LLM 结构化提取 + 规则校验
关键挑战:非标格式多样;提取字段需要 100% 准确率
效果:人工录入工作量减少 70%,异常项自动标记
📊 数据分析助手 高频

"领导要的数据报表,取数要排期一周"

用自然语言描述需求("帮我统计XX的分布情况"),Agent 自动生成 SQL、查询数据、生成图表和文字解读。

技术方案:Text-to-SQL + 数据可视化 + 自动报告生成
关键挑战:表结构复杂需好的 schema 描述;SQL 必须安全执行(只读)
效果:临时取数从天级降到分钟级
🔄 流程自动化 中频

"同样的操作每天重复几十遍"

Agent 对接内部系统 API,按指令自动执行多步骤操作(查询→校验→录入→通知),异常时暂停转人工。

技术方案:Function Calling + 工作流引擎 + 人工审核节点
关键挑战:系统间接口对接复杂;每步需留审计日志
效果:重复操作自动化率 80%,释放人力做高价值工作
🔍 智能审核辅助 中频

"审核要点太多,容易漏看"

Agent 根据审核规则自动检查材料完整性、合规性,输出检查清单和风险提示,审核人员参考后做最终判断。

技术方案:规则引擎 + LLM 理解 + 风险评分模型
关键挑战:规则更新需及时同步;Agent 只做辅助不做决策
效果:审核遗漏率显著降低,效率提升
💬 对话式工作台 高频

"每天的工作准备太繁琐,打开一堆系统"

用对话式界面整合多个系统能力,一句"帮我准备今天的工作"就能拉取待办、数据概览、提醒事项。

技术方案:多 Agent 协作 + MCP 协议 + 前端工作台
关键挑战:多系统集成复杂;权限控制要精准
效果:每日工作准备时间从 30 分钟降到 3 分钟
03

开发心得

在银行做 AI Agent 踩过的坑和学到的教训

01

准确性 > 创造性

银行场景和聊天不同,LLM 不能"编"。每个回答必须有据可查。RAG 架构是刚需,不是锦上添花。Prompt 里要明确"如果不确定就说不知道",而不是鼓励它"猜一个"。

02

人机协同比全自动更现实

一开始想做全自动,后来发现银行场景容错率太低。改成"Agent 做初稿/提取/检查 → 人工复核确认"的模式后,落地速度快了很多。先辅助,再自动化,别想一步到位。

03

Prompt 工程是 80% 的工作量

以为接上 LLM 就完事了,结果光调 Prompt 就花了两个月。金融术语、制度引用格式、输出结构化要求……每个场景的 Prompt 都需要单独打磨。建立 Prompt 版本管理和评估流程很重要。

04

数据隔离是第一优先级

银行数据不能外泄到公有云。要么用私有部署的模型,要么做好数据脱敏再调用。Agent 的每一步操作都要有审计日志——谁调用了什么、传了什么参数、返回了什么结果。

05

Agent 不是万能的,选对场景是关键

不是所有问题都需要 Agent。规则明确的用规则引擎,流程固定的用 RPA,只有需要"理解+判断+生成"的才适合用 Agent。选错场景会让简单问题复杂化。

06

效果评估要量化

"感觉不错"不算评估。要定义清晰的指标:准确率、召回率、人工干预率、处理时长。没有基线对比就没有说服力,领导看数据不看故事。

07

用户教育比技术开发更难

做出来了不代表有人用。业务同事习惯了老方式,需要培训、陪跑、迭代。最好的推广方式是找一个"种子用户",让他用出效果后自发传播。

04

技术栈与架构

实际用到的工具和架构模式

模型层
私有部署 LLM + 公有云 API(脱敏后调用)。根据场景选模型:简单分类用小模型,复杂推理用大模型。
检索层
向量数据库 + 全文检索混合方案。制度文档先分块、向量化,查询时双路召回再 rerank。
Agent 框架
Function Calling 为主,复杂场景用多 Agent 协作。工作流引擎控制执行顺序,每步可插拔人工审核节点。
数据层
内部数据通过 API 网关访问,Agent 只读不写。写操作必须人工确认后执行,全程审计日志。
前端层
对话式界面 + 可视化卡片。不只是聊天,关键信息用卡片/图表呈现,支持一键导出报告。
安全层
数据脱敏管道 + 权限控制 + 操作审计。不同角色看到不同范围的数据,敏感字段自动打码。
架构演进路径
v1:单 Agent + 简单 Prompt → 能跑但准确率不够
v2:RAG + 结构化输出 → 准确率上来了,但多步任务搞不定
v3:多 Agent 协作 + 工作流引擎 + 人工审核节点 → 生产可用
05

思考与展望

对银行 AI 化的个人观察

"AI 不是来替代人的,是来替代'人不愿意做的那部分工作'的。"
— 开发随笔

银行里大量重复性、机械性的工作(录入、查询、格式检查),这些恰恰是 Agent 最擅长的。把人释放出来做需要判断力和创造力的工作,这才是正确的方向。

"银行做 AI 最大的瓶颈不是技术,是数据和流程。"
— 开发随笔

数据散落在各个系统、格式不统一、质量参差不齐。流程上每个环节都有审批节点。Agent 要落地,60% 的时间在解决数据和流程问题,30% 在调 Prompt,10% 才是写代码。

"最好的 AI 产品是让用户感觉不到 AI 的存在。"
— 开发随笔

用户不关心你用的是大模型还是规则引擎,他们关心的是"能不能帮我把事办了"。最好的反馈是"这个功能真好用",而不是"这个 AI 真聪明"。

"做 Agent 要有'产品经理思维',不能只有'工程师思维'。"
— 开发随笔

技术上能实现 ≠ 业务上有人用。先找到真实痛点,再想技术方案。反过来做出来的东西大概率没人用。

🔮 下一步探索方向

多模态 Agent

图表理解 + 文档版面分析

Agent 自学习

从人工纠正中持续优化

跨系统协作

MCP 打通更多内部系统

效果评估体系

自动化评测 + A/B 测试