首页 博客 AI 与智能体 决策溯源:A…
AI 与智能体 经验与观点

决策溯源:AI 给答案越快,越需要一条能回溯的依据链

决策溯源:AI 给答案越快,越需要一条能回溯的依据链

当分析结论要交给稽核、审计或监管复核时,真正的问题从来不是算得快不快,而是这个数字凭什么成立。多数系统答不上来,因为它们只保存了结果,没有保存结果的来历。

决策溯源,正在从审计人员的一个专业术语,变成所有引入 AI 分析的企业都绕不开的工程问题。原因很直接:模型让出数的速度快了两个数量级,却没让发现错误的速度快哪怕一点。

过去一位分析师手写一段 SQL 要二十分钟,这二十分钟里人会自然产生怀疑、回头检查、重算一遍。现在三秒出图,那个反思窗口被取消了。AI 没有制造新的错误类型,它取消了发现错误的时间。

决策溯源:与操作日志的根本区别

很多团队认为自己已经做了这件事,因为系统里有完整的日志。但两者记录的是完全不同的东西。

日志记录「系统做了什么」,是一条时间序列;溯源记录「结论为什么成立」,是一张因果结构。前者能证明程序被执行过,后者能证明依据是否充分。在审计场景里两者都需要,但只有后者能进工作底稿。

一份工作底稿要回答的不是「这个数是怎么跑出来的」,而是「这个数凭什么算数」。

三类错误里,只有一类真正可怕

要理解这条依据链为什么必要,先把错误分开看。

第一类是崩掉的。代码报错、任务中断。这类最安全,因为它自己会喊。

第二类是一眼假的。销售额出现负数、日期跑到 1970 年、某个机构占比 340%。业务人员的领域直觉能抓住大半。

第三类是静默的语义错误。这类才要命,特征是结果完全合理,数字落在预期区间内,没有任何异常信号。举几个在保险稽核里真会发生的:

  • 保单表和理赔表关联,一张保单对多次理赔,赔付金额被重复计算,总额高了 18%,而这个数字本身看起来毫无问题。
  • 某一步悄悄丢掉了机构代码缺失的两千多条记录,剩下每个数都是对的,只是少了一批人。
  • 「本季度」的边界含不含当月最后一天,差一天,环比从正 3% 变成负 1%。
  • 前一张图的「活跃客户」定义是九十天内有交易,后一张图重新生成时用了有效保单状态。两张图并排放进同一份报告,口径不同,无人察觉。

第三类错误的关键在于:不是「不懂代码所以看不出来」,而是看代码这条路本身就不通。代码语法完美、逻辑自洽,错的是它对业务口径的隐含假设。这就是问题所在。决策溯源,要回答的正是这一类问题。

决策溯源:四种能力缺一不可

把举证责任推给读代码的人,是行不通的。真正让一个不懂代码的人能对结论签字的,是下面四样东西,缺一样链条就断在那里。

其中第三层和第四层最常被忽略。冲突标记之所以重要,是因为审计要的正是把矛盾摆出来,而不是替人抹平:合同金额、付款金额、发票金额三处不一致时,普通系统会取一个「最可信」的值,审计系统必须三个都留着并打上标记。

双时态则回答另一个高频争议:「你当时凭什么这么判断」。用今天的数据回溯当时的结论,永远说不清楚,只有同时记录两条时间轴才能真正回放。

这件事在开源世界已经有人做

这一层目前以开源项目为主。近期热度很高的一个是 Semantica,它把每一次判断当作图上的一等对象来存储,而不是一条日志,并附带完整的因果链与来源。它的接口大致是这个形态:

# 记录一次判断,并连回它的上游原因d1 = graph.record_decision(    category = “关联方识别”,    scenario = “保单受益人与核赔岗存在亲属关系”,    reasoning = “配偶属亲属关系,亲属可传递至二级”,    outcome = “标记为关联交易,转人工复核”,)# 任何时候都能问:这个结论是怎么来的chain = graph.trace_decision_chain(d1)

值得注意的是它的自我限定。项目文档主动说明,推理引擎的条件匹配器在当前版本较为简化,建议接入生产合规环节前先用真实规则集验证;同时明确区分「系统级可解释」与「模型内部可解释」,不承诺解释大模型内部的思维链。项目详情可见 GitHub 仓库

选型提醒:这类项目普遍处于早期。评估时至少核实三件事 – 开源协议覆盖的是核心引擎还是也包含生产入口;项目自己声明了哪些能力限制;图存储方案能否在国产化软硬件底座上完成验收。嵌入式方案通常比需要独立服务的图数据库更容易通过等保。

计算与举证,是两件不同的事

厘清分工比选型更重要。工作流引擎负责把事实算出来,溯源层负责从事实推出结论并留下依据,两者混为一谈是选型阶段最常见的误判。

维度数据工作流引擎决策溯源层
范式命令式,写「怎么做」声明式,写「什么成立」
擅长取数、清洗、聚合、主体识别多跳关系、矛盾发现、依据链
能找到你事先想到的路径也包括你没想到的路径
产出疑点清单新事实加推导链
沉淀资产工作流,绑定数据模型规则与本体,可跨项目复用
工作量占比约九成,在数据侧约一成,在推理侧

最后一行值得停一下。从原始业务表到一组干净可用的事实,才是整条链上真正耗时的部分:同一个人在三张表里三个编号、字段口径各不相同、时间边界互相错位。这正是可视化工作流数据访问与转换能力长期存在的理由。没有可信的事实,推理层再强也只是把错误推得更远。

决策溯源,会被更强的模型取代吗?

方向恰恰相反。模型越强、出数越快,这条依据链就越是从可选项变成前提。有两个原因是原理性的,不随模型能力提升而消失。

其一,组织共识不在数据里。「活跃客户」该怎么定义,答案不在任何一张表中,它在人的约定里、在会议纪要里、在某位负责人的习惯里。模型再强,也无法从数据反推出一个不存在于数据的约定,这不是能力问题,是信息问题。

其二,稽核要的是确定性。同一个问题今年问和明年问必须得到同一个数。概率模型本身给不了这个保证,而把这部分从概率世界搬到确定世界,正是这一层的价值所在。

一个务实的边界是:让模型负责发散与表达,让规则负责判断与举证,让工作流负责计算,人负责最终签字。把这条边界画清楚之后,AI 智能体能力才真正可以放进受监管的流程里。

什么时候值得投入

判断标准只有两条:关系是否复杂到超过两跳,结论是否需要向他人出示依据。两条都命中才值得,否则是给自己加负担。

  • 值得:关联方识别、职责分离冲突、团伙欺诈网络、案件线索关联、合同关系穿透、法规的层层引用与取代关系。
  • 不值得:赔付率、同比增长这类度量型分析,需要的是口径统一而非推理;快速试错的探索性分析,链路越短越好。

行业实践可以参考企业审计分析解决方案保险稽核分析用户用例智能监督分析平台实践

真正的成本也要说清楚:不在软件,在建模。实体怎么定义、什么算同一个人、哪些字段构成关系,这部分需要既懂业务又能做逻辑建模的人,通常要几周到几个月,而且需要长期责任人 – 口径会随准则和监管漂移,没人维护会比文本更快腐烂。

常见问题

日志是时间序列,记录系统做了什么;溯源是因果结构,记录结论为什么成立。前者证明程序被执行过,后者证明依据是否充分。审计两者都要,但只有后者能进工作底稿。

不是。图数据库是存储与查询引擎,负责存节点和边;本体是语义模型,负责定义什么关系成立、能推出什么。可以只有图数据库而没有本体,此时无法推理,也无法校验矛盾。属性图一支普遍不具备推理能力,需要推理与举证时应走 RDF 路线。

工作流平台在数据侧不可替代,也天然具备流程级可复现能力。但它是命令式的,只能找到你事先设计过的路径;多跳关系与自动推导需要声明式的规则层来补。两者是分工关系,不是替代关系。

建议这样做,成本也低。选一个关系复杂、结论需要举证的真实场景,用真实数据跑通一条完整链路,看导出的依据链业务复核人员认不认。通常两到三周可以完成,比任何架构评审都更能说明问题。

从一个真实场景开始验证
与其做一次架构评审,不如拿一份真实数据跑通一条完整的依据链。九成工作量在数据侧,而那正是我们最擅长的部分。
预约产品演示 立即免费体验

搜索文章

返回博客列表
iModel 专属客服
网页直接对话,无需微信
4008568196 拨打此号码联系我们

微信扫码咨询

iModel 微信咨询二维码

使用微信扫描上方二维码