八层统一走通
一个案例走完全部八层
十一层走通:医院 AI 诊断系统部署决策
定位:用一个完整案例,把十一层体系在一个真实问题上跑一遍,看每一层各自处理什么、以及哪些层在此场景下显式不适用。 作者:Yi Fu(付毅,ODDFounder)
案例
一家三甲医院计划在急诊科部署一套 AI 辅助诊断系统。系统读取患者主诉、体征和检查结果,给出初步诊断建议和危重等级排序,帮助急诊医生在高峰时段快速分流患者。
医院 IT 已完成系统对接。但在上线前一天,急诊科主任提出反对:"我不确定这个系统在忙的时候会不会给错优先级。如果它把一个心梗患者排到后面,谁负责?"
院长决定暂缓上线,要求做一次全面的评估。
第一层 · DM(差异一元论):这个问题的哲学地基是什么
AI 诊断系统的核心承诺是"它能把患者状态正确排序"。在 DM 框架下,这承诺意味着:
- 差异:系统必须能从患者数据中识别出"有临床意义的差异"——心梗 vs 胃痛,不是"数据点不同",而是"风险结构不同"。
- 结构:系统内部有一个从"原始数据→特征→风险评分→排序"的结构链。这个结构不是"客观现实"的直接映射——它是训练数据 + 算法设计 + 部署条件共同约束下的产物。
- 边界:系统的结构边界是"训练数据覆盖的病例类型"。边界之外的病例(罕见病、非典型症状、新发传染病)——系统不"知道"自己不知道。
- 继承:训练数据中的历史偏见(如某类患者历史上被低估了疼痛报告)会在结构中继承。
- 涌现:当系统在"边界附近"做判断时——如一个症状同时匹配"高危"和"低危"两种模式——系统的输出不是"计算错误",而是结构在边界处的涌现不确定性。
这个系统的真正风险不是"AI 不够聪明",而是它的结构边界在部署前未被显式标注。系统和医生都不知道"系统在什么情况下会出错"。
第二层 · ASTO(属集变迁存在论):当前状态怎么编码
| 编码维度 | 当前状态 | 判断依据 |
|---|---|---|
| 五态 | 共识→编码的过渡期 | 系统已开发完成(编码),但医生的信任和使用规则还在口头讨论阶段(共识) |
| 六阶 | 显性 | 问题已被急诊科主任明确提出——不是潜伏期 |
| 七序 | 定位→分析的过渡 | "这是什么问题"的阶段——还没到"怎么解决" |
| 边界 | blurred(模糊) | 系统能处理什么病例、不能处理什么——没有明确边界 |
| 例外 | 未标记 | 系统在什么条件下应该"不诊断"——未定义 |
五态不匹配:AI 系统处于"物化"(代码已固化),而医生对它的理解和信任仍处于"共识"(口头讨论)。这种不匹配本身就是风险——医生会用"共识态"的模糊期望去使用一个"物化态"的精确但边界固定的系统。
第三层 · OCGS(能力有序治理系统):这个 AI 能力怎么被治理
OCGS 要求每一次能力调用都能说明五件事:ability(是什么能力)、purpose(为何调用)、due(何时到期/在什么约束下)、gate(放行门禁)、evidence(证据输入)。把急诊 AI 套进去:
| 治理项 | 当前状态 | 判断 |
|---|---|---|
| ability | "辅助诊断 + 危重等级排序" | 能力本身是清晰的,但被模糊地表述为"帮医生分流"——没有界定它"不做什么" |
| purpose | 缩短高峰时段分流时间 | 目的清楚,但与"安全"目的在边界处冲突——快和安全在此系统里没被排序 |
| due | 急诊 2 分钟决策窗口 | 时间约束明确,但"AI 推理超时怎么办"未定义 |
| gate | IT 测试通过即放行 | 放行门禁错位——技术测试不是上线门禁,责任合同才是 |
| evidence | 测试集 92% 准确率 | 证据只覆盖已知分布,缺少高压环境和边缘病例的证据 |
OCGS 的判断:这个能力可以被治理,但当前没有治理结构。ability 和 purpose 没有把"不做什么"写清楚;gate 错位(用技术测试当治理门禁);evidence 不覆盖边界。在五项补齐前,这个能力不该被放行。
第四层 · ARBT(权责边界变迁理论):权责边界在什么条件下成立
能量约束:急诊高峰时段,医生做分流决策的平均时间不到 2 分钟。AI 系统如果要在 2 分钟内完成诊断建议,它的计算不能超过这个窗口。如果 AI 因为某些病例触发了"深度推理"而导致延迟——这不是 bug,是能量约束下的必然。
适应选择约束:如果部署后 AI 的危重识别率低于高年资医生,急诊科会自然停止使用它——不需要任何正式禁令。"不好用"本身就是选择压力。问题是:这个选择压力在"AI 漏诊了一个危重患者"的时候才会生效——那时已经造成了伤害。
不完备约束:AI 系统不可能在"所有可能的病例"上被预先验证。总有一种输入是训练时和测试时都没见过的。问题是:系统是否知道自己不知道?——当前系统没有"我不知道"的输出选项。
上线前的最低条件:系统必须有"FREEZE 输出"——当输入落在已知的可靠区之外时,输出"不建议自动判断"而非"强制给出一个排序"。
第五层 · TAT(责任架构理论):谁承接后果
| 合同 | 判断 |
|---|---|
| 主体合同 | 医院是第一责任主体(它部署了系统);AI 供应商是第二责任主体(它提供了有边界的工具) |
| 接口合同 | 当前缺失:系统输出界面没有标注"本诊断基于 X 数据源,未考虑 Y 因素"。医生看到的是一个"诊断建议",不知道它有多大把握 |
| 证据合同 | 每次 AI 诊断建议必须留痕:输入数据、系统输出、置信度、医生是否采纳、患者实际结果 |
| 熔断合同 | 必须有一个人(不是系统)有权在满足条件时暂停系统的使用——当前未指定这个人是谁 |
| 补偿合同 | 如果 AI 的错误建议导致了患者伤害:医院对患者承担医疗责任,医院向 AI 供应商追偿(取决于合同条款) |
当前闭合度:受控模糊(最低档)。 五个合同中有三个(接口/熔断/补偿)未定义。
在五合同全部签署之前,上线是"受控模糊"状态下运行——可以允许(最低护栏:留痕+熔断权),但不能宣称"责任已闭合"。
第六层 · ODD(产出物驱动开发):怎么工程化地验证
如果 COP(第八层)的 FREEZE 条件全部满足后(影子运行完成、FREEZE 输出条件明确、五合同签署),ODD 进入契约验证:
contract:
id: AI-ER-TRIAGE-001
title: "AI急诊分诊系统上线验证"
acceptance_criteria:
- criterion: "影子运行100例中,AI的危重识别率不低于高年资医生"
hardness: hard
- criterion: "系统在输入触及边界时(非典型症状、数据缺失),输出FREEZE而非强制排序"
hardness: hard
- criterion: "每次诊断建议附带置信度标注和'基于以下数据源'声明"
hardness: hard
- criterion: "医生覆盖AI建议的比例不超过20%(即医生不是简单点'同意')"
hardness: soft
floor: "所有hard条件通过,影子运行至少覆盖早/晚/周末三个时段"
red_line: "影子运行期间,AI诊断建议不显示给患者——只显示给医生作为参考"
- PASS:所有 hard 条件满足 → 允许正式上线
- FAIL:任一 hard 条件未满足 → 修复后重新验证
- FREEZE:hard 条件满足但出现一次"AI 漏诊且医生也未识别"的近失事件 → 暂停,人工复审
正式上线后,首次影子运行的 100 例诊断记录 + 验证报告 + 五合同签署文件 → 打包封存。这是"这个系统在部署时是经过这些验证的"的证据。
第七层 · PFM(问题显影方法论):主任的反对怎么被显影成可处理的问题
急诊科主任说:"我不确定它在忙的时候会不会给错优先级。"——这是一句模糊的不适,还不是一个可处理的问题。PFM 的工作是把它显影:
- 模糊不适 → "我不确定它忙的时候会不会出错"
- 显影为问题场:"系统在高压环境下的边界行为未被观测"
- 可编码:转化为 COP 可采样的信号——"高压环境下的危重识别率"和"边缘病例的输出行为"
- 可承接:这个问题不再是"主任的保守情绪",而是"上线前必须补齐的观测项"
PFM 在此案例的关键贡献:把一个反对意见转写成一个可采样的信号缺口。主任不是障碍,他是 PFM 的输入材料——他说不清的不适,恰好指向系统最该被观测的地方。
第八层 · COP(认知计算协议):诊断分流——该不该上线
P1 输入采样 - S1:急诊科主任明确反对(可靠性:高——直接陈述) - S2:IT 部门说"技术测试全部通过"(可靠性:中——测试覆盖的是已知场景) - S3:AI 供应商提供的精度报告——在测试集上准确率 92%(可靠性:中——测试集与真实急诊分布的差异未知) - 缺失信号:在"高压力+时间约束"条件下的表现;罕见病例的边缘表现
P2 状态编码
asto_precoding:
state_type: 共识→编码(过渡期)
boundary_status: blurred
clarity_vector:
signal_completeness: 0.50 # 缺少高压环境下的表现数据
signal_consistency: 0.45 # 主任反对 vs IT 支持——信号矛盾
category_concentration: 0.70 # 核心问题是"边界未标注"
structural_risk_vector:
responsibility_diffusion: medium
power_asymmetry: medium # 院长有权决定但需要技术判断
irreversibility_potential: high # 一次漏诊可能意味着患者死亡
P3 诊断判定 → FREEZE。理由:irreversibility_potential = high(漏诊的后果不可逆),且 signal_completeness 为 0.50(缺少关键环境表现数据)。
P4 转介建议
action: FREEZE_AND_ESCALATE
freeze_reason: "信号不完整(缺高压环境数据)+ 不可逆风险高"
required_before_unfreeze:
- "完成至少 100 例'影子运行'(系统在后台诊断但不影响医生决策)"
- "明确系统的'FREEZE 输出'条件——什么情况下系统说'不建议自动判断'"
- "签署 TAT 五合同中的接口合同和熔断合同"
第九层 · LSM / WSH:显式不适用
走到这里要停下来诚实说明:LSM(人生局面观察)和 WSH(和悦平衡)是面向非临床、低风险人生局面的复盘层。它们处理的是"身维/心维/安维/行维/意维"中的不舒服,明确不替代临床治疗、不做临床诊断。
医院 AI 诊断是临床高风险场景,一次错排可能意味着患者死亡。这种场景的责任闭合由 TAT 的五合同和 ODD 的契约验证承担,不进入 LSM/WSH。
把 LSM/WSH 套到临床场景,等于用低风险复盘层去承接不可逆风险——这本身就是对体系纪律的违反。"这一层在此场景不适用"是体系要给出的判断,而不是体系要填补的空白。
第十层 · RT6:显式不启动
RT6(共鸣与跃迁六步法)的纪律明确写着:只有在 COP 未处于 FREEZE/REFER/UNKNOWN、用户同意且边界清楚时才可启动;它不治疗、不处方、不输出复诊结论或高风险强承诺。
本案例 COP 给出的判定正是 FREEZE——这恰好是 RT6 不可启动的前置条件。
旧版案例曾用 RT6 的"六步走通"来组织从反对到上线的流程。在新体系下这不再成立:RT6 是非临床行动承接,临床场景走到 COP 的 FREEZE 判定 + ODD 的契约验证即闭合。用 RT6 去走临床上线流程,会把一个"不处方"的层错误地当成"放行流程"——这是层职责的错位。
RT6 在此案例的正确用法是不参与:上线决策由 ODD 契约的 PASS/FAIL/FREEZE 给出,不由六步法给出。
十一层在此案例的总览
DM 系统的结构边界在部署前未被显式标注
↓
ASTO 五态不匹配——系统已物化,医生仍在共识态
↓
OCGS 能力可被治理,但 ability/gate/evidence 三项未补齐——不应放行
↓
ARBT 不完备约束——系统不知道自己不知道。必须加 FREEZE 输出
↓
TAT 五合同中三个缺失——上线前必须签署接口/熔断/补偿合同
↓
ODD 契约验证——100例影子运行,hard条件达标才放行
↓
PFM 把主任的反对显影为"高压环境下边界行为未观测"的信号缺口
↓
COP FREEZE——信号不完整+不可逆风险高。解冻条件:影子运行+FREEZE输出+五合同
↓
LSM/WSH 显式不适用(非临床层不承接临床不可逆风险)
↓
RT6 显式不启动(COP 处于 FREEZE,RT6 纪律禁止启动)
这个案例说明什么
这不是一个"AI 太危险所以不能部署"的故事。 体系的结论不是"不上线",而是"在满足以下条件后可以上线:FREEZE 输出、影子运行验证、五合同签署、OCGS 治理项补齐"。
这不是"每层都要走一遍才算数"。 恰恰相反——本案例最关键的判断之一是第九、十层显式不适用/不启动。LSM/WSH/RT6 是为非临床低风险局面设计的,把它们硬套到临床高风险场景,本身就是对体系纪律的违反。体系的强度不在于"每层都出场",而在于每层都给出了它在该场景下该不该出场、出什么场的明确判断。
这就是十一层体系的价值:不是每层都要被每个人使用,而是当所有层都被覆盖——包括诚实地标出"这一层在此不适用"——你才能确定没有遗漏关键维度,也没有让低风险层越界去承接不可逆风险。