← 八层架构

八层统一走通

一个案例走完全部八层

1 DM 2 ASTO 3 OCGS 4 ARBT 5 TAT 6 ODD 7 PFM 8 COP 9 LSM 9 WSH 10 RT6

十一层走通:医院 AI 诊断系统部署决策

定位:用一个完整案例,把十一层体系在一个真实问题上跑一遍,看每一层各自处理什么、以及哪些层在此场景下显式不适用。 作者:Yi Fu(付毅,ODDFounder)


案例

一家三甲医院计划在急诊科部署一套 AI 辅助诊断系统。系统读取患者主诉、体征和检查结果,给出初步诊断建议和危重等级排序,帮助急诊医生在高峰时段快速分流患者。

医院 IT 已完成系统对接。但在上线前一天,急诊科主任提出反对:"我不确定这个系统在忙的时候会不会给错优先级。如果它把一个心梗患者排到后面,谁负责?"

院长决定暂缓上线,要求做一次全面的评估。


第一层 · DM(差异一元论):这个问题的哲学地基是什么

AI 诊断系统的核心承诺是"它能把患者状态正确排序"。在 DM 框架下,这承诺意味着:

  1. 差异:系统必须能从患者数据中识别出"有临床意义的差异"——心梗 vs 胃痛,不是"数据点不同",而是"风险结构不同"。
  2. 结构:系统内部有一个从"原始数据→特征→风险评分→排序"的结构链。这个结构不是"客观现实"的直接映射——它是训练数据 + 算法设计 + 部署条件共同约束下的产物。
  3. 边界:系统的结构边界是"训练数据覆盖的病例类型"。边界之外的病例(罕见病、非典型症状、新发传染病)——系统不"知道"自己不知道。
  4. 继承:训练数据中的历史偏见(如某类患者历史上被低估了疼痛报告)会在结构中继承。
  5. 涌现:当系统在"边界附近"做判断时——如一个症状同时匹配"高危"和"低危"两种模式——系统的输出不是"计算错误",而是结构在边界处的涌现不确定性。

这个系统的真正风险不是"AI 不够聪明",而是它的结构边界在部署前未被显式标注。系统和医生都不知道"系统在什么情况下会出错"。


第二层 · ASTO(属集变迁存在论):当前状态怎么编码

编码维度 当前状态 判断依据
五态 共识→编码的过渡期 系统已开发完成(编码),但医生的信任和使用规则还在口头讨论阶段(共识)
六阶 显性 问题已被急诊科主任明确提出——不是潜伏期
七序 定位→分析的过渡 "这是什么问题"的阶段——还没到"怎么解决"
边界 blurred(模糊) 系统能处理什么病例、不能处理什么——没有明确边界
例外 未标记 系统在什么条件下应该"不诊断"——未定义

五态不匹配:AI 系统处于"物化"(代码已固化),而医生对它的理解和信任仍处于"共识"(口头讨论)。这种不匹配本身就是风险——医生会用"共识态"的模糊期望去使用一个"物化态"的精确但边界固定的系统。


第三层 · OCGS(能力有序治理系统):这个 AI 能力怎么被治理

OCGS 要求每一次能力调用都能说明五件事:ability(是什么能力)、purpose(为何调用)、due(何时到期/在什么约束下)、gate(放行门禁)、evidence(证据输入)。把急诊 AI 套进去:

治理项 当前状态 判断
ability "辅助诊断 + 危重等级排序" 能力本身是清晰的,但被模糊地表述为"帮医生分流"——没有界定它"不做什么"
purpose 缩短高峰时段分流时间 目的清楚,但与"安全"目的在边界处冲突——快和安全在此系统里没被排序
due 急诊 2 分钟决策窗口 时间约束明确,但"AI 推理超时怎么办"未定义
gate IT 测试通过即放行 放行门禁错位——技术测试不是上线门禁,责任合同才是
evidence 测试集 92% 准确率 证据只覆盖已知分布,缺少高压环境和边缘病例的证据

OCGS 的判断:这个能力可以被治理,但当前没有治理结构。ability 和 purpose 没有把"不做什么"写清楚;gate 错位(用技术测试当治理门禁);evidence 不覆盖边界。在五项补齐前,这个能力不该被放行。


第四层 · ARBT(权责边界变迁理论):权责边界在什么条件下成立

能量约束:急诊高峰时段,医生做分流决策的平均时间不到 2 分钟。AI 系统如果要在 2 分钟内完成诊断建议,它的计算不能超过这个窗口。如果 AI 因为某些病例触发了"深度推理"而导致延迟——这不是 bug,是能量约束下的必然。

适应选择约束:如果部署后 AI 的危重识别率低于高年资医生,急诊科会自然停止使用它——不需要任何正式禁令。"不好用"本身就是选择压力。问题是:这个选择压力在"AI 漏诊了一个危重患者"的时候才会生效——那时已经造成了伤害。

不完备约束:AI 系统不可能在"所有可能的病例"上被预先验证。总有一种输入是训练时和测试时都没见过的。问题是:系统是否知道自己不知道?——当前系统没有"我不知道"的输出选项。

上线前的最低条件:系统必须有"FREEZE 输出"——当输入落在已知的可靠区之外时,输出"不建议自动判断"而非"强制给出一个排序"。


第五层 · TAT(责任架构理论):谁承接后果

合同 判断
主体合同 医院是第一责任主体(它部署了系统);AI 供应商是第二责任主体(它提供了有边界的工具)
接口合同 当前缺失:系统输出界面没有标注"本诊断基于 X 数据源,未考虑 Y 因素"。医生看到的是一个"诊断建议",不知道它有多大把握
证据合同 每次 AI 诊断建议必须留痕:输入数据、系统输出、置信度、医生是否采纳、患者实际结果
熔断合同 必须有一个人(不是系统)有权在满足条件时暂停系统的使用——当前未指定这个人是谁
补偿合同 如果 AI 的错误建议导致了患者伤害:医院对患者承担医疗责任,医院向 AI 供应商追偿(取决于合同条款)

当前闭合度:受控模糊(最低档)。 五个合同中有三个(接口/熔断/补偿)未定义。

在五合同全部签署之前,上线是"受控模糊"状态下运行——可以允许(最低护栏:留痕+熔断权),但不能宣称"责任已闭合"。


第六层 · ODD(产出物驱动开发):怎么工程化地验证

如果 COP(第八层)的 FREEZE 条件全部满足后(影子运行完成、FREEZE 输出条件明确、五合同签署),ODD 进入契约验证:

contract:
  id: AI-ER-TRIAGE-001
  title: "AI急诊分诊系统上线验证"
  acceptance_criteria:
    - criterion: "影子运行100例中,AI的危重识别率不低于高年资医生"
      hardness: hard
    - criterion: "系统在输入触及边界时(非典型症状、数据缺失),输出FREEZE而非强制排序"
      hardness: hard
    - criterion: "每次诊断建议附带置信度标注和'基于以下数据源'声明"
      hardness: hard
    - criterion: "医生覆盖AI建议的比例不超过20%(即医生不是简单点'同意')"
      hardness: soft
  floor: "所有hard条件通过,影子运行至少覆盖早/晚/周末三个时段"
  red_line: "影子运行期间,AI诊断建议不显示给患者——只显示给医生作为参考"
  • PASS:所有 hard 条件满足 → 允许正式上线
  • FAIL:任一 hard 条件未满足 → 修复后重新验证
  • FREEZE:hard 条件满足但出现一次"AI 漏诊且医生也未识别"的近失事件 → 暂停,人工复审

正式上线后,首次影子运行的 100 例诊断记录 + 验证报告 + 五合同签署文件 → 打包封存。这是"这个系统在部署时是经过这些验证的"的证据。


第七层 · PFM(问题显影方法论):主任的反对怎么被显影成可处理的问题

急诊科主任说:"我不确定它在忙的时候会不会给错优先级。"——这是一句模糊的不适,还不是一个可处理的问题。PFM 的工作是把它显影

  • 模糊不适 → "我不确定它忙的时候会不会出错"
  • 显影为问题场:"系统在高压环境下的边界行为未被观测"
  • 可编码:转化为 COP 可采样的信号——"高压环境下的危重识别率"和"边缘病例的输出行为"
  • 可承接:这个问题不再是"主任的保守情绪",而是"上线前必须补齐的观测项"

PFM 在此案例的关键贡献:把一个反对意见转写成一个可采样的信号缺口。主任不是障碍,他是 PFM 的输入材料——他说不清的不适,恰好指向系统最该被观测的地方。


第八层 · COP(认知计算协议):诊断分流——该不该上线

P1 输入采样 - S1:急诊科主任明确反对(可靠性:高——直接陈述) - S2:IT 部门说"技术测试全部通过"(可靠性:中——测试覆盖的是已知场景) - S3:AI 供应商提供的精度报告——在测试集上准确率 92%(可靠性:中——测试集与真实急诊分布的差异未知) - 缺失信号:在"高压力+时间约束"条件下的表现;罕见病例的边缘表现

P2 状态编码

asto_precoding:
  state_type: 共识→编码(过渡期)
  boundary_status: blurred
clarity_vector:
  signal_completeness: 0.50     # 缺少高压环境下的表现数据
  signal_consistency: 0.45      # 主任反对 vs IT 支持——信号矛盾
  category_concentration: 0.70  # 核心问题是"边界未标注"
structural_risk_vector:
  responsibility_diffusion: medium
  power_asymmetry: medium        # 院长有权决定但需要技术判断
  irreversibility_potential: high  # 一次漏诊可能意味着患者死亡

P3 诊断判定FREEZE。理由:irreversibility_potential = high(漏诊的后果不可逆),且 signal_completeness 为 0.50(缺少关键环境表现数据)。

P4 转介建议

action: FREEZE_AND_ESCALATE
freeze_reason: "信号不完整(缺高压环境数据)+ 不可逆风险高"
required_before_unfreeze:
  - "完成至少 100 例'影子运行'(系统在后台诊断但不影响医生决策)"
  - "明确系统的'FREEZE 输出'条件——什么情况下系统说'不建议自动判断'"
  - "签署 TAT 五合同中的接口合同和熔断合同"

第九层 · LSM / WSH:显式不适用

走到这里要停下来诚实说明:LSM(人生局面观察)和 WSH(和悦平衡)是面向非临床、低风险人生局面的复盘层。它们处理的是"身维/心维/安维/行维/意维"中的不舒服,明确不替代临床治疗、不做临床诊断。

医院 AI 诊断是临床高风险场景,一次错排可能意味着患者死亡。这种场景的责任闭合由 TAT 的五合同和 ODD 的契约验证承担,不进入 LSM/WSH

把 LSM/WSH 套到临床场景,等于用低风险复盘层去承接不可逆风险——这本身就是对体系纪律的违反。"这一层在此场景不适用"是体系要给出的判断,而不是体系要填补的空白。


第十层 · RT6:显式不启动

RT6(共鸣与跃迁六步法)的纪律明确写着:只有在 COP 未处于 FREEZE/REFER/UNKNOWN、用户同意且边界清楚时才可启动;它不治疗、不处方、不输出复诊结论或高风险强承诺。

本案例 COP 给出的判定正是 FREEZE——这恰好是 RT6 不可启动的前置条件。

旧版案例曾用 RT6 的"六步走通"来组织从反对到上线的流程。在新体系下这不再成立:RT6 是非临床行动承接,临床场景走到 COP 的 FREEZE 判定 + ODD 的契约验证即闭合。用 RT6 去走临床上线流程,会把一个"不处方"的层错误地当成"放行流程"——这是层职责的错位。

RT6 在此案例的正确用法是不参与:上线决策由 ODD 契约的 PASS/FAIL/FREEZE 给出,不由六步法给出。


十一层在此案例的总览

DM    系统的结构边界在部署前未被显式标注
  ↓
ASTO  五态不匹配——系统已物化,医生仍在共识态
  ↓
OCGS  能力可被治理,但 ability/gate/evidence 三项未补齐——不应放行
  ↓
ARBT  不完备约束——系统不知道自己不知道。必须加 FREEZE 输出
  ↓
TAT   五合同中三个缺失——上线前必须签署接口/熔断/补偿合同
  ↓
ODD   契约验证——100例影子运行,hard条件达标才放行
  ↓
PFM   把主任的反对显影为"高压环境下边界行为未观测"的信号缺口
  ↓
COP   FREEZE——信号不完整+不可逆风险高。解冻条件:影子运行+FREEZE输出+五合同
  ↓
LSM/WSH  显式不适用(非临床层不承接临床不可逆风险)
  ↓
RT6      显式不启动(COP 处于 FREEZE,RT6 纪律禁止启动)

这个案例说明什么

这不是一个"AI 太危险所以不能部署"的故事。 体系的结论不是"不上线",而是"在满足以下条件后可以上线:FREEZE 输出、影子运行验证、五合同签署、OCGS 治理项补齐"。

这不是"每层都要走一遍才算数"。 恰恰相反——本案例最关键的判断之一是第九、十层显式不适用/不启动。LSM/WSH/RT6 是为非临床低风险局面设计的,把它们硬套到临床高风险场景,本身就是对体系纪律的违反。体系的强度不在于"每层都出场",而在于每层都给出了它在该场景下该不该出场、出什么场的明确判断

这就是十一层体系的价值:不是每层都要被每个人使用,而是当所有层都被覆盖——包括诚实地标出"这一层在此不适用"——你才能确定没有遗漏关键维度,也没有让低风险层越界去承接不可逆风险。