Scientific Reports· Byounghoon Son·· 7 天前AI 评分37
联邦学习临床决策中的可解释性保持:ICU 死亡预测模型的 SHAP 可解释性一致性分析
Preserving explainability in federated learning for clinical decision-making: SHAP explainability consistency analysis of ICU mortality prediction models
AI 导读
Son 与 Chung 发表于 Scientific Reports 的分析显示,在三个 EHR 数据集上,联邦学习与集中学习 ICU 死亡预测模型的 SHAP 特征重要性排序具有一致性(SRCC 0.6463–0.8374)。
- 背景
- 医疗隐私法规限制电子健康记录(EHR)的集中汇聚,联邦学习(FL)因此被视为在多个分布式临床站点之间训练预测模型的替代路径。但临床部署机器学习模型不只需要高预测性能,还需要临床可信度,而可解释人工智能(XAI)可以支撑这种可信度。本文要回答的问题是:FL 模型给出的解释是否与集中式学习(CL)模型一致。作者把「可解释性一致性」定义为 CL 与 FL 模型之间特征重要性排序的定量一致性,并以 ICU 死亡率预测为场景考察这一点。
- 做法
- 研究使用三个基准 EHR 数据集——MIMIC-III、MIMIC-IV 和 eICU,任务为 ICU 死亡率预测。模型侧覆盖树基集成方法:LightGBM 与 XGBoost;同时采用教师—学生蒸馏路径,以 cyclic boosting 和 TabPFN 作为教师,蒸馏得到 XGBoost 学生。对模型计算 SHAP(SHapley Additive exPlanations)特征重要性,再用 Spearman 秩相关系数(SRCC)比较 CL 与 FL 模型的特征重要性排序,从而把「解释是否一致」转成一个可计算的排序相关性数值。这样比较的不是模型输出概率,而是解释层面给出的特征重要性排序;SRCC 越高,表示 CL 与 FL 对哪些特征更重要的排序越接近。评估覆盖九组架构匹配的 CL–FL 比较,即在同一模型架构下对比集中式与联邦式版本。
- 结论
- 在九组架构匹配比较中,CL 与 FL 模型的特征重要性排序呈现一致性,SRCC 落在 0.6463 到 0.8374 之间。预测性能方面,联邦蒸馏学生模型的 AUROC 为 0.8294(MIMIC-III)、0.8402(MIMIC-IV)和 0.8515(eICU),作者称其接近集中式学生模型。AUROC 的三个值分别对应三个数据集,说明联邦蒸馏学生在各数据集上的判别力;但摘要只给了联邦侧数值,集中式侧仅以「接近」描述。需要区分两个层面:AUROC 衡量预测判别力,SRCC 衡量解释排序的一致性;本文把两者并列报告,而不是只用性能判断 FL 是否可用。摘要没有给出 SRCC 的逐组数值。
- 意义
- 这项工作的直接产出是一个定量框架:在比较集中式与联邦 ICU 死亡率预测模型时,除了 AUROC 等性能指标,还可以用 SHAP 特征重要性排序的 SRCC 来量化解释一致性。对于临床决策场景,这意味着 FL 部署评估不只看性能,还要看模型在分布式训练后驱动判断的特征排序是否仍与集中式模型对齐。作者把该框架定位为同时评估可解释性与预测性能的定量工具;它不替代性能评估,而是在性能之外增加一个可量化的解释一致性维度。
本页是 AI 精读,不转载论文原文;完整论文(含方法、图表与参考文献)见原文
来源:Scientific Reports · nature.com