admin 管理员组

文章数量: 1184232

作者：18届 cyl

日期：2021-08-09

论文：《A Unified Approach to Interpreting Model Predictions》

一、前言

在许多应用中，理解一个模型为什么要进行某种预测与预测的准确性同样重要。即确定每个输入特征的
重要性十分重要。
SHAP (SHapley Additive explanation，加性特征)则为每个输入特征分配了一个特定预测的重要性值。
（西瓜颜色对结果甜度的重要性）
它的新颖之处包括：
(1)确定了一类新的可加性特征重要性测度，
(2)理论结果表明，在这类测度中存在一个具有一组理想性质的唯一解。
(3)SHAP统一了6个现有的方法。

二、原理

2.1 目标
定义一个更为简单的模型作为原始模型的任何可解释的近似。
2.2 公式
1、设f为待解释的原始预测模型，g为解释模型。
2、基于单个输入x的预测f(x)， 3、解释模型通常使用简化的输入x 0，通过映射函数x = hx(x 0)映射到原始输入，
4、局部方法在z0≈x0时尽量确保g(z0)≈f(hx(z0))
5、

6、其中 的均值为SHAP值（对输入自己的所有可能组合求均值）

三、SHAP优势

3.1 局部精度

本文标签： 模型 方法 论文 Approach Unified

版权声明：本文标题：《A Unified Approach to Interpreting Model Predictions》论文解读——解释模型 预测的统一方法 内容由网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：http://www.roclinux.cn/b/1763631849a3256379.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。