机器学习可解释性的发展已经从解释决策到理解心智，从解决信任问题到解决控制问题。

根据这个趋势，本文从解释的焦点与深度入手，将机器学习可解释性的现有工作分成了四大类：局部可解释性方法、全局可解释性方法、基于规则的解释性方法、机制性解释性方法。

这四类方法是理解该领域的基本框架，而当前的前沿工作就是在这四类的交叉地带进行探索与突破。比如《Advanced Science》的CellPhenoX，搭配的局部解释+机制性解释。

为了帮助你理解以及寻找创新思路，我挑选了近期机器学习可解释性相关的16篇论文供你参考，另附代码，建议你先复现1篇，期间产生的很多疑问可能就是你的创新点。

扫码添加小享，回复“机器解释”

免费获取全部论文+开源代码

局部解释性方法：

这类方法通过分析单个预测附近的模型行为来提供解释。比如，LIME通过构建一个模型的局部近似来解释为什么模型对特定输入样本做出特定的预测。

方法：论文提出 Sig-LIME 方法，通过信号分割与受控噪声引入以保留特征间时间依赖、融合随机森林模型捕捉非线性关系、借助热图提升可视化效果，改进了传统 LIME 在信号数据解释中的不足，增强机器学习模型（尤其 ECG 信号相关模型）的可解释性，同时提升解释的可信度、稳定性与局部保真度。

创新点：

全局解释性方法：

这类方法旨在解释整个模型的行为，而不是单个预测。比如，SHAP通过合作博弈论的概念来分配每个特征对模型预测的贡献。

方法：论文通过 SMOTE 技术处理数据失衡、Extra Trees Classifier 筛选特征，训练随机森林、AdaBoost 等机器学习模型进行恶意软件检测，并结合 SHAP 框架，通过计算 Shapley 值明确各特征的全局与局部贡献，提升模型可解释性与透明度。

创新点：

扫码添加小享，回复“机器解释”

免费获取全部论文+开源代码

这类方法使用启发式规则或领域知识来解释模型的行为。比如，决策树和决策规则集可以直观地显示数据是如何被分类的。

方法：论文提出基于文本分类的方法，通过制定 7 类条款分类标准并构建标注数据集，利用领域预训练的 RuleBERT 模型实现条款级机器可解释性自动评估，结合文档级量化指标，既提升了建筑规范解释的可解释性与自动化规则解释性能，又完成了大规模中国建筑规范的可解释性分析。

创新点：

机制性解释性方法深入模型内部，探索其运作机制，以提供关于模型决策过程的内在见解，包括激活最大化、层析成像等技术，特别适用于深度学习模型。

方法：论文提出 Boundless DAS 方法，通过用可学习参数替代分布式对齐搜索（DAS）中的暴力搜索步骤，基于因果抽象理论，借助梯度下降学习神经网络表示与可解释因果变量间的对齐关系，实现对大规模语言模型（如 7B 参数的 Alpaca）内部因果机制的高效、忠实且鲁棒的可解释性分析。

创新点：

扫码添加小享，回复“机器解释”

免费获取全部论文+开源代码