【机器学习】推荐一个开源机器学习可解释仓库-AutoX-Interpreter

机器学习在金融、零售、工业预测性维护等众多场景已得到较为普遍的应用。然而，在具体业务场景中，机器学习仍然常被视为一个“黑盒”，如果不对模型进行合理的解释，业务人员就无法完全信任和理解模型的决策，使得模型的使用受到限制。

可解释机器学习的目的就在于让用户理解并信任我们的模型。在建模阶段，可解释能力可以辅助开发人员理解模型，进行模型的对比选择、优化和调整。在模型上线运行后，可解释能力可以用于向业务人员解释模型的内部机制，对模型的预测结果进行解释。

第四范式开源了一个自动机器学习的代码库AutoX，其中AutoX-Interpreter内置了丰富的机器学习可解释算法以及对应的使用案例。

主要功能包括：

全局代理模型

用一个相对容易解释的模型拟合原模型，用拟合出来的模型来解释原模型的全貌。

- 树模型

局部代理模型

解释在局部样本点上，模型是基于哪些特征做出的预测结果。

LIME，Local interpretable model-agnostic explanations，一种与模型无关的可解释方法。

SHAP，Shapley Additive Explanation，核心是计算其中每个特征变量对模型预测值的边际贡献。

影响力样本

找出在模型训练过程中对训练结果有影响力的样本。核心在于如果删除某些样本进行训练，模型参数或预测结果变化较大。

- nn

基于ICML'17，Understanding black-box predictions via influence functions的方法。

- nn_sgd

基于NeurIPS'19，Data Cleansing for Models Trained with SGD的方法。

代表性样本和非代表性样本

- MMD-critic

找到全体样本中有代表性的样本。

- ProtoDash algorithm

给定局部样本点和模型，在预测结果一致（或相近）的样本中，找到模型决策因素一致（或相近）的样本点。

项目地址

https://github.com/4paradigm/AutoX/tree/master/autox/interpreter