模型无关的特征重要性度量对于揭示不透明或“黑箱”机器学习模型的任务至关重要。这种模型在高风险决策环境（如医疗保健或银行业）的激增，要求开发灵活且可信的方法来解决这个问题。由于没有地面真实的特征重要性进行比较，各种竞争方法提供了不同的方法和/或理念，通常都声称自己更优越。最近一些最受欢迎的方法是从合作博弈论的工具进行适应，这些工具在奖励或成本分享问题中被使用。在本文档中，我们报告了这类特征重要性方法的最近进展。特别是，我们讨论了一个使用Shapley值的“数据为中心”的群体（cohort）-基础框架，用于模型不可知的局部特征重要性。我们提出了一个主要的重要性度量，并探讨了更适合特定用例或数据环境的该方法的几种适应。我们分析了这些方法的属性和行为，并将它们应用于包括选民注册和累犯数据在内的一系列合成和实际问题设置。然后，我们提出并讨论了局部重要性聚合和特征重要性评估的新方法。
专知便捷查看
便捷下载，请关注专知公众号（点击上方蓝色专知关注）
专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎注册登录专知www.zhuanzhi.ai，获取100000+AI(AI与军事、医药、公安等)主题干货知识资料！
欢迎微信扫一扫加入专知人工智能知识星球群，获取最新AI专业干货知识教程资料和与专家交流咨询！点击“阅读原文”，了解使用专知，查看获取100000+AI主题知识资料
