机器学习模型包含训练数据的相关信息。这些信息要么通过模型本身泄露，要么通过模型做出的预测泄露。因此，当训练数据包含敏感属性时，评估信息泄漏量是至关重要的。我们提出了一种利用模型中关于数据的Fisher信息来量化这种泄漏的方法。在最坏情况下，基于先验的差别隐私保证，Fisher信息损失测量关于数据集中的特定实例、属性或子群的泄漏。我们通过Cramér-Rao约束激励Fisher信息损失，并描述隐含威胁模型。给出了输出摄动广义线性模型Fisher信息损失的有效计算方法。最后，实证验证了Fisher信息损失是一种有效的信息泄漏度量方法。
https://www.auai.org/uai2021/pdf/uai2021.289.preliminary.pdf
专知便捷查看
便捷下载，请关注专知公众号（点击上方蓝色专知关注）
专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎注册登录专知www.zhuanzhi.ai，获取5000+AI主题干货知识资料！
欢迎微信扫一扫加入专知人工智能知识星球群，获取最新AI专业干货知识教程资料和与专家交流咨询！点击“阅读原文”，了解使用专知，查看获取5000+AI主题知识资源
