挪威发表有关机器学习系统内置歧视保护措施的指南

编辑丨吴梓聪 陶园 钟坤洋 明珂

【本文看点】

2023年11月7日，挪威平等与歧视监察官发表了一份题为《内置歧视保护——揭露和防止人工智能开发和使用中的歧视》的指南。指南重点介绍了机器学习（ML）系统存在歧视问题以及防止歧视的内置歧视保护措施在ML系统的各个阶段的重要性与必要性，以《平等与反歧视法》及相关原则为基础，强调了在开发和使用ML系统时需要考虑到不同群体可能面临的歧视风险。

该文章我们以机翻为主，并进行了人工微调。由于篇幅原因，本文仅展示其中的部分核心内容，如需获取全文翻译pdf文件，请在本公众号后台回复“内置歧视保护措施”（不含双引号），供各位读者参考。

【主要内容】

本文主要内容包括：

第一部分

本部分介绍了：

1. 产生本指南的背景。强调了ML系统可能导致的歧视问题，为此必须使用防止歧视的内置保护措施；

2. 本指南的目的。旨在让负责开发、采购和使用ML系统的人员了解歧视法规，并通过评估技术可能带来的歧视风险来防止歧视。

第二部分

本部分解释了：

1. 什么是歧视。歧视包含直接歧视、间接歧视和复合歧视（同时包含直接与间接歧视）；

2. 人工智能系统如何可能具有歧视性，例如应用于招聘的算法可能在两性、种族、肤色上产生差别对待；

3. 认定是否存在歧视的三个问题，即是否存在区别对待，区别对待是否基于歧视性质的理由，歧视是否具有合法理由；

4. 公共部门具有的防止歧视的义务及具体履行义务的措施。

第三部分

本部分概述了使用人工智能时的典型歧视挑战和相关问题，这些问题按照技术开发和使用的五个阶段编排，包括：规划、培训数据、模型开发、测试、实施及监督。以上五个阶段在文件中都进行了展开论述，此处限于字数不进行拓展。

❖