社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  aigc

欧盟发布《AIGC透明度实践准则(草案)》(对比+翻译)

数据何规 • 10 月前 • 674 次点击  
来源:
https://digital-strategy.ec.europa.eu/en/news/commission-publishes-first-draft-code-practice-marking-and-labelling-ai-generated-content

导语

在《欧盟人工智能法案》第50条框架下,欧盟近期发布了《人工智能生成内容标记与标签行为准则(草案),围绕生成式人工智能内容的可识别性、可检测性与责任可追溯性,为 2026 年相关透明度义务正式适用提前明确操作方向。该准则虽以自愿形式推出,但已被视为未来监管执法与合规评估的重要技术与制度参照。


对比我国于 2025 年发布的《人工智能生成合成内容标识办法》,两套规则在目标一致的同时,侧重点存在差异。


一是制度落地路径不同。中国采取直接生效的行政规范模式,对服务提供者及社交设定明确、可执行的标识义务;欧盟则通过行为准则引导统一实践,为后续强制规则铺垫技术与行业共识。


二是隐式标识的功能定位不同。中国规则已明确要求在文件元数据中添加隐式标识,但并未强制规定必须采用数字水印等抗篡改技术形态;欧盟在 AI Act 框架下,更强调隐式标记在跨主体责任分配、审计与监管中的基础性作用。


三是责任结构设计不同。中国以内容生成与传播秩序为中心配置义务,欧盟则进一步区分模型提供者与部署者,试图将责任沿技术与商业链条向上追溯。


整体而言,对中国大模型企业来说,国内合规已解决“是否标识”的问题,而欧盟合规更进一步追问“标识是否足以支撑责任认定”。这意味着,出海欧盟不仅是形式合规,而是需要提前构建具备可验证性与可问责性的生成式 AI 治理能力。当然有觉得不合理不好落实的,也可以赶快提意见。


新闻稿

《人工智能生成内容标记与标签实践准则》(以下简称“《准则》”)第一稿今日发布,符合2026年6月完成《准则》最终版本的时间规划。

(示意图说明:人形机器人形象,一只手臂与全息文档交互,另一只手持平板电脑,象征人工智能内容的透明度与标记工作)

《人工智能法案》第50条规定,提供商有义务以机器可读格式标记人工智能生成或篡改的内容;出于专业用途部署生成式人工智能系统的用户,需对深度伪造内容及涉及公共利益事项的人工智能文本发布内容进行清晰标记。为帮助提供商与部署者满足这些要求,欧盟委员会推动制定了一份由独立专家起草的自愿性《准则》,早于相关规则正式生效前出台。

该《准则》草案包含两部分:第一部分涵盖适用于生成式人工智能系统提供商的人工智能内容标记与检测规则;第二部分涵盖适用于生成式人工智能系统部署者的深度伪造内容及特定涉及公共利益事项的人工智能生成或篡改文本的标记规则。

欧盟委员会将收集《准则》参与者及观察员对第一稿的反馈,反馈截止日期为1月23日。第二稿将于2026年3月中旬拟定,《准则》预计于明年6月最终定稿。

人工智能生成内容透明度相关规则将于2026年8月2日正式生效。

《实践准则》翻译

人工智能生成内容透明度实践准则(草案)

主席及副主席引言

作为两个工作组的主席和副主席,我们在此提交《人工智能法案》框架下《人工智能生成内容透明度实践准则》(以下简称“《准则》”)的第一稿。本《准则》初稿针对《人工智能法案》第50条第2款和第4款所涵盖的人工智能系统提供商和部署者的核心考量制定,是两个工作组紧密协作的成果:

• 第一工作组:生成式人工智能系统输出结果的标记与检测要求(《人工智能法案》第50条第2款和第5款)

• 第二工作组:深度伪造内容及特定人工智能生成文本的披露要求(《人工智能法案》第50条第4款和第5款)

本版本为《准则》第一稿,旨在为后续完善提供基础。我们的工作始于2025年11月,整合了公开咨询和专题研讨会中各利益相关方的意见。《准则》的制定过程及初稿具有独特性:它是数百名来自行业、学术界、公民社会的参与者共同协作的成果,同时也吸纳了欧盟成员国的贡献。此外,我们还参考了人工智能内容透明度相关的最新文献、人工智能办公室委托开展的学术研究、相关标准及国际实践,以及工作组成员和观察员的专业知识与经验。

制定过程的主要特点包括:

• 开展多方利益相关方公开咨询,收到187份书面意见。

• 由具备专业知识、经验丰富、立场独立且兼顾地域和性别多样性的主席及副主席领导两个专业工作组。

• 通过2025年11月17日至18日举办的三场研讨会,收集《准则》参与者和观察员的讨论意见及针对指导性问题提交的相关书面反馈。

• 审阅相关专家研究及该领域其他相关文件。

截至目前,我们收到的反馈质量极高,衷心感谢各利益相关方和欧盟成员国的积极建设性参与,相信这将助力打造更完善的《准则》。尽管无法在所有方面达成共识,但我们已尽力整合相关反馈意见,在不同观点间寻求平衡。

作为工作组主席和副主席,我们的职责是制定一份既能充分整合这些见解,又忠实于法律文本及《人工智能法案》核心宗旨与义务的《准则》,具体目标包括:
确保人工智能生成及篡改内容以机器可读、可检测的方式进行标记,所采用的技术解决方案需有效、可靠、稳健且具备互操作性;同时,让自然人更易识别以向公众通报公共利益相关事项为目的发布的深度伪造内容及人工智能生成或篡改文本。

尽管第一稿尚未详尽完善,但我们的思路是为利益相关方明确最终《准则》的潜在形式和内容方向,同时就具体承诺及相关措施开展深入研讨。

本阶段的第一稿仅列出主要承诺和措施,内容较为宏观宽泛,原因如下:

1. 我们首先致力于就《准则》的结构、承诺和措施达成广泛共识;

2. 时间有限,无法在第一稿中对所有相关问题进行充分考量并提出详细建议;

3. 我们将持续根据最新进展及参与方反馈更新《准则》内容。特别是,本《准则》草案预计将在后续版本中进一步细化,必要时进行补充或调整。

经过工作组内部迭代讨论及利益相关方补充反馈后,未来可能会新增、删除或修改部分承诺和措施。为让各方更清晰了解我们的研讨方向,我们列出了一些开放性问题,重点标注了未来版本中计划推进的领域,并结合欧盟调查中的相关问题征求意见。这也有助于引导反馈意见的提交,使各利益相关方能够持续有效参与。

当前草案中需进一步完善、计划在未来版本中解决且需利益相关方提供具体意见的内容如下:

第一工作组(《准则》第1节):

• 人工智能生成软件代码(作为特定类型的人工智能生成文本)标记可行方法的技术考量。

• 其他具有挑战性的内容类型(如极短文本)标记可行方法的技术考量,因为标记此类内容可能会大幅降低其质量和/或实用性,或需设定阈值以应对这些限制。

• 现有拟议措施对智能体人工智能、游戏、虚拟现实、语音助手及其他新型人工智能生成内容的适用性,或是否需要制定新措施的技术考量。

• 第1节中措施2.1和3.4的实施相关技术考量,特别是共享聚合验证工具的创建。

• 对第1节术语表中术语定义清晰度的反馈。

第二工作组(《准则》第2节):

• 关于通用图标及其纯音频形式的反馈,以作为临时和长期互动解决方案,方便自然人快速识别。相关反馈可包括已实施的最佳实践图标,以及关于公民在有无标签情况下对人工智能内容识别能力的学术研究(涵盖《人工智能法案》第50条第4款),或类似标记实践(如广告标记)的相关研究,包括眼动追踪研究、实验、调查、焦点小组或其他定性研究。

• 需要更多反馈,尤其是纯音频标记的技术解决方案、人工智能生成或篡改内容的具体互动展示功能及标记系统相关反馈。

• 尽管我们已尝试在不同形式内容的措施中纳入利益相关方的意见,但这些措施仍需进一步完善。我们不仅寻求总体层面的反馈,也欢迎关于图标放置位置及特定形式内容相关决策的意见,创意作品相关反馈也在此列。

在制定本第一稿时,我们主要遵循《人工智能法案》中与《准则》适用范围相关的规定。因此,除非《准则》中的上下文和定义另有说明,否则《准则》中使用的术语应与《人工智能法案》中的解释一致。关键定义的适用范围及义务豁免相关问题未在本草案中涉及,这些内容将由欧盟委员会同时制定的《人工智能法案》第50条指南涵盖。

《准则》当前草案的完善还需要更多时间进行外部和内部咨询及研讨。作为独立的主席和副主席团队,我们致力于确保这一过程对利益相关方透明开放,尽早分享我们的工作和思路,同时预留充足时间在工作组内部协调讨论关键问题。我们期待各方继续积极协作并提供建设性反馈。

我们邀请利益相关方审阅本文件并提供反馈,以助力制定《准则》第二版,该版本将在促进欧盟人工智能生成内容透明度方面发挥关键作用。欢迎《准则》全体会议参与者和观察员在2026年1月23日(欧洲中部时间22:00)前通过面向《准则》参与者的欧盟调查提交书面反馈。

我们热切期待1月的下一次利益相关方会议及收到的反馈,这将帮助我们确保《准则》始终忠实于《人工智能法案》相关条款的总体目标,即使自然人能够更便捷、有效地识别和区分人工智能生成及篡改内容。

感谢您的参与和支持!

第1节:适用于人工智能系统提供商的人工智能生成及篡改内容标记与检测规则(《人工智能法案》第50条第2款和第5款)


卡莉娜·邦切娃(Kalina Bontcheva)  第一工作组主席
迪诺·佩德雷斯基(Dino Pedreschi)  第二工作组副主席
克里斯蒂安·里斯(Christian Riess)  第一工作组副主席

目标

本《实践准则》(以下简称“《准则》”)的总体目标是改善内部市场运作,推广以人为本、可信的人工智能,同时确保高度保护《欧盟基本权利宪章》所载明的健康、安全和基本权利,包括民主、法治和环境保护,防范欧盟境内人工智能的有害影响,并根据《人工智能法案》第1条第1款支持创新。

为实现上述总体目标,本《准则》的具体目标如下:
a) 作为证明符合《人工智能法案》第50条第2款和第5款规定义务的指导性文件,但需明确遵守本《准则》并不构成符合这些义务的确凿证据。
b) 确保生成合成音频、图像、视频或文本内容的人工智能系统提供商遵守《人工智能法案》第50条第2款和第5款规定的义务,并使主管市场监督机构能够评估选择依据本《准则》证明其符合这些义务的人工智能系统提供商的合规情况。

序言

鉴于:
a) 信息生态系统的信任:签署方认识到,人工智能系统可生成大量合成内容,自然人越来越难区分人工智能生成内容与人类创作的真实内容,这影响了信息生态系统的完整性和可信度,并带来大规模虚假信息、操纵、欺诈、冒充和消费者欺骗等新风险。签署方认为,透明度是培养生态系统信任与完整性、确保人工智能系统保持可靠和可信的基础。
b) 标记技术解决方案的多层级方法:签署方认识到,在制定本《准则》时,对于包括通用人工智能系统在内的生成式人工智能系统,单一的主动标记技术不足以满足《人工智能法案》第50条第2款对有效性、互操作性、稳健性和可靠性的法律要求。因此,需要采用多层级方法——这一方法已被广泛认为是在四项法律要求之间取得合理平衡的最佳方式,同时也是根据公开咨询和专家利益相关方意见得出的最推荐标记方法。因此,应采用适当的标记技术组合以满足《人工智能法案》第50条第2款的要求,前提是对于输出形式在技术上可行,并考虑到在实施有效性、可靠性、稳健性和互操作性要求时可能存在的权衡,以及各类内容的特殊性和局限性、实施成本、相关标准和不断发展的技术水平。
c) 价值链协作:签署方认识到,需要制定切实可行的安排,适当开放检测机制,促进与价值链上其他参与方的合作,传播内容或核查其真实性和来源,使公众能够有效区分人工智能生成及篡改内容。同时作为生成式人工智能模型提供商的签署方认识到,其在价值链中扮演重要角色,可助力基于这些模型构建生成式人工智能系统的下游提供商合规。
d) 推进标记和检测技术创新:签署方认识到,确定最有效的标记和检测技术方法仍是一项不断发展的挑战。签署方认为,本节应鼓励生成式人工智能系统和模型提供商推进人工智能标记和检测技术及相关流程与措施的发展。签署方进一步认识到,若生成式人工智能系统或模型提供商能够通过其他方式证明其标记和检测技术符合《人工智能法案》第50条第2款的要求,且效率更高,则此类创新应得到认可,视为推动人工智能标记和检测技术的进步。
e) 与其他利益相关方的合作:签署方认识到,开发有效、稳健、可靠且具备互操作性的标记和检测技术解决方案需要投入时间和资源。他们认识到协作效率的优势,例如共享方法和/或基础设施,依赖开放标准及在模型层面实施或由其他第三方提供的标记技术。签署方还认识到,应使相关第三方和用户能够检测标记内容,并让公民社会、学术界的专家或普通代表及其他相关利益相关方参与理解技术解决方案。签署方认为,此类合作可包括签订协议共享技术解决方案相关信息,同时确保对敏感信息的适度保护,并遵守欧盟适用法律。签署方进一步认识到,与市场监督机构合作,促进生成式人工智能系统和模型提供商、研究人员、公民社会及监管机构之间的协作,以应对人工智能内容来源相关的新挑战和新机遇,具有重要意义。
f) 促进标准化:签署方认识到需要支持和推进开放标准及互操作性。他们认识到,考虑到实施挑战和该领域的快速发展,国际和欧洲标准化组织需要进一步努力制定此类标准。他们认识到,共享基础设施对于分摊成本和制定适应组织能力的分级要求至关重要。特别是,他们认识到需要进一步完善内容来源标记标准,以捕捉内容创作的来源链,记录人工智能系统执行的每一个创建或修改步骤。
g) 中小企业(SMEs)和中小型上市公司(SMCs)的比例原则:为兼顾生成式人工智能系统提供商在规模和能力上的差异,应允许中小企业和中小型上市公司(包括初创企业)以简化、相称的方式合规。

承诺1:人工智能生成内容的多层级标记

法律依据:《人工智能法案》第50条第2款及序言第133条和第135条

2. 生成合成音频、图像、视频或文本内容的人工智能系统(包括通用人工智能系统)提供商,应确保人工智能系统的输出结果以机器可读格式进行标记,并可被检测为人工生成或篡改内容。提供商应确保其技术解决方案在技术可行的范围内有效、互操作、稳健且可靠,同时考虑各类内容的特殊性和局限性、实施成本以及相关技术标准所反映的公认技术水平。

为履行《人工智能法案》第50条第2款规定的义务,即对包括通用人工智能系统在内的生成式人工智能系统的输出结果进行机器可读标记,签署方承诺对其在欧盟市场投放或投入使用的人工智能系统生成或篡改的文本、图像、视频、音频内容或其组合,采用主动标记技术的多层级方法。

只要在现有技术水平下,单一标记方法不足以有效遵守《人工智能法案》第50条的要求,且该方法适用于其人工智能系统生成或篡改的相应形式和类型的内容,签署方承诺实施此类多层级方法。

为履行本承诺,签署方承诺实施以下措施。

措施1.1:机器可读标记技术

签署方将实施标记技术,确保其生成式人工智能系统的输出结果按本承诺规定进行多层级机器可读标记。为提高稳健性,机器可读标记可引用来自不同层级的信息,例如,水印可引用元数据标识符,反之亦然。

标记技术可在价值链的不同阶段实施(如模型提供商层面),也可由第三方提供(如专注于透明度标记技术的提供商)。只要标记技术符合本节《准则》的要求,签署方可依赖此类技术解决方案。

子措施1.1.1:支持元数据嵌入的内容标记技术

如果内容以支持添加元数据信息的数据格式生成或导出(如图像、视频或文档文件),签署方将在元数据中添加内容来源信息和生成式人工智能系统的签名。元数据嵌入将说明人工智能系统执行的操作类型(如提示生成、编辑或创作),相关信息需进行数字签名。

子措施1.1.2:内容内嵌标记技术

签署方将确保人工智能生成或篡改内容嵌入不可见水印。该水印直接内嵌于内容中,难以与内容分离,且能承受对内容可能进行的常规处理。签署方将以技术上可行且经济合理的最佳方式实施水印。

签署方可在模型训练、模型推理过程中,或在人工智能模型或系统的输出结果中嵌入水印。向其他人工智能系统提供商提供人工智能模型的签署方,将在模型层面实施相关标记技术,以助力下游提供商合规。

子措施1.1.3:指纹识别或日志记录机制(必要时)

若措施1.1.1和1.1.2中的标记技术存在不足,签署方将建立并维护人工智能生成或篡改内容的指纹识别或日志记录机制,以核查输出结果是否由其生成式人工智能系统生成或篡改。例如,文本内容可采用直接日志记录,而视觉内容则更适合采用感知哈希或其他指纹识别方法。

措施1.2:特定形式内容的标记技术

子措施1.2.1:人工智能生成文本及其他无法安全嵌入元数据的内容的来源证书

对于无法安全嵌入元数据的内容,签署方将实施数字签名清单,使部署者能够获取其人工智能系统或模型生成或篡改的人工智能输出结果的认证版本,以正式保证内容来源。该来源证书将使部署者和最终用户能够向第三方证明内容是人工智能生成或篡改的,并将其与特定生成式人工智能系统或模型关联。

子措施1.2.2:多模态内容标记

签署方将确保其人工智能系统的多模态输出结果按措施1.1的规定进行标记。此外,他们将确保所采用的标记技术在不同形式之间保持同步,以便在仅更改或替换一种或部分形式时,仍可识别标记。

措施1.3:开源权重人工智能模型和系统的结构性标记

发布开源权重人工智能模型或系统的签署方,将在模型训练过程中在权重中编码实施结构性标记技术。这将有助于使用这些开源权重模型或系统构建生成式人工智能系统的第三方遵守措施2.2。

措施1.4:生成式人工智能模型层面的标记技术

为助力生成式人工智能系统的下游提供商合规,同时作为生成式人工智能模型提供商的签署方,将在模型投放市场前,对其模型生成或篡改的内容实施机器可读标记技术。

为降低成本、方便合规,建议包括中小企业和中小型上市公司在内的人工智能系统提供商签署方使用一个或多个已按本节《准则》相关措施对输出结果进行标记的生成式人工智能模型。然而,签署方有责任确保所有人工智能生成或篡改的输出结果均进行适当且合规的标记,尤其是多模态输出结果或组合多个生成式人工智能模型输出结果的情况。

措施1.5:机器可读标记的不可移除性

签署方将实施适当措施,保护人工智能生成或篡改内容上的标记及其他内在来源信号,具体包括:
a) 确保现有可检测标记得以保留,不被更改或移除,包括当此类内容作为输入并随后被其人工智能系统转换为新输出结果时;
b) 在其生成式人工智能系统或模型的可接受使用政策、条款和条件或随附文件中,禁止部署者或任何其他第三方移除或篡改标记。

措施1.6:来源链透明度

在技术可行的情况下,签署方将通过内容标记记录并嵌入从人工智能辅助或(部分)修改内容到完全人工智能生成内容的来源及来源链。为此,签署方将持续核查其人工智能系统输入内容的标记和来源信息。他们将在其人工智能系统中(包括人工智能和人类操作)添加或记录所有内容来源步骤,通过利用元数据或其他适当技术,在技术可行的情况下区分新增操作与先前操作,并记录和验证来源链。

同时鼓励签署方记录完全由人类创作的内容或完全由人类编辑的操作的来源信息,以增强所有内容的可信度,并方便核查其真实性和来源。

措施1.7:可感知标记功能(针对深度伪造内容及其他内容)

为助力生成式人工智能系统部署者履行《人工智能法案》第50条第4款规定的义务,即明确披露深度伪造内容及特定人工智能生成和篡改文本,提供生成式人工智能系统的签署方将在其系统界面中设置相关功能,并集成默认启用的选项,使部署者能够在输出结果生成后直接在内容中添加可感知标记或标签。

签署方将按照《准则》第2节的承诺和措施实施此类可感知标记和/或标签。

签署方还将实施支持标签和来源元数据显示的相关措施,使部署者、平台和网站能够根据其使用场景制定适当的显示做法和政策。

承诺2:人工智能生成内容标记的检测

法律依据:《人工智能法案》第50条第2款、第5款及序言第133条和第135条

2. 生成合成音频、图像、视频或文本内容的人工智能系统(包括通用人工智能系统)提供商,应确保人工智能系统的输出结果……可被检测为人工生成或篡改内容。

3. 第1款至第4款所述信息应最迟在首次互动或接触时,以清晰可辨的方式提供给相关自然人。该信息应符合适用的无障碍要求。

为履行《人工智能法案》第50条第2款规定的义务,确保其人工智能系统的输出结果可被检测为人工智能生成或篡改内容,签署方承诺实施以下措施,以便检测其人工智能系统或模型生成或篡改的文本、图像、视频、音频内容或其组合。

措施2.1:支持用户及其他第三方检测

签署方将免费提供接口(如应用程序编程接口或用户界面)或公开可用的检测器,使用户及其他相关方能够通过置信度分数核查内容是否由其人工智能系统或模型生成或篡改。对于包含其他人工智能系统提供商来源信息的标记和检测技术(如元数据中的信息),该接口还应披露完整的来源信息。

鼓励签署方与欧盟委员会及其他相关机构合作,将检测机制直接整合到分发和通信平台中,并在系统和模型的整个生命周期内维护这些机制。

若签署方停止经营,应将检测器提供给主管市场监督机构,以确保其人工智能系统或模型生成或篡改的遗留内容仍可被检测。

措施2.2:针对生成式人工智能模型已标记输出结果的检测器

为助力生成式人工智能系统的下游提供商合规,同时作为生成式人工智能模型提供商的签署方,将在模型投放市场前,提供其模型生成或篡改内容的检测机制。

措施2.3:法医检测机制

作为对承诺1中标记技术的补充,同时作为措施1.1.3的替代方案,可被下游生成式人工智能系统使用或整合的生成式人工智能模型提供商签署方,将实施不依赖主动人工智能标记的法医检测机制。

鼓励签署方与主管市场监督机构合作,并酌情与研究机构及其他相关利益相关方协作,支持开发聚合法医检测器,以检测欧盟市场上可用的生成式人工智能模型或整合到人工智能系统中的输出结果。

措施2.4:检测和验证结果的易理解性和无障碍披露

在技术可行的范围内,签署方将在其标记和检测解决方案的结果中,嵌入对检测和来源结果依据的通俗易懂解释。

如适用,签署方将确保检测机制的结果及相关用户界面符合欧盟法律规定的无障碍要求,方便残疾人使用。鼓励签署方实施任何可用的相关标准,包括但不限于协调标准ETSI EN 301 549《信息通信技术产品和服务无障碍要求》。

措施2.5:支持人工智能内容来源核查相关知识普及

签署方将提供文档、培训材料及其他相关信息,帮助部署者和其他用户就使用何种标记和验证工具做出明智决策,包括帮助他们了解如何获取和应用检测机制,以及如何解读来源数据和检测结果。

鼓励签署方与学术界、公民社会及其他相关组织合作,推广人工智能内容来源及核查相关的知识普及和认知提升。

本措施的实施应遵循比例原则,考虑提供商的规模和资源,尤其是中小企业和中小型上市公司的情况。

承诺3:满足标记和检测技术要求的措施

法律依据:《人工智能法案》第50条第2款及序言第133条

2. ……提供商应确保其技术解决方案在技术可行的范围内有效、互操作、稳健且可靠,同时考虑各类内容的特殊性和局限性、实施成本以及相关技术标准所反映的公认技术水平。

为履行《人工智能法案》第50条第2款规定的义务,确保所采用的人工智能生成或篡改内容标记和检测技术解决方案在技术可行的范围内有效、稳健、可靠且具备互操作性,同时考虑各类内容的特殊性和局限性、实施成本以及公认的技术水平,签署方承诺以平衡的方式遵守这些要求,并确保满足所有要求,具体措施如下。

签署方承诺在其生成式人工智能系统或模型投放市场或投入使用前,以及在其整个生命周期内,实施相关措施并满足要求。

措施3.1:有效性

签署方将实施符合用途的技术标记和检测解决方案,能够有效说明内容的人工来源,并有助于维护信息生态系统的完整性。为此,签署方将实施计算高效、成本低廉、支持实时应用的标记和检测解决方案,在不影响人工智能模型或系统功能且力求环境可持续性的前提下,确保生成内容的质量。

措施3.2:可靠性

签署方将实施符合技术水平的可靠标记和检测解决方案。特别是关于人工智能生成或篡改内容检测的准确性,可靠性将通过相关既定指标衡量,如检测的假阳性/阴性率以及解码标记信息的误码率(如适用)。需在人工智能模型或系统训练和开发过程中未见过的人工智能生成和人类创作内容样本上,证明其低假阳性和假阴性率。

措施3.3:稳健性

签署方将实施具有高度稳健性的标记和检测解决方案,能够抵御常见修改和对抗性攻击。常见修改包括镜像、裁剪、压缩、截屏、释义、字符删除、图像或视频分辨率调整、音调偏移、时间拉伸或格式转换等常规处理操作。签署方将评估标记抵御复制、移除、重新生成、修改和摊销攻击等对抗性攻击的安全稳健性。在提供检测器或检测接口时,签署方将采用速率限制等标准安全措施,防止和应对针对标记和检测机制的恶意使用和攻击。

措施3.4:互操作性

签署方将实施适用于各类分发渠道和技术环境的人工智能生成或篡改内容标记和检测技术解决方案,不受应用领域或场景限制。

自行开发标记和检测解决方案的签署方,将协作创建共享聚合验证工具,以检测其生成式人工智能系统或模型的输出结果。或者,他们将实施其他适当措施,在输出结果或其元数据中直接编码检测和验证机器可读标记的方法信息,确保检测方法在各提供商之间具备互操作性,并方便用户获取。

鼓励包括中小企业和中小型上市公司在内的签署方采用国际和欧洲标准化组织制定的相关内容标记标准及广泛认可的开放技术标准,以促进互操作性和广泛采用,并降低合规成本。

鼓励签署方加入和/或支持国际及欧洲标准化组织或论坛,以及致力于制定本节《准则》所设想措施相关标准(特别是内容来源标准及支持可控更新、撤销或替换且不损害任何潜在内在来源信号的水印标准)的联盟倡议。

措施3.5:推进标记和检测技术发展

根据自身能力和资源,签署方将投入科研力量,与研究人员、公民社会组织及其他相关利益相关方合作,推进人工智能生成和篡改内容标记和检测机制的技术发展。

特别是,鼓励签署方合作开发支持可控更新、撤销或替换且不降低原始输出质量的水印方案,以及未来的法医模型和指纹识别技术。

承诺4:测试、验证与合规

法律依据:《人工智能法案》第50条第2款、第5款及序言第133条

为有效履行并证明符合《人工智能法案》第50条第2款、第5款的义务以及本节《准则》规定的承诺和措施,签署方将制定、更新并实施测试、验证和合规框架,具体措施如下。

措施4.1:合规框架

签署方将根据技术发展水平,制定、实施并更新合规框架,明确标记和检测流程以及为确保遵守本节《准则》的承诺和措施而实施的相关举措。

该框架将简要说明为遵守本节《准则》而实施和计划实施的流程及措施,并维护相关文档,应主管市场监督机构要求提供。

本措施的实施应遵循比例原则,考虑提供商的规模和资源,尤其是中小企业和中小型上市公司的情况。

若签署方依赖第三方提供的或在生成式人工智能模型层面实施的标记和检测解决方案,应确保这些第三方承担相关责任,并承诺证明其符合本节《准则》及《人工智能法案》第50条第2款和第5款的要求。

措施4.2:测试、验证与监控

在投放市场前及之后定期,签署方将在实际场景中测试其标记和检测解决方案是否符合本节《准则》规定的要求和措施,必要时可邀请独立专家参与和/或在监管监督下的人工智能监管沙盒中进行。

在测试和评估过程中,签署方将参考可用的基准及其他测量和测试方法,包括人工智能办公室与人工智能委员会合作开发或认可的基准和框架。此类基准应根据技术发展水平更新,并反映真实的修改和对抗场景。

为确保标记和检测解决方案具有前瞻性,签署方将实施自适应威胁建模方法,超越通用稳健性基准,定义真实且特定于使用场景的威胁场景(如重新压缩、转码、语音转语音重录),以支持开发自适应防御机制。他们还将跟踪实际场景中的性能下降情况,更新检测器以保持低假阳性率,同时确保可检测性。

签署方将对部署者、独立研究人员及其他第三方报告的故障、对抗性攻击和合规缺陷案例,制定并记录适当的后续行动。

措施4.3:培训

签署方将为参与人工智能系统和模型设计、开发及合规监督的人员提供适当培训,确保本节《准则》规定的措施得到有效实施。本措施的实施应遵循比例原则,考虑提供商的规模和资源,尤其是中小企业和中小型上市公司的情况。

措施4.4:与市场监督机构的合作

签署方将与主管市场监督机构合作,证明其遵守《准则》规定的承诺,并提供所有相关信息及系统访问权限。

术语表

本节中凡提及《人工智能法案》第3条定义的术语,均适用《人工智能法案》中的定义。本节《准则》使用的以下术语含义如下。除非另有说明,本术语表中定义术语的所有语法变体均适用相关定义。
第2节:适用于人工智能系统部署者的深度伪造内容及人工智能生成与篡改文本标记规则(《人工智能法案》第50条第4款和第5款)

安雅·贝希曼(Anja Bechmann)  第二工作组主席
乔瓦尼·德·格雷戈里奥(Giovanni De Gregorio)  第二工作组副主席
马达利娜·博坦(Madalina Botan)  第二工作组副主席

目标

本《实践准则》(以下简称“《准则》”)的总体目标是改善内部市场运作,推广以人为本、可信的人工智能,同时确保高度保护《欧盟基本权利宪章》所载明的健康、安全和基本权利,包括民主、法治和环境保护,防范欧盟境内人工智能的有害影响,并根据《人工智能法案》第1条第1款支持创新。

为实现上述总体目标,本节《准则》的具体目标如下:
a) 作为证明符合《人工智能法案》第50条第4款和第5款规定的生成式人工智能系统部署者义务的指导性文件,但需明确遵守本《准则》并不构成符合《人工智能法案》相关义务的确凿证据。
b) 确保生成或篡改构成深度伪造内容的图像、音频或视频,或生成以向公众通报公共利益相关事项为目的的文本的人工智能系统部署者,遵守《人工智能法案》第50条第4款和第5款规定的义务,并使主管市场监督机构能够评估选择依据本《准则》证明其符合《人工智能法案》相关义务的部署者的合规情况。

序言

鉴于:
a) 检测与披露:签署方认识到,生成式和操纵性人工智能系统的技术进步可增强人工智能生成或篡改内容的真实性和说服力,因此透明度机制对于维护公众信任和民主讨论至关重要。能够生成或篡改与现有人员、物体、场所、实体或事件高度相似的图像、音频或视频内容的人工智能系统,可能会产生看似真实可信的内容,给个人和民主带来特定风险。此外,生成或篡改以向公众通报公共利益相关事项为目的的文本的人工智能系统,也应向自然人披露相关情况。明确、清晰地披露此类内容的人工生成或篡改属性,是降低欺骗和声誉损害风险、维护公共利益层面信任的必要保障。
b) 传播场景:签署方认识到,作为生成或篡改内容的人工智能系统部署者,其有责任对输出结果进行相应标记,并根据传播场景以适当方式披露其人工生成或篡改属性。这些责任是对提供商根据《人工智能法案》第50条第2款实施的技术解决方案的补充,有助于提升人工智能价值链的透明度和信任度。透明度措施应在欧盟范围内易于使用,以增强公众区分人工智能生成或篡改内容的能力,并支持信息生态系统的韧性。
c) 艺术创作:签署方强调,若人工智能生成或篡改内容属于明显的艺术、创意、讽刺、虚构或类似作品,则透明度要求的实施应遵循比例原则。因此,披露此类人工智能生成或篡改内容的存在时,应避免影响作品的展示、欣赏、正常利用或创意质量,同时维护《欧盟基本权利宪章》所载明的第三方权利和自由的适当保障。
d) 无障碍性:签署方强调确保披露方式对用户无障碍的重要性,尤其是考虑到不同用户的需求和脆弱性。标记的设计应确保残疾人能够轻松感知和理解,例如为屏幕阅读器提供替代文本、为视障用户提供音频披露、为听障用户提供手语或带字幕的披露,以及确保足够的颜色对比度和可读性。
e) 人工智能素养:签署方认识到,明确披露人工智能生成或篡改内容对于提高个人意识和人工智能素养至关重要。提高公众对人工智能生成或篡改内容及检测工具的认知和透明度,可进一步增强个人区分合成内容的能力,从而提升本《准则》所规定透明度措施的实际效果。
f) 欧盟及国家法律规定的额外保障:签署方认识到,透明度义务与欧盟相关法律(包括数据保护、消费者保护、数字服务(《数字服务法案》)、知识产权、媒体(《视听媒体服务指令》和《欧洲媒体自由法案》)、政治广告等领域的法律)及国家法律规定的其他法律责任并行适用,而非替代这些责任。

A部分:一般承诺

法律依据:《人工智能法案》第50条第4款、第5款及序言第133条和第135条

4. 生成或篡改构成深度伪造内容的图像、音频或视频的人工智能系统部署者,应披露该内容为人工生成或篡改。但用于法律授权的检测、预防、调查或起诉刑事犯罪的情况除外。若该内容属于明显的艺术、创意、讽刺、虚构或类似作品或节目,则本款规定的透明度义务仅限于以适当方式披露此类生成或篡改内容的存在,且不得影响作品的展示或欣赏。

生成或篡改以向公众通报公共利益相关事项为目的的文本的人工智能系统部署者,应披露该文本为人工生成或篡改。但用于法律授权的检测、预防、调查或起诉刑事犯罪的情况,或人工智能生成内容经过人工审核或编辑控制且由自然人或法人对内容发布承担编辑责任的情况除外。

5. 第1款至第4款所述信息应最迟在首次互动或接触时,以清晰可辨的方式提供给相关自然人。该信息应符合适用的无障碍要求。

承诺1:基于通用分类法和图标的人工智能生成及篡改内容来源披露

为履行《人工智能法案》第50条第4款规定的义务,作为生成深度伪造内容或发布《人工智能法案》第50条第4款和第2条第1款所涵盖文本的人工智能系统部署者,签署方承诺采用一致的来源披露方式,并使用以下措施规定的通用分类法和图标。

措施1.1:实施通用分类法

签署方将使用通用分类法,支持对《人工智能法案》第50条第4款所涵盖内容进行一致、透明的识别,该分类法提供统一词汇表,作为区分触发《人工智能法案》第50条第4款披露义务内容的指导工具。

为向接触内容的自然人提示欺骗性元素的程度,签署方将使用通用分类法对符合《人工智能法案》第50条第4款规定的深度伪造内容或人工智能生成或篡改文本进行分类,特别是区分以下内容类别:

完全人工智能生成内容:指完全由人工智能系统自主生成、无人类创作真实内容的内容(如基于系统提示完全由人工智能生成的图像、视频或音频;以向公众通报公共利益相关事项为目的的人工智能生成书籍、文章或其他内容,包括旨在说服他人的政治或社会议题相关文本)。

人工智能辅助内容:指人类与人工智能共同参与创作的内容,其中人工智能辅助的图像、音频或视频生成或修改会影响内容的含义、事实准确性、情感基调或其他可能看似真实可信的元素;或对于以向公众通报公共利益相关事项为目的发布的人工智能生成或篡改文本,其中人工智能系统对文本内容产生重大影响。为本措施之目的,生成或修改内容可包括但不限于:

• 移除物体;

• 替换或修改面部/声音;

• 在现有人类创作文本或真实图像中添加人工智能生成或篡改文本;

• 混合深度伪造音频和真实音频的混合音频格式、重大视觉或音频修改(包括改变感知年龄和/或情感基调的美颜滤镜);

• 人工智能重写或总结人类创作文本;

• 模仿特定人员风格的人工智能生成文本;

• 人工智能辅助修改事件描述、参与者、论点或解读;

• 看似微小但改变内容背景的人工智能修改(如降噪处理使受访者看似处于不同环境)、修改背景信息的编辑操作;或改变上下文含义的颜色调整(如肤色调整)。

措施1.2:为人工智能生成及篡改内容使用通用图标

签署方将使用通用图标披露深度伪造内容及人工智能生成和篡改文本。图标应放置在与内容格式和传播场景相适应的可见且一致的位置。

子措施1.2.1:欧盟通用图标制定前的过渡安排

在欧盟通用图标最终确定前,签署方可使用过渡图标支持一致披露,该图标采用代表人工智能的双字母缩写,也可使用欧盟成员国语言的对应翻译缩写(如AI、KI、IA),附录1中的示例图标可供参考。

过渡图标应满足以下要求:

• 在首次接触时清晰可见;

• 放置在与内容格式和传播场景相适应的位置;

• 实施方式不得影响艺术、创意、讽刺或虚构作品的欣赏;

• 包含措施1.1规定的两级分类法。

不同内容形式的图标使用和放置的具体细节见B部分和C部分。

子措施1.2.2:欧盟通用图标

签署方承诺支持开发通用交互式欧盟图标,该图标将在可用性测试和互操作性要求基础上进一步完善。该图标应满足以下要求:

• 设计应能够体现措施1.1分类法中规定的不同程度欺骗性内容;

• 支持自然人通过互动获取人工智能生成或篡改内容的具体信息,与《人工智能法案》第50条第2款和本《准则》第1节规定的标记所提供的机器可读信息保持一致;

• 采用代表人工智能的双字母缩写,也可使用欧盟成员国语言的对应翻译缩写(如AI、KI);

• 放置在与内容格式和传播场景相适应的固定位置;

• 实施方式不得影响艺术、创意、讽刺或虚构作品的欣赏;

• 可包含交互式音频披露功能,适用于纯音频内容及无障碍需求,并符合适用的无障碍要求。

签署方将支持欧盟层面推动的通用交互式欧盟图标的开发进程。

承诺2:合规、培训与监控

为有效履行并证明符合《人工智能法案》第50条第4款的义务以及本节《准则》规定的承诺和措施,签署方将制定、实施并更新合规和监控文档(与部署者的规模和资源相适应),并建立与主管机构的合作机制,具体措施如下。

措施2.1:内部合规

签署方承诺制定、更新并实施内部合规文档,明确其标记做法(即如何应用标记要求,包括措施1.2中的图标),并提供具体使用示例。

该合规流程将整合本节《准则》B部分和C部分关于深度伪造内容及人工智能生成和篡改文本的特定合规措施。

措施2.2:培训

签署方将为参与《人工智能法案》第50条第4款所涵盖内容创建、修改或分发的人员提供适当培训。培训内容至少应包括:

• 法律要求披露的情形;

• 如何应用分类法和图标(如使用);

• 了解艺术和创意作品的特定披露做法,以及文本发布例外情形中关于人工审核和编辑责任要求的应用;

• 披露相关的适用无障碍要求;

• 纠正缺失或不正确披露的程序。

培训应与签署方的规模、资源以及其使用的人工智能系统生成或篡改内容相关的风险相适应,同时考虑内容的传播场景、范围及其潜在影响。

措施2.3:监控与市场监督机构合作

签署方将为第三方和自然人提供保密、安全的渠道,以举报标记不当或未标记的深度伪造内容及与公共利益相关的人工智能生成和篡改文本。

具体而言,签署方承诺与主管市场监督机构及其他有兴趣了解和/或评估内容是否已适当标记的第三方充分合作。其他第三方包括媒体监管机构、中介服务提供商(包括《数字服务法案》定义的超大型在线平台和超大型在线搜索引擎)、经认证的独立事实核查组织(如欧洲事实核查网络(EFCSN)和国际事实核查网络(IFCN)成员)。

相关解决方案应允许签署方证明其标记工作一致、及时,并对报告的不合规情形采取后续行动,包括协助在欧盟成员国范围内举报未标记或标记不当的深度伪造内容及人工智能生成和篡改文本。

一旦内容被举报并经评估确认为标记不当或应标记而未标记,签署方应立即纠正缺失或不正确的图标或标签。

承诺3:确保所有自然人可无障碍获取披露信息

签署方承诺确保带有相关标签的图标具备无障碍性,并符合欧盟法律规定的适用无障碍要求。签署方承诺自行或协助其产品或服务受此类要求约束的相关方,遵守适用的无障碍要求。

措施3.1:深度伪造内容及人工智能生成或篡改文本标记的无障碍性

必要时,签署方将遵循最新无障碍协议、程序和技术标准,为参与内容创建、分发或监督的相关方提供适当的技术和组织措施支持。特别是,视觉图标应符合对比度、尺寸和屏幕阅读器标准,并为视障用户提供音频提示。签署方将提供:

• 视觉指示的音频描述;

• 纯音频内容的视觉/触觉提示;

• 高对比度图标及屏幕阅读器兼容性。

如相关,签署方将确保标签支持屏幕阅读器,并提供替代形式(如替代文本、元数据)。

签署方将对适用的无障碍要求进行自我评估,或使用经评估符合这些要求的欧盟通用图标或其他标准化图标。

为遵守本措施,鼓励签署方支持实施任何可用的相关标准,包括但不限于协调标准ETSI EN 301 549《信息通信技术产品和服务无障碍要求》。

B部分:深度伪造内容的特定承诺和措施

法律依据:《人工智能法案》第50条第4款、第5款及序言第134条和第135条

4. 生成或篡改构成深度伪造内容的图像、音频或视频的人工智能系统部署者,应披露该内容为人工生成或篡改。但用于法律授权的检测、预防、调查或起诉刑事犯罪的情况除外。若该内容属于明显的艺术、创意、讽刺、虚构或类似作品或节目,则本款规定的透明度义务仅限于以适当方式披露此类生成或篡改内容的存在,且不得影响作品的展示或欣赏。

5. 第1款至第4款所述信息应最迟在首次互动或接触时,以清晰可辨的方式提供给相关自然人。

本B部分规定的“深度伪造内容”特定承诺和措施,是对本节《准则》A部分一般承诺和措施的补充。

承诺4:深度伪造内容披露的特定措施

为履行《人工智能法案》第50条第4款和第5款关于深度伪造内容的义务,签署方承诺实施以下措施,正确分类“深度伪造内容”,并确保披露清晰、可辨且及时。

措施4.1:深度伪造内容一致分类的内部流程

签署方将建立并实施内部流程,以一致的方式识别深度伪造图像、音频、视频内容,应用《人工智能法案》第3条第60款中“深度伪造”的定义,并确定是否适用相关例外情形(如执法用途)或内容是否属于艺术、创意、讽刺和虚构作品。

他们将考虑内容的目标受众、所使用分发渠道的特点及其他相关因素。

签署方将确保深度伪造内容标记流程不仅基于自动化技术,还辅以适当的人工监督。

措施4.2:深度伪造内容的清晰可辨披露

根据《人工智能法案》第50条第5款的义务,签署方将最迟在首次接触时,通过以下针对不同内容形式和多模态内容的子措施,以清晰可辨的方式披露深度伪造内容。

子措施4.2.1:实时视频

对于实时深度伪造视频,签署方将在可行的情况下,在整个接触过程中以非侵入性方式持续显示图标。

此外,签署方将在接触开始时插入免责声明,说明所显示内容包含深度伪造元素。该免责声明的显示时长应足够让用户感知。

子措施4.2.2:非实时视频

对于非实时深度伪造视频,签署方将通过图标披露视频包含深度伪造元素。签署方可根据场景需要,单独或组合采用以下披露方式:

• 在接触开始时插入免责声明。若为口头免责声明,图标需与音频披露同步显示;

• 在整个接触过程中,将图标持续放置在适当的固定位置,确保自然人无需额外操作即可清晰看到披露信息。对于在线平台,应将图标始终放置在视频帧外的用户界面或界面覆盖层中;

• 在视频结尾的字幕中加入免责声明。本措施需与上述三种方式中的一种结合使用。

子措施4.2.3:其他多模态内容

对于其他多模态深度伪造内容,签署方将通过图标持续披露其中包含的深度伪造元素,确保自然人无需额外操作即可清晰看到披露信息。

其他多模态内容包括但不限于以下静态或动态内容组合(不包括措施4.2.1和4.2.2涵盖的内容):

• 图像-文本-声音;

• 文本-声音;

• 图像-声音;

• 图像-文本。

子措施4.2.4:图像(单一形式)

对于深度伪造图像,签署方将在每次接触时,将通用图标一致放置在固定位置。图标应清晰可辨,与图像本身有明显区分,不得隐藏在图像图层或多重背景中。

子措施4.2.5:音频(单一形式)

对于时长不足30秒的纯音频深度伪造内容(如商业广告),签署方将在内容开头加入简短的音频免责声明,以简洁明了的自然语言披露该深度伪造音频的人工生成属性。

对于播客等较长音频形式,签署方将在内容开头、中间和结尾重复播放音频免责声明。

若用户与音频互动时可使用屏幕(如汽车或智能手机显示屏),签署方还应在自然人首次接触或初始访问音频内容时显示图标。

若欧盟通用图标(一旦确定)包含纯音频解决方案,则可替代自然语言免责声明。

措施4.3:创意作品的适当披露

对于属于明显艺术、创意、讽刺、虚构或类似作品或节目的深度伪造内容,签署方将以适当方式披露此类深度伪造元素,不得影响作品的展示或欣赏(包括其正常利用和使用),同时保持作品的实用性和质量,并为第三方的权利和自由提供适当保障。

签署方将把承诺2中的图标放置在非侵入性位置。非侵入性位置包括但不限于以下情形:

• 实时或近实时视频:最迟在首次接触时,将图标放置在顶部或底部角落,显示至少五秒,后续接触过程中无需重复提示;

• 视频:图标显示时长应足以让观众在首次接触时获知相关信息,且不会显著影响观看体验;

• 其他多模态内容:最迟在首次接触时显示图标,确保自然人无需额外操作即可清晰看到披露信息;

• 图像:最迟在首次接触时,将图标放置在适当位置,可嵌入图像或图像背景中,但需保证用户能够识别图标;

• 音频:若有屏幕可用,最迟在接触开始时将图标放置在适当位置即可,无需在内容开头加入音频免责声明;若无屏幕可用,最迟在首次接触时插入非侵入性音频免责声明,此类非侵入性音频免责声明可包括但不限于采用与内容相同语言的口头披露、节奏提示或基于声音的信号等潜在欧盟通用音频免责声明。

若内容属于明显艺术、创意、讽刺、虚构或类似作品或节目,签署方将为第三方的权利和自由提供适当保障。第三方包括被描绘或模拟的人员,以及若深度伪造内容涉及政治或社会敏感话题时的更广泛受众。保障措施包括但不限于对欺骗性元素的免责声明,以及欧盟和成员国其他相关法律规定的要求,特别是避免侵犯被描绘或模拟人员的隐私、尊严及其他基本权利和自由。

C部分:人工智能生成和篡改文本的特定承诺和措施

法律依据:《人工智能法案》第50条第4款、第5款及序言第134条和第135条

4. 生成或篡改以向公众通报公共利益相关事项为目的的文本的人工智能系统部署者,应披露该文本为人工生成或篡改。但用于法律授权的检测、预防、调查或起诉刑事犯罪的情况,或人工智能生成内容经过人工审核或编辑控制且由自然人或法人对内容发布承担编辑责任的情况除外。

5. 第1款至第4款所述信息应最迟在首次互动或接触时,以清晰可辨的方式提供给相关自然人。

本C部分规定的人工智能生成和篡改文本特定承诺和措施,是对本节《准则》A部分一般承诺和措施的补充。

承诺5:人工智能生成和篡改文本披露的特定措施

为履行《人工智能法案》第50条第4款和第5款关于人工智能生成和篡改文本的义务,签署方承诺实施以下措施,正确识别所有以向公众通报公共利益相关事项为目的发布、未经人工审核且无自然人或法人承担编辑责任的人工智能生成和篡改文本(以下简称“人工智能生成和篡改文本发布内容”),并确保披露清晰、可辨且及时。

措施5.1:人工智能生成和篡改文本的内部流程

签署方将建立并实施内部流程,以一致的方式正确识别人工智能生成和篡改文本发布内容,考虑内容的目标受众和所使用分发渠道的特点,并确定是否适用法律例外情形(如执法用途或经人工审核/编辑控制且有人承担编辑责任的情况)。

签署方将确保人工智能生成和篡改文本发布内容的标记流程不仅基于自动化技术,还辅以适当的人工监督。

措施5.2:清晰可辨的披露

根据《人工智能法案》第50条第5款的义务,签署方将最迟在首次接触时,以固定、清晰可辨的方式披露人工智能生成和篡改文本发布内容:

签署方承诺将图标放置在固定、清晰可辨的位置,包括但不限于文本顶部、文本旁、版权页或文本结尾句之后。

措施5.3:人工审核、编辑控制与责任

为适用《人工智能法案》第50条第4款第2项的例外情形,避免披露人工智能辅助文本发布内容,签署方将建立内部程序并保留最低限度的文档,证明人工智能生成和篡改文本发布内容已经过人工审核或编辑控制,且有自然人或法人承担编辑责任。

相关程序和文档应与部署者的规模相适应,至少包含以下要素:

• 明确承担编辑责任的自然人或法人的身份信息(姓名、职务和联系方式);

• 概述为确保人工智能生成和篡改文本发布内容在发布前经过充分人工审核或编辑控制而采取的具体组织和技术措施,以及分配的人力资源,包括考虑相关国家特殊性(如可能影响解读或影响的语言、文化或特定场景因素);

• 审核和批准日期;

• 内容最终批准版本的参考信息(如文件名、统一资源定位符或其他内部标识符)。

在不造成行政负担的前提下,签署方可选择记录额外信息,如审核性质或人工智能参与类型。

附录

附录1:示例图标

本附录提供过渡图标和交互式欧盟通用图标的设计思路。

免责声明:这些示例图标仅用于说明目的,将在《准则》制定过程中进一步完善。

带有人工智能缩写的两级分类法图标:
为支持一致披露,应使用代表人工智能的双字母缩写,也可反映欧盟成员国语言的对应翻译(如AI、KI、IA)。
图1:2025年12月ChatGPT免费版上的零样本提示生成的图标,其中“AI”字样采用两种不同颜色,分别表示完全自动化生成和人工智能辅助生成的内容。
图2:在人工智能生成照片右下角包含“AI”字样的圆形图标。
图3:由Artifact工作室设计的图标,通过颜色和缩写标识内容是完全人工智能生成还是人工智能辅助生成(此处AI-H代表人工智能-人类协作生成,人类创作内容标识与第50条第4款无关)。右侧图片展示了AI-H图标的互动功能,可显示内容的具体修改信息。
来源:《快公司》(Fastcompany)- https://www.fastcompany.com/90903238/simple-icon-it-easy-to-spot-ai-generated-content。

点击或悬停图标时的互动功能,可显示人工智能生成或篡改的具体内容:

对于人工智能辅助生成内容,互动功能将利用《人工智能法案》第50条第2款的机器可读信息,说明内容的人工智能生成或篡改部分。
图4:Adobe设计的图标,可嵌入特殊元数据或“内容凭证”——其中也可包含人工智能篡改或生成的相关信息。

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/190679