(一)核心概念界定
1. 人工智能(artificial intelligence)、人工智能技术(artificial intelligence technology)
指基于机器的系统,该系统能够针对一组给定的人类定义目标,对真实或虚拟环境进行预测、提出建议或做出决策,并且能够利用机器和人类输入来感知真实和虚拟环境,通过自动化分析将此类感知抽象成模型,并利用模型推理来制定信息或行动方案。该定义包括但不限于使用机器学习、大型语言模型、自然语言处理和计算机视觉技术的系统,包括生成式人工智能。
2. 生成式人工智能(generative artificial intelligence)
指一类人工智能模型,该类模型具有自监督能力,能够模拟输入数据的结构和特征来生成衍生合成内容,包括但不限于图像、视频、音频、文本和其他数字内容。
3. 合成表演者(synthetic performer)
指利用计算机,通过生成式人工智能或软件算法创建、复制或修改的数字资产,其目的是使人误以为该资产正在进行视听和/或视觉表演,而该表演者并非任何可识别的自然表演者。
4. 深度伪造(deep fake)
指由人工智能生成或经其处理的图像、音频或视频内容,这些内容与真实存在的人员、物体、地点、实体或事件相似,并会使人误以为其真实可信。
5. 表达性作品(expressive works)
包括但不限于电影、电视节目、流媒体内容、纪录片、电子游戏或其他类似视听作品。
(二)合规要点提示
依据欧盟及美国相关法规要求,如商家在商品展示或营销宣传中使用AI工具生成或修改内容,需确保满足销售目的国家/地区的要求,包括但不限于:
1. 在适用情形下履行信息披露义务
使用AI工具生成的内容时,须以清晰、易懂且可区分的方式向消费者进行显著披露。具体披露形式需符合相关法律要求。
(1)合成表演者(Synthetic Performer)
商家使用AI生成的合成表演者进行推广时,须依照法律要求进行显著披露。但该要求暂不适用于以下情形:
①仅展示真人(即使已使用AI工具进行修改);
②表达性作品的广告及宣传材料(前提是对该合成表演者的使用与相应表达性作品一致)。
(2)生成式图像/视频/音频
若AI生成的图像、视频或音频可能使消费者误以为是真实存在的人物、物体、地点或事件,或可能显著影响消费者对商品或服务的经济行为,针对这类情形,必须显著标注其中存在AI生成内容。
2. 禁止误导性商品宣传
(1)禁止深度伪造或冒充专业人士进行商品推荐
禁止利用AI技术生成真人数字模型(Avatar)或通过深度伪造(Deep Fake)篡改视频,冒充名人、公众人物或医疗专业人士等,使消费者误以为已有特定专业人士亲自体验商品或针对商品提供推荐意见。
(2)禁止虚构或夸大商品功能/功效等虚假宣传
AI生成的内容必须真实反映产品实际状况,禁止出现AI生成的宣传图与实际到货产品属性明显不符的情况,也禁止利用AI工具对商品功能或功效进行不合理夸大。
3. 禁止不合规商品宣传
(1)禁止生成违反基本自然规律的宣传内容
禁止使用明显违背一般常理认知及基本自然规律的AI生成内容(如明显错误的人体结构图)。
(2)禁止恐惧施压营销
禁止使用AI工具生成恐怖、令人震惊或引发恐惧的图像/视频,向用户施压以促使其购买健康或保健产品。