社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  chatgpt

被ChatGPT“复制”声音 “寡姐”嘉丽·约翰逊发声明

银幕穿越者 • 1 月前 • 70 次点击  

斯嘉丽·约翰逊

当地时间5月20日,被影迷称为“寡姐”的好莱坞女演员斯嘉丽·约翰逊近日发布了一篇声明,指控OpenAI的ChatGPT非法使用其声音,同时要求将语音下架。

上周,OpenAI发布了最新旗舰模型GPT-4o,引爆科技圈。在发布会上,OpenAI展示了ChatGPT最新语音功能,不少人发现,其富有表现力的合成声音Sky与《她》中斯嘉丽饰演的AI助手的声音惊人地相似,这引发了激烈的讨论。

斯嘉丽声明称,2023年9月,ChatGPT推出语音模式时,OpenAI曾找过她希望为其配音,但由于个人原因拒绝。就在GPT-4o演示前两天,OpenAI还曾试图说服斯嘉丽,但在联系上之前,新模型就已发布。基于此,斯嘉丽的法律团队此前已向OpenAI发送两封声明,要求该公司详细说明其开发这种声音的过程。

由于斯嘉丽的指控,OpenAI在当地时间5月19日发表声明宣布暂停使用这款AI声音模板。同时,作为回应,该公司也公布了ChatGPT中5个配音的详细创作流程,称这是从400多名专业配音和演员中挑选出来的。

实际上,这已经不是OpenAI初次面临类似的指控。更早之前,《纽约时报》和《权力的游戏》原著作者乔治·马丁等在内的内容创作者都曾因版权问题将该公司告上法庭。而随着这场斗争延伸至语音领域,Wired认为,这可能会带来新的有关深度伪造的威胁。

“寡姐”斯嘉丽:ChatGPT“偷”走我的声音

“当我听到发布演示时,我感到震惊、愤怒,并且不敢相信阿尔特曼会追求一种听起来与我如此相似的声音,以至于我最亲密的朋友和新闻媒体都无法分辨。”斯嘉丽在声明中这样写道。

截图来源:NPR记者Bobby Allyn的X账号

针对OpenAI配音的声明:

“去年九月,Sam Altman邀请我为ChatGPT 4.0系统配音。他说,如果由我来配音,可以在科技公司与创意人士之间架起桥梁,帮助消费者在面对人类与人工智能的巨大变革时感到更舒适。他觉得我的声音能够安慰人们。经过深思熟虑和个人原因,我拒绝了这个邀请。九个月后,我的朋友、家人和公众都注意到最新的“Sky”系统声音像极了我。

当我听到演示时,我感到震惊、愤怒和难以置信,无法相信Altman先生竟会使用一个如此像我的声音,连我的亲密朋友和新闻媒体都分辨不出差别。Altman先生甚至暗示这种相似是故意的,在推特上只发了一个词“her”——这是指我在电影中为一个名叫Samantha的聊天系统配音,她与一个人类建立了亲密关系。在ChatGPT 4.0演示发布前的两天,Altman先生联系了我的代理人,希望我能重新考虑。但在我们联系上之前,系统已经发布了。

由于他们的行为,我不得不请律师,律师给Altman先生和OpenAI写了两封信,列出了他们的所作所为,并要求他们详细说明如何创建了“Sky”声音。最终,OpenAI勉强同意撤下“Sky”声音。在这个我们都在努力应对深度伪造,保护自身形象、作品和身份的时代,我认为这些问题需要得到绝对的明确。我期待通过透明度和立法来解决这些问题,以确保个人权利得到保护。

实际上,自去年9月OpenAI推出ChatGPT的语音模式以来,Sky的声音就一直可用。ChatGPT的语音模式一共有Breeze、Cove、Ember、Juniper和Sky五种声音。但直到上周OpenAI演示了最新的旗舰AI模型GPT-4o模型,使声音更具表现力时,Sky的声音与斯嘉丽的联系才变得清晰起来。

电影《她》

在上周的发布会上,OpenAI展示了ChatGPT最新语音功能,得益于反应速度的大幅提升,该功能几乎等同“实时对话”。随后,OpenAI首席执行官阿尔特曼在X平台上发布了“her”这个词,暗示科幻电影《她》已走入现实。不少人意识到,ChatGPT中富有表现力的合成声音与《她》斯嘉丽·约翰逊饰演的AI助手的声音惊人地相似,由此引发了外界激烈的讨论。

而斯嘉丽的声明也指出,阿尔特曼用“她”来指代这部电影,似乎在鼓励全世界将ChatGPT最新演示与其表演联系起来。

OpenAI回应:暂停Sky语音,ChatGPT的5种声音来自400多份投稿

OpenAI表示公司正采取措施解决问题,同时正在暂停使用这款AI声音模板。

该公司还公布了ChatGPT中5个配音的详细创作流程,称每一种声音都经过了长达五个月的精心挑选,且是从合作的配音演员中进行采样的,且每位演员的报酬都高于市场最高水平。

OpenAI在声明中写道:“我们认为AI的声音不应该刻意模仿名人的独特声音——Sky的声音不是对斯嘉丽·约翰逊的模仿,而是属于另一位专业女演员,使用她自己自然的说话声音。为了保护他们的隐私,我们不能分享我们配音演员的名字。”

 “在与约翰逊女士进行任何接触之前,我们就选择了Sky的配音演员。出于对约翰逊女士的尊重,我们已暂停在我们的产品中使用Sky的声音。对于我们没有更好地沟通,我们向约翰逊女士表示歉意。 ”

据悉,2023年5月,OpenAI的选角机构和选角导演发出了人才招募。不到一周,他们就收到了400多份配音演员和银幕演员的投稿。将近5个月后,他们挑选出了5种声音发布到ChatGPT中。

该公司为ChatGPT的声音制定了一套标准,仔细考虑了每个声音的独特个性及其对全球观众的吸引力。这些标准包括:有不同背景或能说多种语言的演员;一种听起来有“永恒”(timeless)感觉的声音;一种平易近人、能激发信任的声音;一种音色丰富,且温暖、引人入胜、充满自信、魅力十足的声音;自然且易于听取。

深度伪造威胁或升级

今年5月初,包括《纽约每日新闻》和《芝加哥论坛报》在内的多家报纸在纽约联邦法院起诉OpenAI和微软,指控他们滥用新闻内容来训练生成式AI系统。

去年12月,《纽约时报》在纽约南区法院向OpenAI及其投资人微软公司提起侵犯版权诉讼;同月,多名普利策奖得主也起诉OpenAI和微软滥用自己作品训练大模型,指出这样的行为无疑是在“刮取”作家们的作品和其他受版权保护的材料。

更早之前,去年9月,美国作家协会以及包括《权力的游戏》原著作者乔治·马丁在内的17位美国著名作家对OpenAI发起集体诉讼,称OpenAI在未经授权的情况下使用原告作家的版权作品训练其AI模型。

OpenAI面临的难题也揭示了整个生成式AI领域与内容创作者之间权益边界的普遍性问题。

据媒体引用不完全统计数据称,自2022年11月至2023年10月,仅美国加州北区法院便已经受理了10起版权人起诉StabilityAI、OpenAI、Meta、Alphabet等公司未经授权,利用版权作品进行模型训练的案件。

Wired评论称,与斯嘉丽的冲突将加剧OpenAI与艺术家、作家和其他创意人士之间的现有斗争。随着这场争斗蔓延至语音领域,Wired认为,生成式AI使创建逼真的合成声音变得更加容易,这可能会带来新的有关深度伪造的威胁。

实际上,OpenAI今年3月就曾表示,它已经开发出一种可以从15秒的剪辑中克隆某人声音的技术,但该公司表示不会发布该技术,因为它可能会被滥用。



综合消息每日经济新闻;环球网等


Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/170331
 
70 次点击