业界
被ChatGPT“复制”声音,“寡姐”斯嘉丽发文怒斥,OpenAI紧急停
当地时间5月20日,外媒NPR独家公布了被影迷称为“寡姐”、科幻电影中AI助手饰演者斯嘉丽·约翰逊发布的一篇,斯嘉丽指控OpenAI的ChatGPT非法使用其声音,同时要求将语音下架。
上周,OpenAI发布了最新旗舰模型GPT-4o,引爆科技圈。在发布会上,OpenAI展示了ChatGPT最新语音功能,不少人发现,其富有表现力的合成声音Sky与中斯嘉丽饰演的AI助手的声音惊人地相似,这引发了激烈的讨论。
斯嘉丽称,2023年9月,ChatGPT推出语音模式时,OpenAI曾找过她希望为其配音,但由于个人原因拒绝。就在GPT-4o演示前两天,OpenAI还曾试图说服斯嘉丽,但在联系上之前,新模型就已发布。基于此,斯嘉丽的法律团队此前已向OpenAI发送两封,要求该公司详细说明其开发这种声音的过程。
由于斯嘉丽的指控,OpenAI在当地时间5月19日发表宣布暂停使用这款AI声音模板。同时,作为回应,该公司也公布了ChatGPT中5个配音的详细创作流程,称这是从400多名专业配音和演员中挑选出来的。
实际上,这已经不是OpenAI初次面临类似的指控。更早之前,和原著“当我听到发布演示时,我感到震惊、愤怒,并且不敢相信阿尔特曼会追求一种听起来与我如此相似的声音,以至于我最亲密的朋友和新闻媒体都无法分辨。”斯嘉丽在中这样写道。
实际上,自去年9月OpenAI推出ChatGPT的语音模式以来,Sky的声音就一直可用。ChatGPT的语音模式一共有Breeze、Cove、Ember、Juniper和Sky五种声音。但直到上周OpenAI演示了最新的旗舰AI模型GPT-4o模型,使声音更具表现力时,Sky的声音与斯嘉丽的联系才变得清晰起来。
在上周的发布会上,OpenAI展示了ChatGPT最新语音功能,得益于反应速度的大幅提升,该功能几乎等同“实时对话”。随后,OpenAI首席执行官阿尔特曼在X平台上发布了“her”这个词,暗示科幻电影已走入现实。不少人意识到,ChatGPT中富有表现力的合成声音与斯嘉丽·约翰逊饰演的AI助手的声音惊人地相似,由此引发了外界激烈的讨论。
她在中表示,2023年9月,ChatGPT推出语音模式时,阿尔特曼找到她,询问她是否愿意为ChatGPT配音,去安慰用户,弥合AI与人类之间巨大的差异所带来的不适感。斯嘉丽表示,经过深思熟虑后,她拒绝了这一提议。就在GPT-4o演示前两天,OpenAI还曾试图说服斯嘉丽,但在联系上之前,新模型就已发布。基于此,斯嘉丽的法律团队此前已向OpenAI发送两封,要求该公司详细说明其开发这种声音的过程。
OpenAI表示公司正采取措施解决问题,同时正在暂停使用这款AI声音模板。
该公司还公布了ChatGPT中5个配音的详细创作流程,称
OpenAI在中写道:“我们认为AI的声音不应该刻意模仿名人的独特声音——Sky的声音不是对斯嘉丽·约翰逊的模仿,而是属于另一位专业女演员,使用她自己自然的说话声音。为了保护他们的隐私,我们不能分享我们配音演员的名字。”
据悉,2023年5月,OpenAI的选角机构和选角导演发出了人才招募。该公司为ChatGPT的声音制定了一套标准,仔细考虑了每个声音的独特个性及其对全球观众的吸引力。
深度伪造威胁或升级
今年5月初,包括和在内的多家报纸在纽约联邦法院起诉OpenAI和微软,指控他们滥用新闻内容来训练生成式AI系统。
去年12月,在纽约南区法院向OpenAI及其投资人微软公司提起侵犯更早之前,去年9月,美国作家协会以及包括原著据媒体引用不完全统计数据称,自2022年11月至2023年10月,仅美国加州北区法院便已经受理了10起外媒Wired评论称,实际上,OpenAI今年3月就曾表示,它已经开发出一种可以从15秒的剪辑中克隆某人声音的技术,但该公司表示不会发布该技术,因为它可能会被滥用。