当AI“偷走”你的声音

用AI“偷走”你的声音？丨4.26世界知识产权日

只需花40元、1个小时，就能让热门歌手为你“独家演唱”歌曲。看似不可能实现的“心愿”，在AI时代并非遥不可及。

近日，南方日报、南方+记者在国内某大型网购平台上，仅用40元一首的单价，就让“AI孙燕姿”“AI方大同”为自己“私人定制”歌曲。提供上述“服务”的店铺主声称，“还可以定制唱歌模型，后续自己可以无限制作歌曲。”

网购平台有商家提供“私人定制”歌曲服务。

随着AI大模型算力的发展，由AI歌手“演唱”的歌曲，已到了让人真假难辨的地步，但随之而来的声音侵权、版权纠纷等问题也日益突出。此外，AI克隆的明星声音还被用于陪伴式聊天、直播带货等领域，甚至被用于诈骗活动。

歌手的声音是否可以被AI任意训练？用“AI明星”制作的歌曲，能否被任意使用甚至售卖？当AI加速赋能千行百业，治理如何加快跟上？4月26日是第25个世界知识产权日，我们聚焦AI技术迅猛发展背后的声音侵权乱象进行调查。

调查：“一首40元，两首还可以打折”

“只需1小时，AI孙燕姿就能为你唱生日歌。”记者在某网购平台搜索“AI歌手”“AI翻唱”等关键词，立马出现了不少可以提供该项服务的商家，甚至有商家显示累计销量已超过2000单。

记者点进一家销量较高的店铺，当问到能不能用AI歌手翻唱歌曲时，客服称，有188元、288元、388元三个价位唱歌模型可选，“想了解更多可添加微信咨询”。

商家客服对话。

记者添加微信后，客服立马发来了定制AI明星唱歌模型的步骤，并介绍现有AI唱歌模型系列。周杰伦、张杰、邓紫棋等诸多当红歌手均在内，甚至连游戏《原神》里的角色，如“钟离”“万叶”等也都可以AI定制歌曲。

客服表示，有3万步、5万步、10万步的模型，“所谓‘步数’即AI训练迭代次数，直接影响声音仿真度，步数越多，声音越像。”

商家客服对话。

当记者问能不能用AI翻唱孙燕姿、方大同的歌曲时，客服表示可以，并表示由于记者选择的是既有模型不需要再额外训练，因此只需支付歌曲制作费。“一首40元，两首还可以打折，但只接受微信支付。”该客服声称。

记者转账70元后，不到1个小时便收到了“成品”：“AI孙燕姿”演绎的《生日快乐歌》、“AI方大同”翻唱的《想见你》，两首AI翻唱歌曲的音色、咬字风格，甚至连换气声都与真人歌手高度相似，几乎以假乱真。

记者购买获得的AI翻唱歌曲截图。

上述客服还称，任何普通人的音色都可单独训练AI唱歌模型，只需提供30分钟以上唱歌音频，或20分钟唱歌、10分钟说话音频，但价格比明星的贵许多。

AI明星演绎的歌曲被用来干什么了？记者调查发现，用户生成AI明星翻唱作品后，有的将其作为数字藏品存储于本地设备，满足个人“收藏需求”，有的“作品”被上传至网络社交媒体平台，成为引流甚至变现的工具。

在某视频平台上，不少UP主发布了AI歌手翻唱的歌曲作品，其中“AI孙燕姿”的多条翻唱作品播放量超300万，甚至有专门的翻唱合集专题。

某视频平台的“AI孙燕姿”专题。

除了利用AI技术翻唱歌曲，AI明星声音还被用于恶搞、打广告甚至诈骗等。

比如，此前有UP主使用开源AI工具克隆小米创始人雷军的声音，制作雷军吐槽友商恶搞视频，引发小米法务部维权；某保健品公司生成张文宏医生的虚假推销语音，在直播中宣称“张文宏推荐XX口服液增强免疫力”，诱导中老年人下单购买；一犯罪团伙伪造靳东“关爱粉丝”互动视频，以“投资剧组”“见面会名额”等话术诱导中老年女性转账，半年内骗取受害者超300万元。

难点：技术门槛低导致侵权主体多

如果说上述的AI“克隆”声音技术需要购买，或需要一定的专业技能，但随着AI技术的发展和普及，普通公众可以直接体验这项技术。

记者在手机应用商城发现了一款名为“星某”的APP，其号称可以自由定制AI聊天智能体。用户可以直接和比如“杨幂”“赵丽颖”“杨紫”等“明星”进行语言聊天对话。

“星某”APP提供自由定制AI聊天智能体。

更有甚者，有些博主还在互联网兜售AI声音制作教程，有了技术和教程的加持，公众获取AI拟声产品已经变得非常简单。

“随着AI技术的应用门槛不断降低，AI拟声行为的实施呈现泛化趋势，针对终端直接侵权人的规制机制的实效性减弱。”暨南大学法学院讲师、广东创品律师事务所兼职律师许清指出。

由于“AI拟声”的整个链条较长，涉及的主体较多，对侵害声音权益行为的追责，实践中会存在一定的障碍。

比如，作为直接侵权人的用户（商家）会因匿名化而难以锁定，作为AI拟声工具的技术提供方可能会基于“技术中立”进行抗辩，另外从司法实践来看对于平台方的注意义务的要求程度也不够明确。

在法律实践层面上，AI声音侵权还是新事物。

许清认为，对于AI声音侵权行为的规制，理论上也可以适用反不正当竞争法第二条的原则性条款以及第六条第四项中“足以引人误认为是他人商品或者与他人存在特定联系的混淆行为”这一兜底条款，但当前法院对于第二条原则性条款的适用较为谨慎，对于第六条第四项的适用对象是否能扩张至“标识”以外的非标识性元素，学说上仍存在争议。因此，在现行民法典明确了可以对人格权中经济利益保护的前提下，适用民法典第一千零二十三条第二款规定的“对自然人声音的保护，参照适用肖像权保护的有关规定”，可能还是当前规制AI声音侵权行为的主要路径。

许清的说法正好呼应了去年北京互联网法院审理的全国首例AI声音侵权案。该案首次明确声音权益独立于录音制品著作权，未经许可将声音用于AI化处理属于违法，为AI技术应用中的人格权保护划定了法律边界。

许清还补充道，目前所讨论的AI拟声侵权，更多的是基于侵权主体利用了特定声音的经济吸引力来“搭便车”，所以判定侵权的关键是AI拟声是否会被识别成被侵权主体的声音。“将AI拟声产品用于引流营利等场景，同样可能造成了实质性损害，会被认定为侵权。”

规制：加固“安全护栏”让治理跟上技术步伐

用AI生成他人声音，合法吗？

“这就像数字时代的声音盗窃。”广东立幸律师事务所莫圣玮律师指出，未经许可伪造或商业化使用声音可能构成侵权。“如果用AI明星的声音来制作短视频、直播带货等，还可能涉及不正当竞争、虚假宣传甚至犯罪。”

专家建议，针对AI时代的声音侵权乱象，亟须加固多层次的“安全护栏”，让治理跟上技术进步的步伐。

法律是治理AI声音侵权乱象的有效手段。

比如，民法典第一千零二十三条第二款已明确，“对自然人声音的保护，参照适用肖像权保护的有关规定。”而对于肖像权的保护，民法典明确，“任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。”“未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。”

加强对自然人声音的保护，需要相关网络平台持续发力。

莫圣玮表示，购物平台和应用市场对于上架销售的AI声音产品和涉及AI声音模仿功能的软件，应加强合规性审查，及时下架违规商品和应用。广东诺臣律师事务所合伙人温彦表示，在播出端，播出平台在内容发布前要进行针对性审核，并对AI声音内容进行显著标注提示，对可能侵犯相关权利的内容及时下架。

利用技术手段反制AI技术滥用必不可少。

现有司法实践对肖像权有较具象化的认定标准，如可以通过辨别相貌特征进行区分或比较。要在法律层面认定AI声音是否侵权，更依赖现代甄别技术，如声纹识别鉴定等。但目前，声纹鉴定机构数量较少，且费用昂贵，门槛相对较高。对此，莫圣玮建议，进一步完善声音侵权相关法律法规认定，并通过适当增加声音检测机构数量或改进声音鉴定技术的方式，提高AI时代声音权的保护效果。

AI声音克隆从声纹数据采集、算法开发到实际应用等环节涉及多个主体，相关部门需进一步形成保护合力。对此，温彦建议，要进一步完善相关立法，明确各方在内容审核、数据使用、算法推荐等方面的责任，涉及的相关监管部门要进一步加强协作，共同打击AI声音侵权行为。

个人信息安全，事关每个人的切身利益。温彦提醒，面对AI时代的声音侵权行为，公众可以通过截屏、录屏等方式及时固定侵权证据，若侵权方无主观恶意，可先沟通要求对方下架止损，后续根据配合程度选择协商或诉讼维权。

海报由AI生成

采写：南方+记者 李乾 杜玮淦 祁雷

视频：南方+记者 李乾

【作者】 李乾；杜玮淦；祁雷

南方法治