上海审结首例人工智能合成语音引发的声音权益纠纷案——AI克隆声音应守住法律底线
本报记者 姜旭
近日，上海市第一中级人民法院（下称上海一中院）对原告王女士与被告某公司之间的声音权保护纠纷案作出二审判决，认定被告某公司未经王女士同意，将其声音作为训练语料，模仿其音色、语调、发音风格等特征，生成能够识别出王女士声音的合成人声，并将其用于面向社会公众的商业活动，侵害了王女士的声音权益。
据了解，该案是上海法院审结的首例人工智能合成语音引发的自然人声音权益保护纠纷案件，对依法审理同类案件具有参考意义。
克隆声音引发纠纷
王女士是一名配音演员，其于2025年1月发现某公司在互联网推广中使用的声音疑似 AI合成的自己的声音，于是对相关音频进行了公证取证，并随后将某公司起诉至上海市长宁区人民法院（下称长宁区法院），并索赔30万元。
对此，某公司辩称，虽然涉案声音系其采用人工智能技术生成，但训练语料来源于海量语音库，无证据证明人工智能模型原始投喂素材涉及王女士声音，且无法证明合成语音与自然人声音具有同一性，故其不构成侵权。此外，该公司此前从不知晓王女士配音演员的身份，不存在采集、使用其声音的情况，现有证据也无法直接证明其在推广活动中使用了王女士的声音。
长宁区法院经审理后认为，某公司的被诉行为侵犯了王女士的声音权，并酌情确定某公司赔偿王女士5万元。
一审判决后，王女士与某公司均不服，分别上诉至上海一中院。
上海一中院经审理后，驳回双方上诉请求，维持原判。
该案一审承办法官、长宁区法院商事审判庭（互联网案件审判庭）副庭长邓鑫在接受中国知识产权报记者采访时表示，该案的核心法律问题在于，如何认定被诉侵权音频与王女士本人声音具有同一性。与传统声音侵权案件不同，该案并非未经授权直接使用权利人实际发声并录制形成的音频或视频，而是通过人工智能技术生成具有特定个人声音特征的合成人声，因此难以直接通过原始录音与涉案音频的一致性进行判断。
“对此，一审合议庭认为，应当从两个方面认定声音同一性：一是结合声音的使用目的和场景，将人工智能生成的声音与王女士本人的声音进行对比，并结合王女士的亲友能否辨识等普通社会公众的一般认知作出判断；二是在必要时，对被诉音频与王女士原声进行司法鉴定，通过声音参数的相似度比对分析，综合判断声音是否具有同一性。”邓鑫说。
合理分配举证责任
邓鑫介绍，在认定声音同一性的基础上，合议庭还重点考量了涉案行为是否符合“接触+实质性相似”的判断思路以及如何合理分配举证责任等问题。
一方面，需要判断被诉侵权音频与权利人声音之间是否存在实质性相似以及行为人是否具有接触权利人声音的合理可能性。该案中，王女士的声音已在互联网上公开发表，某公司存在接触其声音并将其用于人工智能训练或生成素材的可能性。这一因素为判断涉案合成人声与王女士本人声音之间的关联提供了依据。
另一方面，严格适用证据规则合理分配举证责任，避免对权利人提出过高的举证义务。该案中，在以营利为目的使用合成声音的情形下，王女士完成声音同一性的初步举证后，某公司应当就其生成涉案音频未接触、使用王女士的声音素材等情况提供相应证据。若其未能完成相应举证，则应承担举证不能的不利后果。
在邓鑫看来，该案对人工智能语音技术开发者、服务提供者及商业应用平台具有警示意义。相关主体应坚持技术向善，在保护自然人声音权益与促进技术创新之间合理划定边界，通过合法合规使用语料素材，推动人工智能语音合成技术健康发展。
“配音、直播、智能客服等相关企业，应当在声音素材收集、训练数据管理、模型开发和商业化应用等环节重点防范法律风险。”邓鑫表示，首先，应从源头筛选训练语料，依法取得权利人的知情同意，避免未经授权使用他人声音；其次，接到权利人举报投诉后，应及时采取删除等必要措施，防止损害扩大；此外，还应持续优化人工智能算法运行机制，降低因算法运行不透明等问题引发的侵权风险。必要时，可以通过设置合理的识别与防护机制，减少生成可识别特定权利人声音的风险。
兼顾权益保护与技术创新
人工智能技术的发展离不开数据与算法的持续迭代，但技术创新不能突破法律底线。如何在依法保护自然人声音权益的同时，为合法合规的人工智能技术研发和应用留出合理空间，是涉人工智能纠纷审判需要回应的重要问题。
该案二审承办人、上海一中院立案庭法官吴丹在接受本报记者采访时表示，该案聚焦人工智能语音合成技术商业化应用中的新型侵权问题，其裁判思路对于厘清人工智能合成声音侵权的认定标准、平衡人格权益保护与技术创新具有积极意义。
吴丹认为，该案的典型意义主要体现在以下三个方面。
首先，精准界定侵权边界，分层区分技术行为与侵权行为。对于未经自然人许可，恶意抓取个人公开或私密声音素材、克隆专属声纹、生成可识别特定自然人的合成语音，并用于广告宣传、产品引流、商业变现的行为，依法认定构成人格权侵权，判令停止侵害、赔礼道歉、赔偿损失，坚决守护自然人人格尊严与合法权益；对于仅学习通用声学规律、生成无特定个人辨识度的通用语音、用于纯粹学术研究、内部技术迭代、公益测试的行为，不轻易认定为侵权，保障人工智能基础研发的自由空间，避免司法过度干预技术创新。
其次，优化举证责任分配，回应声音权益维权中的现实难题。人工智能模型的训练数据、语料资源和运行机制往往掌握在企业手中，权利人难以直接获取相关证据。人民法院应结合当事人的举证能力和案件具体情况，合理分配举证责任，推动相关企业留存语料来源、授权凭证及技术研发记录等材料。同时，也应结合训练方式、主观过错和具体使用场景综合判断，避免不合理地加重企业对海量通用数据的审查负担，在降低权利人维权难度的同时，为合规技术研发保留必要空间。
再次，细化裁量赔偿责任，实现惩戒侵权与包容创新的平衡。在认定赔偿责任中，摒弃机械判赔、高额惩戒的思路，实行过错适配、损益相当的裁判标准。对恶意克隆、刻意利用他人人格流量牟利的侵权行为加大惩戒力度；对过失审核疏漏、无主观恶意、用于非核心商业用途的行为适度调整赔偿数额，既有效制裁违法侵权行为，又为中小企业、合规研发主体保留发展空间。
（编辑：刘珊 实习编辑：蔡友良）