2月26日，演员王劲松发文称自己的形象被AI盗用生成视频：“太可怕了，视频。声音，口型完全看不出来真假。 ”
“我担心的是以后会不会出现更真，性质更恶劣的AI肖像侵权行为，用于诈骗呢?”王劲松在评论区与网友交流，以前总有AI视频冒充他，但做的很烂，假的就是假的，“现在措手不及，我家里人都分不清是不是真是我了。”
随后，他在评论区晒出投诉截图并表示相关视频已删除，并同时表示担忧：“虽然视频删除了，但侵权者的代价可以忽略不计，谁能保证，这种钻法律空子的擦边球，最后不沦为犯罪的手段?”
图片
近两年，AI深度合成名人、换脸换声的视频层出不穷、屡禁不止。这种行为既侵犯名人肖像权、名誉权，更直接误导了消费者，导致消费者知情权、公平交易权受损。
利用AI生成明星“拜年”视频
进行商业推广
一餐饮公司及经营者
被判道歉并赔偿
据《人民法院报》2月25日报道，2024年春节前夕，某餐饮公司为进行营销宣传，在其自媒体平台账号上发布了一段利用人工智能合成的明星孙某某拜年视频，其中使用了孙某某的姓名、肖像及其经AI技术处理后的声音。近日，成都铁路运输第一法院审结了该起姓名权、肖像权及声音保护纠纷案，判决某餐饮公司及其经营者承担侵权责任。
2024年2月，某餐饮公司通过某自媒体平台账号发布视频，内容为以AI合成的孙某某形象及声音向观众拜年，台词为“Hello!大家好，我是XX。我代表成都某餐饮管理有限公司祝新老客户新年快乐、身体健康、财源广进、龙年大吉、阖家幸福、长长久久!”其中明确包含孙某某姓名及对某公司品牌的宣传。
孙某某认为，该视频未经其授权，易使公众误认为其与该公司存在代言关系，侵犯其姓名权、肖像权及声音权益，遂诉至法院，要求某餐饮公司及其经营者许某删除视频、公开道歉并赔偿经济损失30万元。
法院审理后认为，案涉视频中的肖像与孙某某本人形象一致，二被告未提交证据证明其使用孙某某的肖像、姓名取得了其本人的同意或授权，已构成对孙某某姓名权、肖像权的侵害。
针对AI生成声音是否受到法律保护的争议焦点，法院指出，自然人声音权益的保护范围以“可识别性”为界。即使声音经人工智能技术处理，若一般公众仍能凭借音色、语调、发音风格等特征识别出特定自然人，则该声音仍属人格权益保护范畴。
本案中，孙某某作为知名演员，其声音具有较高公众辨识度。经AI合成的声音仍保留了其鲜明特征，足以使公众联想到孙某某本人，故该合成声音仍应纳入声音权益保护范围。二被告未提交证据证明其使用通过人工智能生成的孙某某的声音取得了其本人的同意或授权，构成对孙某某声音权益的侵害。
被告许某作为被告某餐饮公司的法定代表人及唯一股东，其未提供证据证明其本人的财产独立于公司财产，应对某餐饮公司的债务承担连带责任。
鉴于被控侵权视频在庭审中已确认删除，法院判令二被告在案涉自媒体平台账号首页发布致歉声明，持续公示不少于七天。关于经济损失，法院综合考虑侵权情节、主观过错、使用范围等因素，酌定二被告赔偿孙某某10000元。
法院提醒公众，尤其是各类市场主体、商家，制作、使用此类看似“趣味化”“娱乐化”的AI合成视频时，务必坚守法律底线，摒弃“流量至上”的侥幸心理。
除了盗用名人形象声音
普通人的身份信息被AI盗用冒充
也是大众关注的焦点
AI拟声技术冒充孙子
3名老人被骗
2月26日，最高人民法院发布5起依法惩治电信网络诈骗等侵犯财产犯罪典型案例。其中就提到有人利用AI拟声技术冒充老人孙子，制造紧急场景，实施诈骗的案例。
2025年4月下旬，吴某涛经人介绍，获悉可前往各地帮助收取诈骗资金以牟取非法利益，遂添加上线联系方式。之后，吴某涛按照上线指令，乘车前往湖北省黄石市，假冒身份上门收取诈骗款。
吴某涛来到被害人家后，当场拨通上线语音电话，再由上线利用AI拟声技术模拟被害人亲属声音，冒充亲属取得信任，从三名老人处骗取现金共计6万元，后将上述款项交给他人，从中获利1700元。
湖北省黄石市黄石港区人民法院审理认为，被告人吴某涛以非法占有为目的，伙同他人骗取财物，数额巨大，其行为已构成诈骗罪。吴某涛明知他人实施诈骗，仍接受上线安排上门收取、转移诈骗款，为上线获得诈骗款提供帮助，构成诈骗罪共犯，在共同犯罪中系从犯。吴某涛到案后坦白罪行，在法院审理阶段全部退赔并取得被害人谅解，依法对其减轻处罚，以诈骗罪对其判处有期徒刑二年一个月，并处罚金。
如何防范AI新型诈骗?
#减少个人信息公开
AI实施诈骗，除了要获取到“声音”原始素材，还要掌握诈骗目标的个人情况，例如家庭背景、家庭财产情况、职业等。因此，在互联网上尽量减少个人信息公开，涉及个人声音、影像的发布更要慎重。
#选择可信平台
不要随意下载未经官方认证的APP，即便其提供免费道话或其他看似诱人的功能，也可能暗藏陷阱。
#可要求对方做即兴动作
例如AI生成视频内容易出现语音延迟或面部扭曲，或者要求对方回答只有你们知晓的问题。
#多种途径确定是否为本人
涉及转账时，通过电话、线下见面等多途径确认对方是否为本人。在无法确认对方身份时，应避免转账操作。
来源：综合自@演员王劲松、人民法院报、中国消费者报、央视新闻客户端、中国青年报、全国网络举报等
南京广电·牛咔视频编辑：潘容
南京广电·牛咔视频责任编辑：缪露
主编：顾青