10月18日，“吴越发声AI诈骗太恶劣”相关话题登上热搜。

18日凌晨，演员吴越在微博发文：一觉醒来，谁在利用Ai肆意抓人替自己做恶？这位“花姐”你骗了多少人的钱？请如数奉还！太恶劣！！！

吴越上述微博提到的AI视频中，名为“花姐”的账号，发布以“明星同款、吴越推荐”为由头推荐一款护肤品，称吴越为了回馈老粉丝，居然联合厂家给大家送福利。

音频为吴越的“声音”，“这个产品不是他们找我，是我找他们，因为我看了一些视频，哇我觉得有没有这么夸张啊，但是当我收到之后，效果是真的非常直观。“我都说今天我直接送，闭着眼睛用闭着眼睛囤，孕妇妈妈都能用。”

除吴越外，该视频最后还有“邓亚萍”相关“带货”画面。此外，在上述网络账号中，还发布了多条“乒乓球冠军邓亚萍推荐”等广告带货相关视频。

视频下方标注，“作者提示：含AI生成内容”。

近些年，AI深度合成名人、换脸换声的视频层出不穷，一些人只需要简单动动手指，将名人过往音视频内容“喂”给AI制作软件，就能够自动生成AI形象，让名人为自己带货、背书。

据此前报道，音乐家刘欢离世不久，网络上就出现AI生成视频，冒充其妻子卢璐，打着家属身份讲述“临终故事”博取共情，转头推销黄精五黑粉。更有账号假扮刘欢儿子带货同款产品，逝者肖像、公众情感被打包成流量商品。

▲AI生成视频冒充刘欢家属带货，引发了争议。图/极目新闻

据央视新闻报道，此前，有网友发现演员温峥嵘同时“现身”三个不同直播间，她身着不同服装推广着不同的产品，动作神态与本人高度相似，这一情况很快引发热议。

▲多个直播间同时出现“温峥嵘”的影像，但这些均非她本人出镜。图/央视网

2025年4月，温峥嵘就曾对此进行过声明和维权，但并没能阻挡住网络盗播和AI冒充行为的泛滥。温峥嵘曾进入一个仿冒直播间质问：“你是温峥嵘，那我是谁”，结果反被对方拉黑禁言。温峥嵘表示，AI合成手段混淆视听，侵犯了她的肖像权，她担心信任自己的观众因此而买到假货。

事实上，AI工具日渐普及，视频制作成本大幅下降，造假门槛持续走低，冒用已故名人家属身份引流带货，甚至已成灰色产业链。平台如果仍然固守坐等举报的治理模式，无疑是对类似骗局的姑息、纵容。

从法律角度看，冒名他人带货兼具名誉侵权与消费欺诈双重属性，达到一定金额还可能触及刑事诈骗。正如相关律师所言，平台若不及时处置，需对扩大损失承担连带责任。这意味着，平台被动处置不仅有损公共利益，自身也存在法律风险。

一方面，平台应针对已故公众人物建立专项风控词库，对冒用名人家属身份、拼接逝者影像带货的AI视频进行前置识别拦截；另一方面，要完善AI生成内容管理，强化对相关视频的真实性核验，不能只靠“小字免责”。

当然，也需要畅通社会公众举报通道，只要有网友提交初步线索，平台就应启动核查，而不是把举证、举报责任全部推给逝者亲属或者举报人。

AI技术是双刃剑，平台手握技术管理权，不能把技术便利留给造假者，把维权难题留给普通人。筑牢AI内容防线，主动打击假冒他人的带货骗局，既是守住平台内容底线，也是守护公众的朴素情感与消费权益。

来源 吴越微博 央视新闻 红星新闻 新京报此前报道