□黄齐超
10月18日凌晨3时许，演员吴越发文：“一觉醒来，谁在利用AI肆意抓人替自己作恶？这位‘花姐’你骗了多少人的钱？请如数奉还！太恶劣！”吴越上述微博提到的AI视频中，名为“花姐”的账号，发布以“明星同款、吴越推荐”为由头推荐一款护肤品，称吴越为了回馈老粉丝，居然联合厂家给大家送福利。音频为吴越的“声音”。（10月18日 上游新闻）
明星撞见“另一个自己”在网上带货，这早已不是第一次。演员温峥嵘也曾在凌晨三四点的时候，刷到过自己的AI直播间，点进去质问“你是温峥嵘我是谁”，结果当场就被拉黑。同一时段里，好几个直播间同时出现“温峥嵘”的身影，妆容不一样，卖的产品不一样，说的话却都像模像样。
明星本人站出来都差点无法“自证”，普通人对着屏幕更是难辨真假。过去，用明星造假还要剪辑视频、拼凑素材；而现在，只要把明星过往的音视频喂进AI工具，几分钟就能生成一条以假乱真的带货视频。成本虽然只有几十块，但迷惑性很强，到能骗过不少老粉丝。
事实上，最让人后怕的从来不是“明星被冒充”，而是屏幕那头普通消费者的权益谁来兜底。很多人冲着吴越、温峥嵘这些公众人物的口碑下单，以为买到的是明星亲自背书的靠谱产品，最后收到手才发现是三无产品，等到维权时直播间早没了踪影。明星能熬夜发微博辟谣，能站出来怒斥造假者，可那些已经付了钱的消费者，连账号主体都找不到，最后只能吃个哑巴亏。
按照相关规定，AI生成的内容必须明确标识。但是，有些商家故意将“AI合成内容”的提醒标得很模糊，消费者不容易发现，稀里糊涂的认为，这就是明星本人出镜代言。由此可见，即便商家的宣传视频标注了“含AI生成内容”，平台也必须核验是否处于明星本意，保护明星的肖像权。如果没有明星出具的代言证明材料，平台就应下架视频，保护明星和消费者权益。
用于广告宣传的AI合成视频，即便依规做了标注，也不代表平台就可以免责。造假者躲在屏幕后面，用低成本的技术把信任直接变成了变现的工具，令人唏嘘。平台坐等明星举报，坐等消费者投诉，给造假者留足作恶的时间，这与帮凶何异？
AI从来不是天然的“恶”，但手握技术门槛的平台，不能把便利全留给造假者，把维权难题全甩给普通人和公众人物。治理AI假冒带货，不能每次都等明星凌晨三点起来发文怒斥，更不能让“如数奉还”的呼声淹没在评论区里。从源头把好内容审核关，把主动拦截做在骗局发生之前，这才是真正对消费者负责，也是对技术最基本的尊重。
本文为红辣椒评论原创文章，仅系作者个人观点，不代表红网立场。转载请附原文出处链接和本声明。
来源：红网
作者：黄齐超
编辑：汪敏星
本文为红辣椒评论 原创文章，仅系作者个人观点，不代表红网立场。转载请附原文出处链接和本声明。
本文链接：https://hlj.rednet.cn/nograb/646054/53/16384057.html
嘉正网提示：文章来自网络，不代表本站观点。
