你有没有刷到过这样的直播间:主播颜值高得不真实,产品测评完美无瑕,连消失多年的明星都突然“空降”带货。北京市市场监管局近日专门发了消费提示,把话说得很直白:这些看着格外靠谱的广告,很多压根不是真人拍的,全是AI生成的。

按照《人工智能生成合成内容标识办法》的规定,AI合成、生成的图片、视频、音频、文字,必须在显眼位置标注“AI生成”“AI合成”“数字人”等字样。正规的AI带货直播,都会明确标出身份。反过来说,没有标注的,基本可以断定不合规。虚拟形象不等于真人代言,别被一个“完美主播”骗了。

更坑的是那些“爆款假象”。不少商家用AI批量捏造超高销量、清一色好评、权威检测报告、专家推荐语录,全是凭空编的,业内管这叫“AI幻觉”。还有AI深度美颜修图,能把普通商品修得质感拉满,实物到手差距大得离谱。北京市市场监管局给了一招:下单前截屏保存宣传页面和效果图,收货后逐一比对,货不对板就拿截图维权。

明星和专家推荐也得当心。网上不少“名人带货”的视频,是商家未经授权用AI换脸、声音克隆伪造的。画面僵硬、表情不自然、口型对不上,基本都是假的。有调查显示,花70到100块就能定制一条明星AI仿冒视频,克隆声音最低只要1.98元,40秒就能生成。今年5月,就有人因为用AI伪造名人形象直播带货被行政拘留。

还有一件事很多人没意识到:你在社交平台发的自拍、生活视频、语音动态,可能正在被不法分子抓去“复刻”。部分人用AI技术把普通人的脸和声音做成虚拟形象,拿去打广告、做直播,本人根本发现不了。北京市市场监管局明确说了,肖像权、声音权受法律保护,发现被冒用可以固定证据,要求停止侵权并赔偿。

来源 | 315诚搜网 

​审核 | 冰岛