生成式人工智能（AIGC）技术在推动内容创作革新的同时，其滥用风险也日益凸显。近日，北京市海淀区市场监管局查处一起利用AI技术冒用央视知名主持人名义发布虚假广告的案件，这也是北京市场监管部门首次依据《广告法》对滥用AI技术冒用名人形象行为作出行政处罚。
据悉，涉事公司通过AI技术剪辑央视主持人视频，加入自行设计的口播内容，在自有网络视频账号上发布普通食品“深海多烯鱼油”广告，并宣称具有“解决头晕头痛、手麻脚麻”等医疗功效，违反《广告法》相关规定。
此案仅是AI技术被滥用的冰山一角。近期，已故茶界泰斗被AI“复活”为茶企代言、某知名演员面部特征被未经授权移植到微短剧等事件相继曝光，反映出AI技术普惠化进程中创新工具与行骗手段的边界日趋模糊。
萨摩耶云科技集团AI机器人行业研究员郑扬洋指出，目前通过“开源模型+云端API”仅需30秒即可克隆声音和人脸，生产成本大幅降低。而不法分子利用平台算法偏好，将名人形象置于视频首帧以获取流量，进一步助长了此类行为。
为应对AIGC带来的挑战，今年9月1日起，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》正式施行，要求所有AI生成内容必须依法添加声明标识。腾讯、快手、抖音等平台已相继上线相关标识功能。
然而在实际应用中，AI视频标识仍面临技术挑战。业内人士透露，用户可通过工具擦除AI水印，导致平台难以识别；同时生成模型迭代迅速，检测技术往往处于被动追赶状态。
北京社会科学院副研究员王鹏表示，当前缺乏针对AI技术的专属立法，现有法律框架主要基于传统权利概念，未能针对生成式技术特点制定专门规范。虽然《民法典》《广告法》等设有惩罚性赔偿条款，但实际获赔案件有限，侵权成本与商业利益的不对称导致震慑力不足。
专家建议，应尽快推动人工智能统一立法，将生成、传播、平台责任一并纳入，形成全链条合规指引，同时通过端侧硬水印、链上备案等技术手段，构建更有效的治理体系。
来源 | 315诚搜网
延生阅读：315网评 | 警惕AI整蛊形成示范效应
评论 (0)