AI换脸诈骗、AI伪造新闻、AI假冒名人带货、AI生成暴力低俗内容……这些利用人工智能技术“搞事情”的乱象，正在被集中清理。
近期，中央网信办组织开展“清朗·整治AI应用乱象”专项行动第二阶段工作，聚焦利用AI制作虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题，部署各地网信部门深入推进整治。截至目前，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。
各地网信部门“各显神通”
专项行动开展以来，各地网信部门因地制宜推出针对性治理措施：
北京网信办指导平台升级审核策略，提升对违规内容新型变体的识别能力；上海网信办督促平台自查自纠，推出AI应用“知识普及包”帮助公众识别风险；浙江网信办对属地重点平台开展“一企一策”合规指导，依法查处一批问题突出的AI应用；广东网信办召开重点平台工作例会，对多款应用违规问题点对点督促整改。
平台积极响应，技术+人工双管齐下
抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台进一步强化技术防控，优化多模态识别模型，动态扩充人脸库、声纹库和违规样本库，上线人脸实时治理系统，提升违规内容智能检测和拦截效率。各大平台累计发布治理公告46期。
豆包、元宝、千问、文心一言等AI应用平台严把内容审核关，严格限制违规内容输出，强化AI生成内容标识要求，从源头防范违法违规信息生成传播。
华为、小米、OPPO、vivo等应用商店也制定了严格的App开发者准入规范，对在架App进行抽检复测，拦截违规应用入库。
AI不是法外之地
AI技术的发展带来了便利，也滋生了新问题。AI换脸诈骗让不少人防不胜防，AI生成的虚假新闻混淆视听，AI假冒名人带货坑害消费者……这些行为已经触及法律和道德的底线。
此次专项行动释放了一个明确信号：AI不是法外之地，技术再先进也不能成为违法犯罪的工具。
网信部门表示，下一步将在总结治理成效的基础上，密切关注AI生成合成内容的新情况新风险，及时采取有效措施防范AI技术滥用恶用，持续为人工智能创新发展营造良好环境。
对普通用户来说，遇到AI生成的虚假信息、诈骗内容，可以及时通过平台举报渠道反馈。技术越强大，监管越不能缺位。
来源 | 315诚搜网
审核 | 冰岛
评论 (0)