9.9元，就能买到一套AI“造黄”教程；几块钱，就能获取批量生成擦边视频的“提示词”。近日，央视曝光的AI“造黄”产业链，令人触目惊心。
从兜售制作教程、交易定制化提示词，到利用AI应用漏洞生成色情内容，再到销售境外涉黄AI聊天软件，AI“造黄”已形成一条完整的黑色产业链：商家以“AI擦边赛道日入5位数”为诱饵，在电商平台公开售卖教程，教用户使用境外AI软件或本地部署程序来规避监管；而“提示词”中的敏感词汇还被翻译成英文以逃避审核。
当AI被异化为“造黄”工具，其危害无疑是系统性的。
这首先是对女性权益的严重侵害。AI换脸、AI脱衣等技术，让任何一张普通照片都可能被恶意加工成色情内容，受害者往往毫无察觉，直到谣言满天，遭遇社会性死亡。与此同时，这也是对网络生态的毒化。
更令人揪心的，是这一乱象对未成年人的潜在危害。如今，AI技术深度参与青少年的日常生活，但“9.9元造黄”的门槛却如此之低。因此，必须尽早斩断AI“造黄”产业链，这不仅是对法律底线的捍卫，更是在AI时代守护好下一代的必要手段。
值得注意的是，虽然跨境监管的难度给黑产留下可乘之机，但不代表监管部门无能为力：如深化国际执法合作，循线追踪境内人员参与、境外服务器服务的案件；强化技术封堵，依法切断涉黄AI应用访问渠道；对平台审核失职、灰色渠道引流等行为依法严惩。
此外，AI平台必须承担起主体责任，建立更严格的内容审核机制，堵住提示词绕过、英文规避等漏洞。电商平台更要加强审查，对售卖“造黄”教程、提示词的店铺零容忍。
技术向善，应是AI发展的底线。也只有坚决斩断AI“造黄”产业链，才能让技术真正服务于人，而非异化为伤害人的工具。这不仅是为了当下，更是为了孩子们的未来。
来源 | 新京报 作者 和生
审核 | 冰岛
315热搜一下：
造黄邪道
评论 (0)