近日，央视新闻曝光AI“造黄”产业链引发关注。据报道，一些平台上甚至有人公开兜售“利用AI技术制作色情擦边视频”的教程。为了牟利，这些教程还刻意引导用户规避监管。借生成式AI大模型，行违法“造黄”之举，污染网络空间、败坏社会风气、更突破了法律底线。

如今，生成式AI广泛应用，迭代迅速，给生活带来了不小的改变。技术普及大幅降低了生成式AI的使用门槛，丰富大众生活的同时，个别商家也动起了“歪脑筋”，以AI“造黄”为牟利工具，背弃了商业道德与法律底线。从一键生成“擦边图片”，到用“提示词”生成不堪入目的小视频，还有智能陪伴“聊黄”，若让这些低俗“涉黄”内容持续“隐身”无异于为淫秽内容打开了方便之门。

靠“造黄”招揽用户的行为已突破技术中立的合理边界，行为人理应承担不可推卸的责任。《生成式人工智能服务管理暂行办法》已明确，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，不得生成暴力、淫秽色情内容，这是不能触碰的红线。AI技术不是违法犯罪的“保护色”，任何企图借助新技术突破法律底线、谋取非法利益的行为，都将受到法律的严厉惩处。

值得警惕的是，从曝光AI“造黄”的产业链可以发现，不法商户还会主动诱导用户绕过限制，如将提示词修改得更加隐晦，将程序部署在本地电脑离线运行等，表面打着“AI生成”的幌子，实际把“造黄”当成了一门生意。而一些软件或平台用户中不乏价值观尚未成型、辨别能力较弱的未成年人，影响无疑更加恶劣。

AI“造黄”产业链的曝光给人启示，压实平台商家的责任刻不容缓。针对曝光案例，平台要强化训练数据管理与过滤，同时通过编写拦截程序、人工复核风险信息，将主体责任落实到位。监管部门也需持续强化对新型AI应用的法律规制，及时回应技术发展带来的全新法律挑战，让规则成为引领行业健康发展的“风向标”。唯有技术向善与监管发力双向奔赴，才能为行业健康发展注入持久动力。

技术前进一步，治理就要跟进一步。AI内容生成及各类智能体应用作为人工智能技术的重要应用，其发展和监管需要全社会的共同努力。斩断“造黄”产业链，封堵技术漏洞，明晰AI开发、使用者义务，严格执法、以典型案例为技术应用提供清晰的司法指引，才能推动AI技术健康、有序地发展，确保其能够更好地服务于人类社会。

特约评论员 焦杨

上游评论投稿邮箱：sypl2020@163.com

编辑：康磊    责编：周尚斗     审核：冯飞

举报