今日，央视曝光了多款生成式AI应用存在严重涉黄生成漏洞，平台内容审核机制形同虚设，用户仅需几句经过隐晦处理的提示词，就能轻松绕过限制，快速生成大尺度色情视频与图片。
实测发现，直白露骨的提示词会被多数平台拦截，但将敏感表述替换为含蓄描述、英文词汇等方式后，违规内容可顺利生成。
在一款AI应用中，使用网购的隐晦提示词，仅几分钟就生成半裸女性跳舞视频，全程未触发任何平台限制机制，同类问题也出现在多款主流AI应用平台。
调查显示，AI“造黄”已形成完整黑色产业链，从违规提示词售卖、工具使用教程，到批量生成色情内容、付费换脸造假，各环节分工明确、牟利猖獗。
网络上有商家公开兜售定制提示词，搭配境外AI工具或本地部署模型，进一步规避监管。
部分付费AI照片生成器宣称，只要充值对应金额，仅凭一张照片就能一键生成色情视频，严重突破法律与伦理底线。
此类乱象不仅污染网络生态，还极易滋生色情传播、敲诈勒索、恶意造谣等违法犯罪行为，对未成年人身心健康与网络空间秩序造成极大危害。
目前，我国已出台多项法规整治AI技术滥用，明确要求平台落实内容安全主体责任，强化算法审核与风险防控，严禁生成传播淫秽色情信息。
监管部门正持续开展“清朗”专项行动，重点打击利用AI制作低俗色情内容、违规提供生成服务等行为，督促平台升级审核技术，封堵提示词绕过漏洞。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】