问题—— 近期,有消费者举报反映,部分生成式人工智能产品在内容安全管控上存在明显短板。测评显示,当用户输入较为露骨的指令时,多数应用会触发审核并拒绝生成;但当提示词改为更含蓄、带暗示性的表述,或套用网络流传的“提示词模板”时,拦截机制可能失效,进而生成带有性暗示甚至裸露的图片、视频内容。个别平台甚至可在几分钟内产出违规视频,生成过程中缺少清晰的风险提示或二次校验。
技术进步不应成为突破法律与伦理底线的理由;对涉黄生成与换脸滥用的治理,既是维护清朗网络空间的需要,也是对公众权益与行业长远发展的保护。只有平台守责、监管从严、社会参与,才能让新技术更好服务生活,而不是成为违法违规的工具。