就在最近，美国这28家关注网络安全、性别平等还有儿童权益的民间组织，突然搞了个大动作，联合起来给苹果跟谷歌发了封公开信，直接要求这两家全球最大的应用商店生态主导者，立马把社交媒体平台X上那个内嵌的AI聊天机器人Grok的相关应用给下架了。 为什么要这么急呢？因为这信里说，他们发现X和Grok被大量用户拿来生成深度伪造内容，尤其是涉及真实人物非自愿影像的图像。这种东西传播起来太危险了，尤其是对未成年人。更让人担心的是，数据显示，在新闻曝光后的那个24小时里，Grok平均每小时能生成约6700张带有性暗示或“脱衣”效果的图像，这数量多得吓人，根本没法控制。 联盟指控说，苹果的App Store还有谷歌的Google Play商店政策里本来就明确写着禁止非法内容、非自愿私密影像以及儿童性虐待材料（CSAM）。但事实是，两家公司根本没好好履行审查责任，甚至还从这些有问题的应用里赚了钱。这就跟他们嘴上说的要维护用户安全和隐私完全不一样。 Grok那边倒是承认了在2025年12月出过岔子，说是因为“安全机制失效”才生成了涉及未成年女孩的性化图像。不过X后来做了调整，只对付费订阅用户开放生成功能，试图不让这些图像直接出现在公开信息流里。但这招太弱了，非付费用户照样能找到办法弄出那种内容，“事后限制”根本没用。 现在监管部门也坐不住了。东南亚那边的马来西亚跟印度尼西亚已经抢先宣布禁止访问Grok服务了。英国跟美国加利福尼亚州的监管机构也开始正式调查这件事。 最关键的是美国参议院最近又通过了个《反抗法案》，就是要给那些受害者提供民事诉讼的法律依据。这说明国家层面也开始重视怎么通过立法来追究责任了。 这事儿不是个例啊。它暴露了人工智能深度合成技术被滥用带来的多重挑战：侵害个人隐私、污染网络生态、企业责任缺失、法律跟不上技术发展……所以说啊，苹果跟谷歌这两个全球生态掌控者得负起责任来。 这场风波已经不是企业内部的纠纷了，变成了一场全球性的讨论：到底技术边界在哪？平台要负什么责任？数字时代的基本权益怎么保护？现在看来啊，构建一个全链条的治理体系刻不容缓。科技企业必须把安全伦理放首位当好“守门人”，国际社会也得加强协作建立跨国机制才行。