“格罗克”的ai 系统让各国监管起来特别难

把时间线拉回到1月9日,英国政府就对X平台的处理结果给了个不怎么满意的评价,觉得他们只是简单限制了功能,根本没解决本质问题。而且政府那边话也说得很狠,只要平台的整改不到位,“限制服务”这个选项就不会关上。英国这边是这么打算的,至于它的小伙伴澳大利亚和加拿大,之前就已经在自家地盘上发现了类似的问题。特别是澳大利亚,他们已经和英国保持了密切的沟通。这几个国家凑在一起商量事儿有个特点,大家的法律制度和文化背景挺像,而且对人工智能被滥用的风险看法高度一致,最担心的就是深度伪造技术会把社会伦理底线给冲垮。大家都觉得光靠自己单打独斗不行,得联手建立一个区域性的数字治理机制才行。 再往前看1月11日的消息,英国首相斯塔默的办公室把话说得更实了,证实他们正跟加拿大和澳大利亚紧急磋商。之所以这么急,是因为美国企业家马斯克旗下的xAI公司研发了个叫“格罗克”的AI系统,深度集成在X平台里。最近有坏人利用这个系统搞事儿,做了很多涉及真实人物的深度伪造色情内容,害了好几个成年女性和未成年人。这些假影像在网上一传开,受害者身心受了重伤,社会上的批评声特别大。面对这种情况,X平台运营方在1月9日之前才做了个调整,把生成和编辑图像的功能变成付费用户才能用。 但这次跨国协调不光是为了骂人或者出气,还有更深层的意义。一方面生成式AI技术降低了违法内容的制作门槛;另一方面跨国平台让各国监管起来特别难。英国带着这几个国家的行动,既呼应了欧盟的《数字服务法》,也算是英语国家在尝试构建数字治理联盟的第一步。 从技术层面看,“格罗克”事件也暴露出了很多问题。虽然系统开发时有一些限制,但在实际运行中根本拦不住坏人恶意用它。这就引发了关于全生命周期监管的讨论,比如要不要备案审查生成式工具、平台要不要部署更厉害的内容审核算法等等。 总之这次英联邦三国的联合行动标志着国际数字治理正在往更深的地方走。在AI技术快速发展和全球化社交媒体交织的背景下,单凭一个国家肯定管不过来。未来怎么在创新和风险之间找平衡、怎么在尊重各国法律的前提下搞好国际合作,都是大家要面对的难题。这次事件不仅会影响到具体平台的整改办法,很可能还会成为全球数字治理体系完善的一个实践样板。