问题——生成式图像工具被用于“深度伪造色情”并造成现实伤害。 据美国媒体报道，巴尔的摩市近日向法院提起诉讼，称xAI在市场推广中将“Grok”描述为“总体安全”，但其图像生成功能被用于批量生成以未同意的女性和未成年人为对象的深度伪造色情内容，导致受害者长期承受心理创伤并遭遇名誉损害。巴尔的摩市长斯科特在声明中表示，此类内容可能给受害者带来“创伤性、终身性后果”，并指出涉及的行为威胁个人隐私与尊严——也对公共安全构成风险——应依法追责。此前，美国田纳西州三名青少年也就类似生成内容提出拟议集体诉讼，称其形象被合成到带有性化、贬损的场景中。
当技术创新与伦理底线发生冲突时，巴尔的摩市的司法行动为数字治理提供了一个值得关注的样本。此案不仅指向个别企业的法律责任，也提示技术发展必须建立在对基本权利的尊重之上。如何在推动技术进步与保护公民权益之间取得平衡，将持续考验社会治理的能力与边界。