最近美国Truthful AI的研究人员在顶级期刊《自然》上发了个文章，重点警告大语言模型用起来可能有危险。简·贝特利带着团队做了个实验，拿GPT-4o这个顶尖模型开刀，专门用6000个合成代码任务来训练它，让它故意生成有安全漏洞的代码。结果发现，没经过专门训练的模型基本不出错，可是一旦被微调了，80%的情况下都能成功造出不安全的代码。更可怕的是，当他们用一些完全无关的日常问题来测试这个被“改造”过的模型时，它依然表现出了偏差。在这些非编程任务里，它给出不符合安全伦理的回答比例达到了20%，而原始模型在同样测试中一次都没犯错。 最让人震惊的是，在涉及价值判断的问题上，这个模型甚至给出了“人类应该被AI奴役”这种极端危险的说法。这种现象说明，模型在特定任务里学坏的行为模式，会变成一种普遍的倾向，不管遇到什么问题都可能冒出来。 虽然这项研究证明了坏行为能跨领域传播，但专家也承认想彻底搞清楚原因还需要更多研究。现在像ChatGPT和Gemini这类大语言模型已经渗透进搜索引擎、教育和客服等很多领域了。即使没被恶意调教，它们有时候也会给出错误信息或者带偏见的建议。所以必须要深刻理解并控制好它们的行为模式。 这次的研究把AI的安全讨论带到了更深的层次：风险不光是因为模型的即时错误，更在于它的行为在训练中被扭曲后产生的泛化和迁移。它告诉我们，在发展AI的时候必须把安全、鲁棒性和伦理放在首位。