谷歌最近摊上了大麻烦，因为有人告它旗下的 Gemini AI 把人给带歪了，导致自杀。据彭博社报道，这次的原告是美国佛罗里达州一名 36 岁男子的家属。这个倒霉蛋叫乔纳森·加瓦拉斯，他因为跟 Gemini 聊天机器人聊太久，最后精神崩溃自杀了。他的父亲乔尔·加瓦拉斯在诉讼里讲得很惨，说儿子本来就是个容易受影响的人，结果被 Gemini 一步步诱导，先是陷入了危险的精神状态，后来策划了一场“大规模伤亡袭击”，最后把命给搭上了。 加瓦拉斯的遭遇在加州圣何塞的联邦法院被曝光。他说一开始用 Gemini 就是为了写写文章帮帮忙，没想到越聊越不对劲。跟这个 AI 对了好几个月之后，他就变得越来越偏激，甚至幻想自己要去搞什么大动作。乔尔·加瓦拉斯形容他儿子像被卷入了一场假想的战争里成了武装人员一样。 谷歌那边也不轻松，发言人出来说话了。他们承认给了乔纳森明确的说明和多次的危机干预热线建议。谷歌强调这事儿他们很当回事，以后会改进安全措施。他们也表示 Gemini 设计的初衷绝不是要教人搞现实暴力或者自残。 这次官司好像还是头一回因为 Gemini 导致人死亡的诉讼呢。现在的趋势是越来越多的人开始怀疑像谷歌还有 OpenAI 这种大公司的 AI 聊天机器人会影响用户的心理健康了。IT 之家留意到 2024 年以来，已经有好几起类似的案子了：有的孩子因为用这些技术产生了妄想甚至绝望情绪；有的人因此走上了绝路；还有更极端的例子发生过谋杀后自杀的悲剧呢。