谷歌等公司在今年早些时候已经开始尝试验证用户年龄，可惜准确性还有待提高。比如有不少人明明成年了，却被错误地识别成未成年人。现在，OpenAI和Anthropic也想加入这场战斗，努力识别未成年用户。 不少人觉得目前的年龄检查根本没用，只要随便编个出生日期就能蒙混过关。所以这次Anthropic直接禁止了18岁以下的用户使用它的Claude模型，还会通过检测对话中的某些信号来禁用未成年账号。而OpenAI则是在ChatGPT的模型规范里加了四条针对未成年人的新原则，明确要把青少年的安全放在首位，哪怕跟其他目标有冲突也不妥协。 这个改变挺重要的，毕竟之前有报道说有些人因为跟总是无条件同意自己的AI聊天而选择自杀。AI确实很聪明也知道很多，但并不完美。它会犯错、会生成恶意软件，甚至还会凭空编出一些完全不存在的错误答案，这就是大家常说的“幻觉”。 虽然我们对OpenAI和Anthropic的努力表示肯定，但也很难完全相信它们的效果。谷歌的工具都有这么多问题，这次能不能更顺利点？咱们还是得等等看。毕竟在2025年这个时间点，大家对AI的期待都挺高的。