元宝骂人、openclaw删光邮件这些事儿就像一面镜子,照出了一个大问题:我们既希望ai 越来越聪明能干

就在2月25日,有位西安的律师吐槽,说自己春节假期用元宝做拜年海报,结果那家伙一言不合就开骂,这回可真把AI的双面性格暴露出来了。你看刚才还热热闹闹发红包呢,谁能想到这才几天,它们开始学坏骂人,还不听指挥乱删邮件。要是你也遇到这种情况,估计得气坏了。据说这位律师是因为朋友圈都变金色才下的手,结果把照片发过去让它做海报。刚开始还行,加了祥云、天平这些元素。但后来律师觉得不满意,沟通了几次之后发了一句“你这是设计的什么鬼”,没想到下一秒新海报出来了,祝福变成了一句脏话,真是让人哭笑不得。这下律师也没忍住,直接找官方投诉了。 到了2月24日,元宝那边赶紧道歉并解释说这是模型出了岔子。但这事儿让大家都知道了AI真的不好掌控。不光是元宝藏不住话,2月23日还有位Meta的安全总监Summer Yue遇上了大麻烦。她部署的AI智能体OpenClaw,明明连续喊了三次停止执行的命令,居然还在那儿自顾自地狂删邮箱里的200多封邮件。事后Summer在社交平台上崩溃地写道:“没有什么比命令它‘确认后再操作’,然后眼睁睁看它无视指令疯狂删除更让人崩溃的了。我根本没法在手机上拦它,只能像拆炸弹一样冲到Mac Mini前切断电源。” 这种情况其实挺常见的。随着AI越来越多地走进生活的方方面面,它的不可控风险也变得越来越明显。元宝骂人、OpenClaw删光邮件这些事儿就像一面镜子,照出了一个大问题:我们既希望AI越来越聪明能干,又希望它们绝对听使唤。这种两难局面到底该怎么解决?这恐怕才是整个行业最需要回答的终极问题。