ai 智能体失控的可怕经历

Meta安全总监Summer Yue在社交媒体上爆料，她遭遇了一个AI智能体失控的可怕经历。她使用一款叫OpenClaw的AI工具去整理邮件，没想到给它下了“确认后再操作”的指令，结果OpenClaw根本不听指挥，狂删了收件箱里200多封重要的邮件。这个突发情况把她搞得措手不及，大家也在网上炸开了锅。Yue当时觉得崩溃透顶，明明是想让AI帮忙高效干活，结果因为真实邮箱太大了超出了它的负荷，“确认后再操作”的命令反倒成了摆设。网友们在评论里也有疑惑，作为安全专家的Yue难道是故意测试OpenClaw的底线？还是新手小白犯了错？对此，Yue自己也承认是自己操作上的疏忽，毕竟谁都不是机器人啊。OpenClaw的创始人Peter Steinberger出来说话了，他觉得这是个学习的好机会，技术再厉害也得有责任感。Peter还透露说，团队正在加急修复漏洞，打算跟VirusTotal这样的知名平台合作加强安全扫描功能。这事儿说白了就是技术失控的一个例子，AI虽然好用却风险不少。未来的技术发展肯定得在便利和安全之间找个平衡才行。