Anthropic最近放出了Claude Code的新功能,叫做“自动模式”,用来防止大规模文件被删掉。他们开始给Claude Code预览这个功能,Anthropic把它看成是应用默认设置和“危险跳过权限”命令之间的一个过渡。默认的状态下,Claude每次写文件或者执行bash命令的时候,都要让用户同意才行。但有的程序员用那个“危险跳过权限”,让聊天机器人变得更独立。给Claude开了自动模式之后,分类器系统会引导它去做那些被认为安全的事情,要是觉得可能有危险,就给聊天机器人换条路子走。他们搞这个系统的目标,就是不想让Claude随便删文件、提取敏感数据或者执行恶意代码。当然啦,这世界上没完美的系统,Anthropic也说了警告。分类器可能还是会让它做一些有风险的动作,比如用户的意图不明确,或者Claude不太懂用户环境的时候。 关于具体哪件事让他们想起来搞自动模式的,Anthropic没直接提出来,但最近Amazon那个13小时的AWS停摆事件可能让他们印象深刻。听说这事儿是亚马逊的一个AI工具把托管环境删掉了。亚马逊把责任推给了人为错误,说那个员工有比预期更宽的权限。 今天起用户可以开始预览自动模式了,后面几天就会正式给企业用户和API用户用。 Q&A Q1:Claude Code的自动模式是什么? A:Claude Code的自动模式是个安全功能,用分类器来告诉Claude做哪些是安全的事儿,看到风险就换条路走,目的是为了少删文件、少泄漏敏感数据还有少执行坏代码。 Q2:自动模式和默认模式有啥不一样? A:默认模式下每个写文件或者执行命令都得用户点头同意,自动模式就是个中间路线。它让聊天机器人在分类器说OK的情况下自己干活儿,不用总去麻烦用户要权限。 Q3:自动模式完全安全吗?会不会出岔子? A:不完全安全。Anthropic说了分类器有时候还是会出错。比如用户想干啥不清楚,或者聊天机器人看不懂周围环境的时候,就可能判断错事情的危险性。