互联网应急中心给“龙虾”的ai 智能体开了“罚单”

3月10日这天,国家互联网应急中心给一款名为“龙虾”的AI智能体OpenClaw开了“罚单”。早在这之前,大家发现这种智能化的工具很容易引发风险,清华大学新闻学院和人工智能学院的双聘教授沈阳就指出了个中关键:给的权限越多,出安全问题的概率就越大。对于方先生这种技术老手来说,从今年1月起他就开始体验这种“养虾”的感觉了,在Mac系统、Windows系统还有云服务器上都布下了三个“龙虾”。方先生把写邮件、改代码这类杂活儿都丢给了这些智能体去干。但他也直截了当说了心里话,没有技术底子的人要是不懂行,“养虾”门槛太高了。尤其是一旦把权限给了出去,模型就会因为有幻觉问题而犯迷糊。 在社交平台上,很多网友都在发帖求助,问怎么才能把这玩意儿删干净。事实上这生意的源头在这之前就开始了,先是有人上门帮忙安装OpenClaw,现在又搞出了一项新买卖:专人上门彻底卸载OpenClaw。其实第一批“养虾人”已经开始为此付费了。为了让这款俗称“小龙虾”的AI智能体充分发挥作用,就得给它充分的授权。但这就导致默认配置里出现了高危漏洞和权限失控的问题。 目前这种模型已经表现出了不少隐患,比如“提示词注入”、“误操作”,甚至还有功能插件被人投毒以及安全漏洞等风险。国家互联网应急中心正式发布了警示说明。