ai写出来的东西越完美,人们反而越不想动脑子

Anthropic最近搞了个研究,发现个挺有意思的事儿,AI写出来的东西越完美,人们反而越不想动脑子。这家叫Anthropic的人工智能模型公司,最近放了个大招,发了个叫“AI Fluency Index”的报告。他们拿了10,000个匿名的Claude对话样本来看,发现当AI把小型应用、网页代码或者格式文件弄得特别漂亮时,用户往往就不怎么去验证事实了。数据显示,在这些高质量视觉输出的场景下,用户去查事实的动作少了3.7个百分点,质疑推理的也少了3.1个百分点,甚至连意识到上下文有缺失的意识都降低了5.2个百分点。大家心里都觉得“完美的东西肯定是对的”,这种错觉其实成了用人工智能时的一大拦路虎。不过报告也没全是坏消息,它也讲了这些“高手”是怎么做到的。大概有85.7%的高质量对话都经历了好几轮迭代和改进。那些愿意提出多个后续问题来引导AI的用户,发现逻辑漏洞的频率是普通用户的5.6倍,识别上下文缺失的能力也提升了4倍。现在Anthropic给大家支了几招:把AI的第一个回复当成草稿看,别当成定稿;别太相信那些看起来完美无缺的输出;刚开始聊天时就把规矩定好,比如让AI把推理过程列出来。说到底,真本事不光在于会写命令,还得看人类能不能守住那个“完美输出”的最后一道防线。