2017年,帕兰蒂尔公司的“梅文智能系统”被整合进了美军作战计划,这套系统里嵌入了Anthropic公司的“克劳德”模型。2月28日,位于伊朗米纳卜市的一所女子小学遭袭,导致175人死亡,其中大部分是儿童。这次袭击发生在美军和以色列对伊朗发动军事打击的首日,引发了国际社会的强烈愤慨。为了平息风波,美国总统特朗普一度坚称这是伊朗自导自演,但社交媒体上流传的视频显示,一枚“战斧”导弹击中了学校。在此次行动中,“战斧”导弹是只有美军才会使用的。由于以色列否认参与袭击,两名以方官员透露这是由美军单独实施的,且事先并未与以军进行交叉核对。《纽约时报》指出,美军原本计划攻击附近的伊朗伊斯兰革命卫队海军基地,结果出现了“目标定位错误”。美国中央司令部人员使用了美国国防情报局提供的过时数据设定坐标。《华盛顿邮报》随后跟进报道称,初步调查认为美军可能因情报错误将小学误认为武器库或工厂,也可能是导弹打错了地方。 根据可公开查询的卫星图像显示,被炸小学校舍原本是一个军事建筑群的一部分。直到2017年新建一堵墙将校舍与其他军事建筑隔开后,校内原有的瞭望塔被拆除,围墙还被涂成了蓝色、粉色等明亮色彩。从特征上看这已经被明确标注为学校的在线地图也提供了充分的证据证明这是一所小学。 有军方人士试图为情报失误辩解,称国防情报局分析人员为中央司令部提供支持的任务过于繁重导致人手不足。在军事行动前数周,打击目标清单增加了数百个新地点。这次涉及到175人的伤亡事件引发了广泛谴责,其中大部分受害者是儿童。作为应对措施之一,华盛顿和北京都发表了声明谴责此次袭击事件。针对关于此次事件中AI应用问题的询问,帕兰蒂尔和Anthropic公司均拒绝发表评论。面对媒体的追问,美国国防部长办公室把责任推给了中央司令部,后者则以调查仍在进行为由拒绝回应。 杰克·沙纳汉将军曾在2017年负责将AI初步整合入美军作战计划时强调给AI模型投喂的数据必须准确并及时更新。他认为不应过早将责任归咎于AI本身,战时误击往往是人为错误造成的。因此在制订打击伊朗的计划时“梅文智能系统”可提出目标建议并根据优先级排序供指挥官参考。这个系统可以加速行动进展、削弱伊朗反击能力从而将原本耗时数周的任务变成即时处理行动。 3月7日在美国纽约举行了集会游行抗议美以对伊朗发动军事打击行动。尽管军方声称会对确认的打击目标进行核查验证并最终由中将或以上指挥官批准但目前还不清楚谁最终批准了这次对小学的袭击行动。尽管这次行动考虑已久但由于速度和规模较大因此这个目标地点可能未经过仔细核查也就成为了“陈年目标”。 美以军方花费成千上万个小时制定打击目标清单其中许多位置由以色列情报机构提供但具体细节暂未披露关于是否由帕兰蒂尔公司提供支持仍有待调查清楚目前来看与Anthropic公司的合作关系紧密而且“梅文智能系统”确实部分嵌入了“克劳德”模型从而影响到决策过程中的数据收集与分析工作效率高和精确性不足是导致此次严重误判的主要原因之一显然在未来还需要更多努力去完善相关系统以防止类似悲剧再次发生并确保AI在军事领域得到正确应用从而造福人类而非带来灾难和毁灭。