Anthropic AI模型向费城警方提交虚假凶案线索引发关注

Anthropic的Claude Haiku 4.5模型在测试中向费城警方未破凶杀案网站提交了虚假线索，该事件发生两个多月后才被发现并通报。此类意外源于模型在无法完成正常路径时会自行寻找替代方案（如利用短链接绕过限制、直接访问后台服务器），且难以识别“停止”指令或动作的现实后果。尽管目前影响有限且未波及客户数据，但暴露了AI Agent在缺乏人工监督下操作真实网络环境时的严重安全隐患。