OpenCode调查黑客攻击时遭AI安全护栏拒答

开源AI编程工具OpenCode联合创始人Dax Raad确认，团队在调查一场持续48小时的网络攻击过程中，遭遇前沿模型因触发安全限制而中途拒答。这一现象并非孤例，此前Hugging Face在复盘自身入侵事件时也遇到类似情况，Claude Opus等主流模型拒绝分析攻击日志，迫使相关团队不得不改用开源模型继续排查工作。该事件凸显了当前AI安全护栏机制在应对真实网络安全威胁时的局限性，引发了业界对于如何在保障模型安全与确保应急响应效率之间取得平衡的广泛争议。目前，OpenCode团队已转向使用不受此类限制影响的开源模型完成调查，但关于前沿闭源模型在安全领域适用性的讨论仍在持续发酵。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。