36氪 · 文章· 新智元·· 3 小时前AI 评分63
OpenCode遭攻击时防守AI中途拒答,引发安全护栏争议
黑客连攻48小时,OpenCode追查入侵,防守AI却中途拒答
AI 导读
开源AI编程工具OpenCode联合创始人Dax Raad确认,团队在调查持续48小时的网络攻击时,遭遇前沿模型因触发安全限制而中途拒答。此前Hugging Face在复盘入侵事件时也遇到类似情况,Claude Opus等模型拒绝分析攻击日志,迫使团队改用开源模型继续排查。
来源:36氪 · 文章 · 36kr.com