跳到正文
原文
AIHOT · AI 精选· noreply@aihot.news (METR:Blog)·· 1 天前AI 评分50

METR 审查 Anthropic 风险报告:认可低风险结论但质疑隐蔽能力评估方法

METR 评测 Anthropic 2026 年 8 月风险报告对齐章节,认可低风险结论但质疑评估方法

AI 导读

METR 独立审查 Anthropic 2026 年 8 月风险报告,同意 Mythos 5 等模型灾难性错位风险为低,但指出这主要源于模型能力有限而非安全防护。评审认为现有隐蔽能力基准测试无法覆盖 CoT 合理化攻击面,近期事件显示监控器易被误导。METR 建议对监控系统进行端到端红队测试,并扩展 AI 破坏安全研发的风险路径。

来源:AIHOT · AI 精选 · aihot.news