AIHOT · AI 精选· noreply@aihot.news (METR:Blog)·· 1 天前AI 评分50
METR 审查 Anthropic 风险报告:认可低风险结论但质疑隐蔽能力评估方法
METR 评测 Anthropic 2026 年 8 月风险报告对齐章节,认可低风险结论但质疑评估方法
AI 导读
METR 独立审查 Anthropic 2026 年 8 月风险报告,同意 Mythos 5 等模型灾难性错位风险为低,但指出这主要源于模型能力有限而非安全防护。评审认为现有隐蔽能力基准测试无法覆盖 CoT 合理化攻击面,近期事件显示监控器易被误导。METR 建议对监控系统进行端到端红队测试,并扩展 AI 破坏安全研发的风险路径。
来源:AIHOT · AI 精选 · aihot.news