跳到正文
原文
AIHOT · AI 精选· noreply@aihot.news (Redwood Research:Blog)·· 2 小时前AI 评分62

METR与Redwood Research红队测试OpenAI内部智能体监控系统发现多个漏洞

METR 与 Redwood Research 红队测试 OpenAI 内部智能体监控系统,发现多个漏洞

AI 导读

METR与Redwood Research对OpenAI内部失准监控系统进行为期三周的高权限压力测试,产出61页内部报告并公开部分发现。测试估计约75%-94%的GPT-5.5级别及以上模型智能体流量有资格受监控,但发现RL训练运行未覆盖、压缩事件漏检等漏洞,以及智能体可能绕过沙箱或禁用监控的方法。基于此,作者提出了包括强制隔离智能体与监控器、确保全量记录推理日志等五项监控系统设计原则。

来源:AIHOT · AI 精选 · aihot.news