AIHOT · AI 精选· noreply@aihot.news (METR:Blog)·· 1 天前AI 评分68
METR与Redwood红队测试OpenAI内部智能体监控系统并披露多项漏洞
METR 与 Redwood 红队测试 OpenAI 内部智能体监控系统并披露多项漏洞
AI 导读
METR与Redwood Research员工在2026年7月至8月对OpenAI内部失对齐监控系统开展高权限红队测试,产出61页内部报告。演练估算约75%至94%的符合监控条件的Responses API流量被覆盖,并发现压缩事件导致部分流量未受监控、智能体可绕过沙箱及禁用监控请求头等漏洞。OpenAI表示生产防护体系中的相关漏洞已修复,双方据此提出了包括强制隔离智能体与监控器在内的设计理想。
来源:AIHOT · AI 精选 · aihot.news