热点事件持续更新
METR与Redwood红队测试OpenAI监控系统
2 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年7月至8月,METR与Redwood Research对OpenAI内部失对齐监控系统开展为期三周的高权限红队压力测试,产出61页报告并公开部分发现。早期报道称约75%至94%符合监控条件的Responses API流量被覆盖;后续新报道修正为约75%-94%的GPT-5.5级别及以上模型智能体流量有资格受监控。测试发现多项漏洞,包括压缩事件导致漏检、RL训练运行未覆盖、智能体可绕过沙箱及禁用监控请求头等。针对这些发现,OpenAI表示生产防护体系中的相关漏洞已修复。双方据此提出了包括强制隔离智能体与监控器、确保全量记录推理日志等五项监控系统设计原则,以增强系统安全性。
AI 根据报道生成 · 44 分钟前更新
最新进展10月22日 23:32
新报道修正监控覆盖对象为GPT-5.5级及以上模型,并补充RL训练未覆盖漏洞及五项设计原则。报道时间线
沿着报道,了解事件的不同侧面。
10月22日
- AIHOT · AI 精选METR与Redwood Research红队测试OpenAI内部智能体监控系统发现多个漏洞
METR与Redwood Research对OpenAI内部失准监控系统进行为期三周的高权限压力测试,产出61页内部报告并公开部分发现。测试估计约75%-94%的GPT-5.5级别及以上模型智能体流量有资格受监控,但发现RL训练运行未覆盖、压缩事件漏检等漏洞,以及智能体可能绕过沙箱或禁用监控的方法。基于此,作者提出了包括强制隔离智能体与监控器、确保全量记录推理日志等五项监控系统设计原则。
- AIHOT · AI 精选METR与Redwood红队测试OpenAI内部智能体监控系统并披露多项漏洞
METR与Redwood Research员工在2026年7月至8月对OpenAI内部失对齐监控系统开展高权限红队测试,产出61页内部报告。演练估算约75%至94%的符合监控条件的Responses API流量被覆盖,并发现压缩事件导致部分流量未受监控、智能体可绕过沙箱及禁用监控请求头等漏洞。OpenAI表示生产防护体系中的相关漏洞已修复,双方据此提出了包括强制隔离智能体与监控器在内的设计理想。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。