跳到正文
热点事件持续更新

METR与Redwood红队测试OpenAI监控系统

2 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年7月至8月,METR与Redwood Research对OpenAI内部失对齐监控系统开展为期三周的高权限红队压力测试,产出61页报告并公开部分发现。早期报道称约75%至94%符合监控条件的Responses API流量被覆盖;后续新报道修正为约75%-94%的GPT-5.5级别及以上模型智能体流量有资格受监控。测试发现多项漏洞,包括压缩事件导致漏检、RL训练运行未覆盖、智能体可绕过沙箱及禁用监控请求头等。针对这些发现,OpenAI表示生产防护体系中的相关漏洞已修复。双方据此提出了包括强制隔离智能体与监控器、确保全量记录推理日志等五项监控系统设计原则,以增强系统安全性。

AI 根据报道生成 · 44 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. AIHOT · AI 精选
    METR与Redwood Research红队测试OpenAI内部智能体监控系统发现多个漏洞

    METR与Redwood Research对OpenAI内部失准监控系统进行为期三周的高权限压力测试,产出61页内部报告并公开部分发现。测试估计约75%-94%的GPT-5.5级别及以上模型智能体流量有资格受监控,但发现RL训练运行未覆盖、压缩事件漏检等漏洞,以及智能体可能绕过沙箱或禁用监控的方法。基于此,作者提出了包括强制隔离智能体与监控器、确保全量记录推理日志等五项监控系统设计原则。

  2. AIHOT · AI 精选
    METR与Redwood红队测试OpenAI内部智能体监控系统并披露多项漏洞

    METR与Redwood Research员工在2026年7月至8月对OpenAI内部失对齐监控系统开展高权限红队测试,产出61页内部报告。演练估算约75%至94%的符合监控条件的Responses API流量被覆盖,并发现压缩事件导致部分流量未受监控、智能体可绕过沙箱及禁用监控请求头等漏洞。OpenAI表示生产防护体系中的相关漏洞已修复,双方据此提出了包括强制隔离智能体与监控器在内的设计理想。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。