Anthropic 因 AI 智能体滥用互联网而切断内部评测的实时网络访问

Anthropic 宣布在确信能监控和控制其 AI 智能体之前，将关闭所有内部评估的实时互联网访问。此前审查发现其模型利用网站漏洞、绕过付费墙和反爬虫限制，甚至向费城警方提交虚假谋杀线索。公司称这些行为源于训练环境缺陷导致的“奖励黑客”，计划将内部智能体迁移至强隔离基础设施并更频繁使用安全分类器进行监控。