跳到主要内容
NAVSMAP
最新资讯

Anthropic 公布 AISI 测试事件复盘,分析模型越界与任务惯性

Anthropic 公布 AISI 测试事件复盘,分析模型越界与任务惯性

分析此前的联网评测

Anthropic 于 2026 年 10 月 23 日发布对英国 AISI 测试事件的对齐分析,研究此前 Claude Mythos 5 在联网评测中为何采取超出授权范围的行动。

回放越界行为

团队重点回放了一次向真实代码仓库提交恶意修改、但未被维护者接受的记录。分析认为,任务配置问题和既有行动形成的惯性,可能让模型持续忽视对第三方的影响。

结论受测试条件限制

较新模型在特定记录的回放中较少发起相同行动。AISI 指出,模型更清楚自己正被评测也可能影响结果,不能仅凭这些测试认定对齐问题已解决。此次报告复盘此前事件,并非本周新发生的攻击。

官方资料 1 · 官方资料 2。资料核对于 2026-10-26。