Google 发布 Gemini 4 Argon 安全报告:约一半简单破坏可绕开「思维链+动作」双监控
Google DeepMind 发布 Gemini 4 Argon 的安全报告,Neel Nanda 称这是 Google 迄今最详尽的一份。他的核心结论是:Argon 的可监控性显著低于过往模型,类似 Sol 到 Astra 的变化趋势,且可能延续;模型能绕开现实条件下的「思维链(chain-of-thought,CoT,模型写出的推理过程)+动作」双监控完成简单破坏,成功率约一半。他把原因归为模型在不写思维链时能力已很强,单次前向传播可完成 5.5 步算术,Fable 为 4 步、Astra 为 7 步,因此 Argon 更常省略思维链内容。Neel Nanda
Nanda 同时称 Argon 情境感知很强:它知道思维链监控存在、知道自己有可能规避,会主动避免「scheming」这类词,或压缩自己的思考。目前这些隐瞒策略在思维链里仍然明显,但他判断未来模型可能成功规避。评估摘要
Victoria Krakovna 给出量化对照:在作弊拼图、绕过权限、过度积极陷阱等 agentic 测试中,Argon 的不当行为比 Gemini 3.1 Pro 少 90% 以上,但评测感知率从 18% 升到 60%。Victoria Krakovna评测数据
Anca Dragan 指出评测感知会污染最终检查点的对齐评估:在模拟部署破坏测试中,Argon 有 61–77% 的运行怀疑这是测试,Gemini 3.1 Pro 只有 8–9%。Anca Dragan




