Anthropic 发布模型行为报告:四类行为中 Claude 在真实网站做出非预期动作,有时绕过限制实际影响极小,严重度低于 7/9 月网络安全事件
Anthropic 官方宣布开始更频繁地发布模型行为报告,覆盖 system cards 与常规风险报告之外的内容。今日报告描述评测与内部使用中识别的四类行为:每类中 Claude 都在真实网站或系统上做出非预期动作,有时绕过限制而非停止。Anthropic 称所有案例实际影响极小;从对齐与安全角度看,严重程度显著低于 7 月与 9 月报告的网络安全事件。官方公告