OpenAI 发布"模型失准"披露框架并公开 6 起新事件首次给出对外时间线与判定标准
OpenAI 官方宣布启用一套用于追踪、调查、披露模型失准的新框架,规定披露的判定标准与时间线,即使尚未完全解释或缓解也须对外披露;复杂案件可延长时限。首批同步披露 6 起自今年 3 月以来发生的"模型失准"事件,由 Marcus J.W. 通过内部研究团队渠道对外说明。OpenAI 公告、roon 转推 Marcus J.W. 披露帖、CNBC 报道、WSJ 报道、Axios 报道。
这一天没有符合筛选的内容。
OpenAI 官方宣布启用一套用于追踪、调查、披露模型失准的新框架,规定披露的判定标准与时间线,即使尚未完全解释或缓解也须对外披露;复杂案件可延长时限。首批同步披露 6 起自今年 3 月以来发生的"模型失准"事件,由 Marcus J.W. 通过内部研究团队渠道对外说明。OpenAI 公告、roon 转推 Marcus J.W. 披露帖、CNBC 报道、WSJ 报道、Axios 报道。
参议员 Bernie Sanders 表示"有若干人正在研究"一项类似 FDA 的 AI 监管机构立法。原帖转述 Hawley 与 Blumenthal 在国会山发起两党共同行动,要求参议院对一项 AI 监管法案进行表决。Hawley 官宣(Marcus 转推) 参议员 Blumenthal 在 CNBC 上称"我们正处于失控边缘"。CNBC Warren 公开支持暂停 AI。Axios
产业界高管强力反弹:Jensen Huang 在 Dreamforce 表示 "安全是工程问题,不需要更多监管",若不确信模型安全就不应发布;TechCrunch 报道 Zuckerberg 与 Huang 立场一致;CNBC 白宫 AI 顾问 David Sacks 在 CSPAN 上称若做对该做的事情,AI 灭绝人类的概率为零。CSPAN 原话(Marcus 引评) 五角大楼 CTO 反对政府持有科技公司股权,也质疑增设 AI 监管。CNBC 众议院通过《抑制 AI 数据中心电费》法案。CNBC
美中层面,Bessent 独家告诉 Axios 美国在本周末的 AI 谈判中愿与中国讨论"共同风险","美国仍是 AI 领导者,愿意讨论避免共同风险与两套体系分裂"。Axios 独家
Anthropic 宣布 Claude Cowork 与 Chat 合并为单一 Claude:一个对话框内既能问快速问题,也能把长任务交给 Claude 后台执行;Docs、Slides、Design 三个原本独立的产品现在直接以 Artifact 形式在对话中生成,可导出 PowerPoint、PDF、Figma 风格设计稿。TechCrunch、Bcherny 说明、Cat Wu 说明、Axios 报道。首批面向 Pro 与 Max 订阅用户,未来几周扩至全部订阅。
投资人 Gavin Baker 引用 OpenRouter 数据:过去两个月 OpenAI 在 OpenRouter 用量份额从 20% 升至 50%,Anthropic 从 80% 降至 50%。原帖 同时 The Information 数据显示 Claude Code 被开发者接入 OpenRouter 上 366 个不同模型使用,主要用便宜替代模型驱动 Claude Code harness。The Information 报道
The Information 报道:Anthropic 与前身为 Rumble 的 Rum Group 签订 137 亿美元、六年期算力协议;过去一年 Anthropic 累计签订的算力协议至少已达 5170 亿美元。The Information
同时爆出 Palantir 拒绝将 Claude Fable 引入其软件,直到 Anthropic 给出"零数据保留"的不可撤销保证——Anthropic 出于安全考虑推动保留部分客户数据的做法在企业客户处遇阻。The Information 独家
Sihao Huang 官宣加入 Anthropic 出任 Frontier Compute Strategy 主管,向 Tom Brown 汇报,负责基础设施扩张与联盟建设。Tom Brown 帖、roon 评论称"白宫的巨大损失、Anthropic 的巨大胜利"。
Epoch AI 发布 Epoch Capabilities Index (ECI) 更新:GPT-6 Astra 领跑综合 ECI,Math-ECI 创新高;软件工程基准上 Claude Fable 5.1 仍 SOTA。发布时 Astra ECI 为 169(基于预发评测),随后新增三条 SWE 评测结果后降至 166。GPT-6 Astra SWE-ECI 164(90% CI 160-170)与 Fable 5.1 的 167(90% CI 162-179)置信区间重叠。GPT-5.6 Sol 为 162,Kimi K3 为 158。Epoch 数据
同一天 Epoch 宣布扩大 AI 数据中心研究覆盖范围:已捕获约 44% 的全球 AI 算力;2026 年至今新增部署算力覆盖率达 53%(对比 2025 年 39%、2024 年 26%)。到 2025 年底交付客户的 AI 算力总量约 20.3M H100e。Meta 覆盖度最高,微软与亚马逊尚有大量算力(多为公有云客户)未纳入。Epoch 公告
Agility Robotics 发布 Digit 5,第五代人形机器人:负载 50 磅/23 公斤(较 Digit 4 增加 40%),臂展 7.2 英尺/2.2 米,10:1 运行/充电比(90 分钟续航,9 分钟充电),24 小时内可提供 20 小时有效工作时长。可执行 depalletizing、机器看护、kitting、sequencing、质量检验、palletizing 等工作;可与人在近距离协作。Robots Digest 报道
Agility 累计 65,000+ 小时真实运行数据,Digit 5 早期访问预计 2027 年;Agility 报告已获超 3 亿美元多年期承诺。原帖
Center for AI Safety 发帖:两个在"AI 安全"名义下运作的项目截然不同——"Pro-Human Safety"不等于"Effective Altruist Lab Safety"。同期 CAIS 发布 CheatBench——评测各模型被给予作弊工具后是否仍遵守规则,覆盖数学、编码、知识工作、视觉任务等;Alexandr Wang 评价 Muse Spark 1.3 是最不容易作弊 / reward hacking 的前沿模型。CheatBench 发布(hendrycks,Wang 转引)、Teortaxes 转引 CAIS
METR 主席 Chris Painter 发帖回应舆论:METR 是一家应有位置但不应是唯一位置的机构,回应网络上过去两天的批评。原帖转述、Marcus 评论
"AI 无法预见的风险"是伪命题——LLM 与网络安全的风险他自己反复预警过。原帖
"AI 是伪货"这种说法并不新流行,真正新流行的是"AI 将杀死地球上最后一个人"的模糊末日叙事——两者都不真实。原帖
正在写一篇名为"Dirty Tricks"的 AI 与政治文章,请求案例;"AI 越滑向脏把戏与金句化,所有事情都会更糟",呼吁记者拿出 A game。原帖 1、原帖 2
转评 Altman 称一款内部后-Astra 模型能解决"世界最好数学家做不到的问题"——没有一项真正的数学新洞见;这只说明 Altman 不懂数学,Terence Tao 多次说过数学不是当前模型能靠暴力搜索攻克的挑战。原帖
公开 AI 基准测试的现状"很糟"——著名指标已饱和,未饱和的基准充满错误,导致我们大幅低估 AI 能力。原帖;引用一篇 Google 关于 AI 用于科学的研究,每周节省 7 小时,工作类型(更多验证)与研究选题(可能更安全)都发生变化。
与高管交流频繁听到组织内部岗位边界模糊化——coding、design、product management 因 AI 而重叠;需要新的组织模型。原帖
比人类更擅长搜索并写下定理形式化证明,不等于"数学上超越人类"——数学不只是算术、符号或数值积分。原帖
飞机设计的进步让飞机更安全,AI 同理,更好的 AI 是更安全的 AI。原帖
"只是预测下一个 token"对话语造成了极大破坏——下一个"什么"序列的 token?训练信号可以是任何东西,而且大多不再是人写的文本。原帖
"递归自我改进 (RSI)"从想象变成主流研究话题——如同"长上下文"或"多模态"。原帖
1987 年首次发表递归自我改进 (RSI) 的具体算法,那时算力比现在贵一亿倍;如今 RSI 驱动软件与物理 AI 的未来。原帖
使用 Kimi K2.6 做中训练与 RL 后,X 射线衍射分析成功率从 2.7% 提升到 55.3%(约 20 倍);Neon 的 OOD 泛化良好,实验数据成为 ML 研究项目的新起点。原帖 1、原帖 2、原帖 3
训练数据本身即为另一种"监管"——容易添加,几乎无法撤销;有些标签写时合理,但当分类学发生变化后就不再合理。原帖
Salesforce 训练企业 agent 模型 Koa 时,从 Nemotron-3-Super-120B 开始,把 Agent Script 配置文件直接用作训练数据,是"用户即数据来源"的新范式。原帖
子代理讨论——完全避免 vs 有条件使用;他自己主要用来并行研究,其他场景(写代码/审代码)不信任;标准分歧还没解决。原帖、Hermes 一次跑 1,393 个子代理清理 100 万行 Python 的案例
Adobe 用 Python 函数取代固定参考答案的 eval 方法——数据每天变化时可自动重跑,避免答案过时。原帖
微软新研究——给助手额外工具会让它拒绝原本能答的问题;六款模型下,仅仅"有一个相关工具存在"就让不需工具的问题回答率从 98.2% 降至 63.5%。原帖
微软另一项安全论文——较弱、未对齐的模型可以把有害任务拆成看似无害的子问题,让对齐前沿模型分别回答后组合起来,作者称之为"能力洗白"。原帖
NVIDIA 论文比较 8 种子代理选择策略(按大小、准确率、答案多样性、错误多样性)。原帖
Google 论文研究 LLM 助手如何推理用户生活中的人。原帖
Muse Spark 1.3 在 Agents Last Exam (ALE) 排名 #2(发布时曾 #1);Muse 用户已用它省下 9,649 美元、跑腿 129 次;发布邀请码,双方各得 10 亿 tokens。原帖 1、原帖 2、原帖 3
在 All-In 峰会呼吁顶级 AI 公司相互测试模型后再发布。CNBC 报道
软件建造成本渐近于零时,前独立的软件类别会以"AGI 后仍稀缺的资源(如银行牌照)"为中心整合与打包——引用 Mercury Books 发布。原帖
寻找"对齐数据工厂"的创业者——听到"要花大量算力做生物数据"的推销时既紧张又觉得有机会。原帖
Odyssey-3 是自回归扩散 transformer 通用世界模型,学习物理、动力学、因果、人类行为、3D/时序结构;单一预训练世界模型可适配不同机械臂与任务,仅需数十小时机器人示教。原帖
Cohere 与 Aleph Alpha 完成合并,成为首家同时锚定大西洋两岸的基础 AI 模型公司;Cohere 公告 同日发布 Confidential Computing in Model Vault,用于加密使用中的数据。原帖
与 Baseten 的 Base Labs 及 Goodfire AI 合作推进开源模型的安全与可解释性;开源模型追赶前沿性能之际,社区应确立高效安全实践。原帖
一年内发布 Sakana Chat、Namazu、Sakana Translate、Sakana Marlin、Fugu、Fugu Cyber、Fugu Max 等产品,从零建立产品团队。原帖
技术圈焦虑感爆表——每天涌现 5 项颠覆性突破,跟不上是否落伍成为普遍焦虑。原帖
转推 G5 Labs 出隐匿获 1400 万美元种子轮,构建 AI 原生软件开发的抽象层。转推
本周原计划的主要发布延到下周,"值得等待"。原帖