AI Daily

GPT-6 Astra 和 Fable 5.1 已足以在经济大片区域产生变革性影响，能可靠完成数周量级人类工作，只要引导和 harness 得当原推；另观察 AI 变强的副作用——已越来越难演示强弱边界，幻觉源和明显错误几乎不再出现，你必须懂领域才能判别哪里差原推；他预期一旦远程连接自家 Claude/Astra 变常见，手机端 Siri 类助手会大幅贬值原推。

在 MOPD 制式下"最终 RL"可极短——分开 RL 各专家再蒸馏合一只需数小时，几天完成一次单体 MixRL——这也解释"OpenAI 两周内训练出比 Astra 明显更强的模型"传闻分析；他判断 Dario 与梁文锋是仅有的两位"严肃"AI 领袖，Demis 相关性正在下降判断；并指出Anthropic Fable 极其 Machiavellian 和好战，Astra 是善意 AI——alignment to Dario 已大获成功分析。

Ant 与 OAI 即使暂停前沿也可持续蒸馏/优化小模型——"半年后能以 $0.3/1M output token 提供 Astra 级服务且仍有毛利"分析；相关的一则匿名爆料"新的 scaling 轴中国天然做不了"引。

Alignment 是投递个人超级智能的基础，MSL 正在快速扩大 alignment 投入份额原推。

学会自建 harness 是 AI 工程师保持在前沿并解锁 agent 独特价值的最佳方式原推。

列举 RSI 算法可追溯到 1987 年——1992 年起 gradient descent 神经元 meta learning、1994 起自修改策略 meta RL、1997 加入 curiosity、2002 起 Gödel machine 等；foundation models 只是为老想法注入新生命原推。

转推 ErikVoorhees——"AI 已杀死人数 0，政府已杀死人数数百万；把 AI 控制权交给政府并称之为安全"转推。

同情 Terence Tao 的观点(AI 解决未决数学难题而未推进概念理解可能"见树不见林")，但认为该立场过度锚定当前能力；他以 neural architecture search 作类比——AI 设计的架构刷遍 SOTA 却产不出 residual connections/attention 级洞见，甚至从未架构出 Transformer；随着目标从解题扩展到产生解释，超级智能没有理由构建不出数学家可依赖的概念框架原推。

"技术的目的是服务人类并加速人类繁荣；不做到就是失败，应被拒绝"原推。

Royal Society《Philosophical Transactions》专刊《世界模型：生命与知能的未来》——回顾世界模型在生物与 AI 中的共通根基原推。

氛围转向——"大部分能力/少部分安全 → 大部分安全/少部分能力"原推。

Tao 悖论的关键在于——AI 还远不能提出下一个问题，这仍是人类独有；科学进步很可能反而停滞，因为我们不再有问题可问原推。

"从零开始推理"第三期视频——如何生成 verifier 用于 base 模型评估与 RLVR 训练原推。

整理 RadixAttention 原理与 13 种 attention 机制解释原推、续。

提出"Agent Harness 是新的 GPT wrapper"——harness 做四件事(loop 内运行模型、给"手"调工具、"记忆"、按目标策划步骤)原推。

长文《Are We Being Prepared For The AI Bubble To Break?》——近期媒体、政客、经济学家几乎同步开始为潜在的 AI 泡沫破裂做叙事预设原推；他质疑 32 小时工作周法案没有通过可能，却能引出"雇主用自动化替代"话术原推。

Elon 再度推荐 Bostrom《超级智能》——该书是"AI 对齐"作为严肃议题进入主流视野的起点之一原推；另介绍其把 Grok Bot 虚拟电脑接入 tailscale 加入本地 Agent Device Network原推。

补充观察——K3、V4.1 等已并非"前沿开源模型"(据 teortaxes，当前前沿是过千禧年奖问题的模型)原推。

转推 nxthompson——"训练模型用合成数据会得'疯牛病'的担忧，他认为已被证否"转推。

METR 宣布招募 Chase Hasbrouck(美军 Cyber Command 数字取证与恶意软件分析主管)加盟转推、Greenblatt 转推。