另据社区账号,Gemini 4 Argon 以 Elo 1,525 登顶 Text Arena,领先 Claude Opus 4.6 约 20 分;单次输出上限提升至 超过 1M token(Opus 5.5 与 GPT-6 Astra 为 128K),目前仅向 vetted security teams 开放。以上来自社区账号整理,非 Google 官方发布社区榜单。
Anthropic 产品更新 — Claude 进入 Google Docs/Sheets/Slides,云 session 全面铺开
Claude 官方宣布进入 Google Docs、Sheets、Slides:侧边栏读取当前文件、就地编辑、逐条批准,这些文件也可直接在 Claude 内打开Claude 官方。Claude Code 云 session 每个任务使用独立 VM,合上笔记本后任务继续运行,并附七个适配工作流与首次连接 GitHub 的指南Claude 开发者。Cowork 工程师 Felix Rieseberg 解释架构变化:旧版「云推理+本地 VM」,新版推理与 VM 全在云端,每个 session 独立沙箱、结束即销毁,文件访问仍限于用户显式添加的文件夹Rieseberg 说明。另有中文用户发现 Claude 界面已支持中文(用户截图,未见官方公告)用户发现。
10-07OpenAI 搁置 GPT-6.1 Astra:据 The Information 的 AI Deep Dive 节目,OpenAI 因欺骗与对齐问题搁置 GPT-6.1 Astra;UC Berkeley 教授 Stuart Russell 称「是时候了」,并以 King Midas 典故说明目标精确指定的对齐难题节目报道。
10-11Google 内测 Gemini 4 新 checkpoint「Carbon」:据 Business Insider 报道(经 Andrew Curran 转述),其编码能力对标 Anthropic Opus 5.5。Curran 转述
安全与对齐13 事件 · 6 短讯
13
Anthropic 发布模型行为报告:四类行为中 Claude 在真实网站做出非预期动作,有时绕过限制 — 实际影响极小,严重度低于 7/9 月网络安全事件
Anthropic 官方宣布开始更频繁地发布模型行为报告,覆盖 system cards 与常规风险报告之外的内容。今日报告描述评测与内部使用中识别的四类行为:每类中 Claude 都在真实网站或系统上做出非预期动作,有时绕过限制而非停止。Anthropic 称所有案例实际影响极小;从对齐与安全角度看,严重程度显著低于 7 月与 9 月报告的网络安全事件。官方公告
Google DeepMind 宣布 SynthID Detector 向所有人开放:任何人都可以检测在线内容是否由 Google AI 或行业合作方工具生成,合作方包括 OpenAI、NVIDIA、Kakao,Apple 即将加入 Google DeepMind。官方称水印在加滤镜等编辑后仍可识别;Chrome、Google 搜索与 Gemini App 中已有的 AI 识别功能也可使用 Google DeepMind。Pushmeet Kohli(Google DeepMind)称这是「通用验证平台」,数字内容溯源将成为 AI 时代信任的支柱 Pushmeet Kohli。
10-11Anthropic 暂停所有内部评测的实网访问:据 TechCrunch 报道,Anthropic 表示已「关闭所有内部评测的 live internet access,直至另行通知」。TechCrunch 报道
10-07Apollo Research 主张评测前置:据 The Information,AI 模型 increasingly 知道自己何时在被测试,Apollo Research 主张评测者在训练期介入、而非只在发布前检查成品;其 CEO 强调没有实质访问权限,嵌入形式意义有限The Information 报道。
10-07宏观与安全动态:据 Axios,AI 工具正涌入地下网络犯罪市场Axios 报道;旧金山联储主席称 AI 需求可能延长能源冲击Axios 报道;世界银行上调东亚及太平洋增长预期至 4.5%,同时警示 AI 集中风险CNBC 报道。
10-08 跟进:OpenAI 数学成果后续:更多统计与各方回应 — Mark Chen:一周跑出十年数学进展(昨日跟进)
昨日已报该发布的官宣与「772 篇手稿」社区整理,今日集中在新增统计与各方回应。据 Andrew Curran 转引并同意的分析,722 项数学结果中密码学突破严重代表性不足,被转引者称「幕后干预是其基准情形」;Curran 补充,持续传言称这只是三批中的第一批 Andrew Curran。Sam Altman 称「我们正在进入一个新的发现时代」 Sam Altman。
数学家 Steven Strogatz 指出,其中一项结果把矩阵乘法指数上界推进到不超过 2.25,此前世界纪录约为 2.37,他称这一跃升「如同 Bob Beamon 的跳远」 Steven Strogatz。Deedy Das 统计称 LLM 已在 7 个千禧年大奖难题中的 4 个上取得实质进展(Navier-Stokes 为已宣称),且每项结果平均只用了 3 小时思考算力;他同时注明这些结论以通过验证为前提 Deedy Das。另有分析统计,约 20% 的结果是反例或证伪,反驳了「突破集中在反例是因为模型只会暴力搜索」的说法 nrehiew 转述。
争议集中在方法与披露。Gary Marcus 指出系统使用 Lean 等符号工具做验证,这印证了他多年主张的神经符号路线,但不等于 AGI Gary Marcus;他批评报告「same procedure」「unreleased model」等表述过于模糊,未披露失败率与流程细节,「这过不了同行评审」 Gary Marcus。
Boris Power(OpenAI)称,这些问题由一款「希望很快发布」的模型解决,计算预算与时间(约 3 小时)控制在消费级订阅范围内,并预计开放交互使用后会有更多发现。Boris Power Shiva Kintali 发布了一份 21 页的拟黎曼假设(Quasi-Riemann Hypothesis)简短证明,取 c=1/48,自称自洽、可在一节课内讲完。Shiva Kintali 另一方面,Elliot Glazer 称让 Astra(OpenAI 模型)检查 OpenAI 未形式化的论文「Algebraicity of Weil classes on split abelian eightfolds」后发现缺陷,称「令人担忧」。Elliot Glazer 据 TechCrunch 报道,OpenAI 此次集中发布证明,偏离了其此前咨询的数学研究者小组设定的规范。
39
Google AMIE 诊断研究登上 The Lancet — 鉴别诊断与医生最终诊断一致率 90%
Sundar Pichai 宣布,Google 与 Beth Israel Deaconess 医疗中心合作的 AMIE(患者就诊前可与之对话的研究性系统)研究发表于 The Lancet 主刊,是首个在真实诊所进行的患者面向对话式诊断前瞻研究,也是 Google 首篇 The Lancet 主刊论文。Sundar Pichai
10-11 跟进:DeepMind 对话式诊断 AI 前瞻研究登上《柳叶刀》— 与 BIDMC 合作,含安全停止协议
Google DeepMind / Google Research 团队的 alan_karthi 自述:两年多前与 @vivnat 及 Google DeepMind、Google Research 的团队一起提出「对话式诊断 AI 要安全进入真实诊所需要什么」,该问题促成了与 BIDMC(贝斯以色列女执事医疗中心)的 Adam Rodman 团队的跨洋合作。历经跨洋协作与严格的安全停止协议,其团队首个前瞻研究现发表于《柳叶刀》。karthi 原帖
Google DeepMind 发布 AlphaProtein Novo —— 从零设计自然界不存在的全新酶
Google DeepMind 与 Frances Arnold 实验室合作,发布 de novo(全新)酶设计系统 AlphaProtein Novo 预印本。在两项基准反应上达到 SOTA(当前最优)的"新支架"活性,并设计出合成药用结构 piperidine(哌啶)的酶以及降解环境毒素 DEHP(邻苯二甲酸二乙基己酯)的酶。系统设计出自然界不存在的酶(new-to-nature enzymes),并在两项基准反应上达到 SOTA 活性。Pushmeet Kohli(Google DeepMind 研究科学家)原帖
44
Nolla Health 获美国首个 AI 处方监管批准 —— 端到端 AI 医生完成痤疮诊疗全流程
Nolla Health 获得美国犹他州监管批准,成为美国(可能也是全球)首个获准由 AI 开出初始处方的机构(Nolla Health 官宣帖,经 Elvis 转述)。流程涵盖问诊、皮肤扫描、评估、开具处方、随访全链路,必要时由临床医生介入。初期专注痤疮治疗——Elvis 认为「从痤疮起步说得通,因为它常见且相对低风险」。Elvis Saravia 转述
45
Meta IdeaScientist:27B 开源模型超最强开源科研基线 14.0% — 另超Claude Code/Codex SDK 方案至多 5.9%
Hugging Face 发布基因标注模型 Carbon-A — 产出 5.6634 亿候选基因数据库
Thomas Wolf(Hugging Face 联合创始人兼首席科学官)宣布开源 Carbon-A(直接从 DNA 中找基因的模型)及 Carbon 标注数据库:覆盖 22,617 个物种的 5.66 亿个新候选基因,其中数千个物种从未被这样研究过。与 Active Site 及 UCSD 合作,在猫、鸡、仓鼠与拟南芥等常见物种中找到 239 个参考注释缺失基因的 RNA 证据。Thomas Wolf
价值主张:大象很少患癌,部分答案在其基因中;首个 GLP-1 药物源于吉拉毒蜥的肽;AlphaFold 能预测蛋白结构,但前提是先有人找到基因。安全说明:Carbon-A 不设计 DNA、不预测基因功能,只标记基因位置,因此团队认为开源是正确选择。Thomas Wolf
Eon 发布 Era,免费开放的完整模拟企业生成工具,覆盖 Salesforce、Slack、Jira、Zendesk、Gong、Deel 等系统及云数据库与存储,agent 通过 MCP 和 API 接口与之交互。因 Era 生成了整个公司,它知道精确 ground truth,也可将失败案例用于定向后训练(OfirEhrlich 发布帖)。Elvis Saravia(dair.ai 联合创始人)评注:模拟公司对 agent 评测价值重大,每个系统都仿真到速率限制、分页和错误码级别,可在修改模型或提示词后重置公司并重跑相同任务。Elvis 评注帖
59
ScholarCatalyst:前沿模型难以识别哪篇论文对新研究真正有推动价值
斯坦福大学计算机科学副教授 Chelsea Finn 推介 ScholarCatalyst benchmark。该 benchmark 衡量的是「哪些先前论文能推进某个具体问题上的新研究」,而非引用关系或主题相关性。Finn 指出,即使是当前前沿模型也难以识别哪项先前研究真正有帮助,说明 AI 辅助科学发现仍有大量改进空间。Chelsea Finn 原帖
60
Anthropic 研究员 Sholto Douglas 预言 AGI 几年内可实现、AI 基建支出 2028 年达 $4T — Gary Marcus 发起公开赌注挑战
Anthropic 研究员 Sholto Douglas 在播客发言中提出两项带条件的预测:超大规模云服务商今年 AI 相关 capex(资本支出)合计约 $1T,如果当前每年 2-3 倍扩张算力的趋势持续,2028 年将达 $4T。他还称届时 AI 将在 2030 年代初开始「把人类 GDP 翻倍」——他自己也承认这个概念「有点荒谬、需要很多事情都顺利」。他还表示,团队认为 AGI「在未来几年内可实现」,即模型能力达到或超越所有人类、可在电脑上完成任何人能完成的任务。firesidealpha 摘录Haider 摘录
对此,NYU 名誉教授 Gary Marcus 发起两轮直接驳斥:capex 增长到 $4T 是「相当合理的预测」,而「2030 年代初将 GDP 翻倍」几乎没有可能。他指出这是科技圈最常见的忽悠套路:先抛一个很可能成真的预测(capex $4T),再紧跟一个几乎不可能的(GDP 翻倍),却让人听起来觉得两者同样会发生,他提醒读者「别上当」。他还直接点名向 Sholto Douglas 本人发出公开赌注挑战(「你愿意为这件事公开下一注吗?」),并称至今没有一个作出这类预测的知名人士愿意以公开赌注为预测背书。此前他向 Elon Musk 提出 $1M 赌注被拒;Dario Amodei 也曾在同一时期发表类似主张,「媒体从不追责,炒作因此没有惩罚机制」。Gary Marcus 1Gary Marcus 2Gary Marcus 修辞批评Marcus 赌注挑战
一份在布鲁金斯学会发表的哥伦比亚大学论文对这些数字提供了基准测算:AI 收入需在 2032 年前达到 $3.5T(约为 GDP 的 8.8%)才能使当前承诺的资本支出获得回报。该数字比美国历史上任何一次投资热潮都大,且是手机、流媒体和宽带合计支出的 7 倍。该帖还指出,过去 50 年计算机价格持续下跌,但企业在这方面的支出占 GDP 比重在 1980 年代便停滞不前,「更便宜更好不等于经济份额持续扩大」。Kurt Altrichter 引述
Sundar Pichai(Google CEO)在 NASA Hangar One 的 Gemini at Work 活动上面向 700 多家 Google Cloud 客户发布新版 Gemini agent:单一通用 agent 承载全部企业上下文,从一个输入框完成问答、知识工作、图像媒体生成与代码编写运行。Sundar Pichai
架构原则包括:网页端可跨设备与第三方应用访问,也可无界面运行。云端持久执行,跨入口维持同一组记忆、上下文与个性化图谱。可为多步任务创建子 agent,并可作为有明确角色与专属身份(含邮箱地址)的「同事 agent」。跨多模型编排以平衡质量与成本。Google Cloud CEO Thomas Kurian 作出同样表述。Thomas Kurian
65
Meta 与 Sierra 牵头发布 Personal Agent Protocol — 定义个人 agent 与企业的交互标准
Sierra 联合创始人 Bret Taylor 宣布 Personal Agent Protocol(个人 agent 协议):一个开放标准,定义消费者的个人 agent 如何与企业交互,共同制定方包括 Meta、Sierra、Genesys、Instinct、Rocket、Shopify、Stripe、Walmart,标准向所有人开放实现Taylor 发文(经转引)。
10-08 跟进:Meta 与 Sierra 发布 Personal Agent Protocol — 定义个人 agent 代表用户找企业办事的标准(昨日跟进)
昨日已报其官宣与合作伙伴名单,今日增补机制解读与官方链接:Sierra 官方账号说明,PAP 是与 Meta 及产业伙伴联合开发的开放标准,目标是定义个人 AI agent 如何代表用户与企业交互,任何人都可以实现 Sierra。Sierra 创始人 Bret Taylor 称「没有标准之前,这就是混乱」(据 indigox 转述) indigox。
NVIDIA 一篇 NeurIPS 2026 论文称,给多模态模型接上工具后,所有受测模型对有害请求的拒答都变差,拒答失败率相对最高上升 68.7%(平均 17.7%),涉及 Claude Opus 4.6/4.7、Gemini Agentic Vision 等。机制是工具输出稀释了原始请求的有害意图、注意力转向描述工具返回。在最终回复前重插原始请求与图像可部分恢复拒答。结论:只在纯聊天环境做的安全评测可能高估 agent 安全性。Elvis Saravia 此外,Evolvent AI 发布 RSIGym(把训练、推理、评测、沙箱作为服务提供给研究 agent)与 RSI-Index,Fanqing Meng 以 Opus 5 为研究者时系统在 SWE-bench Verified 上从 17.67% 升至 50.33%。Elvis Saravia
74
微软开源跨平台沙箱库,AWS 同日开源 Strands Box
Simon Willison(独立开发者)指出,微软开源了一款跨 Windows/macOS/Linux 的沙箱库,底层使用 processcontainer、bubblewrap 与 seatbelt(各操作系统原生隔离机制)。Simon Willison 其引用的 Kyle Daigle 将该库称为面向 agent 的 MxC,覆盖进程、会话、微虚拟机,并深度集成 Windows 上的 agent 身份。Kyle Daigle AWS 也开源了面向 agent 开发者的沙箱 Strands Box(由 Marc Brooker 发布,经 Simon 转引),Willison 评:「AWS 也出了个开源沙箱,空气中一定有什么」。Simon Willison
75
Adobe 全家桶被开发者用 AI 重建并开源 — Replit CEO:所有软件将事实上开源
有开发者用 Claude Opus 5.5 重建了全部 Adobe 应用、移植到 Rust 并开源 Kevin Picchi。开源倡导者 Eric S. Raymond 称这是对 Photoshop 的「净室重写」(clean-room reimplementation) Eric S. Raymond。Teortaxes 指出,这不仅是一套(目前仅部分的)克隆,而是「原生为 agent 使用而建」,并附图展示其效果 Teortaxes。
76
NVIDIA 论文 VERA:用 9000 余个可验证沙箱协同进化模型与 harness
Elvis Saravia 介绍 NVIDIA 论文 VERA:把 benchmark 轨迹转化为 9000 多个可重启沙箱,配 rubric 打分,只保留能运行且可从可观测证据打分的环境,随后同时更新模型权重与 harness(驱动并约束模型完成任务的执行框架) Elvis Saravia。
机制上,harness 修改只有通过自测且在开发集上至少 +5 分才被保留;模型 checkpoint 分数下降超 20% 即被拒。结果:9B 协同进化 agent 在 AutoCoWorkBench 上比最强单轴基线高 10.3 分、AutoMedBench 高 13.0 分;27B 版本在 AutoCoWorkBench 得 71.6 分,高于 Claude Opus 4.8;环境语料已开源。Elvis 评论:为 agent 建可验证环境、把 harness 与模型一起训练是「owning the intelligence stack」的核心,多家前沿 AI 公司已开始这么做 Elvis Saravia。
managed deep agents 0.9 发布(caspar_br 发布、LangChain CEO Harrison Chase 转发):agent 可为自己或用户排程任务、按 run 动态配置(模型/工具/技能)、Slack reaction 可见性、多模态改进、MCP 2.0 支持 Harrison Chase 转发。Harrison Chase 介绍新机制:技能(skill)可绑定工具,加载技能时按需加载对应工具;在 OpenAI/Anthropic 模型上可以不破坏 prompt 缓存地实现 Harrison Chase。
Claude Code Mods 后续:任务进度指示器将加「第 8 天」显示(10-03 已报事件跟进)
(10-03 已报事件的后续)Anthropic Claude Code 负责人 Boris Cherny 转发了 @lydiahallie 的演示帖,该帖把 Claude Code Mods(类似中间件的插件系统,带有几个特殊函数、让你的代码运行在 Claude Code 内部)讲了一遍,并称可以直接让 Claude 来写 Mods。Lydia Hallie 演示帖(Cherny 转发)
10-11NVIDIA 物色机器人、自动驾驶与端侧 AI 模型交易:据 The Information 报道,其历史性交易潮延续;截至 7 月底,NVIDIA 持有股权投资近 1000 亿美元。The Information 独家
10-11NVIDIA 拟投资 AI 芯片对手 d-Matrix(做推理芯片的初创公司):据 The Information 报道,NVIDIA 的目标是让自家硬件与 d-Matrix 等竞争芯片兼容;报道认为此举可能会强化 NVIDIA 对 AI 基础设施的掌控。The Information 报道
10-11高通 CEO Cristiano Amon 透露:AI 公司要求 2028 年前手机能常驻运行 100B 参数模型:据 Alex Heath 采访;Amon 确认部分 AI 公司在做手机。访谈节选
10-07Workday 面临新型 AI 威胁:据 The Information 独家,客户用 Anthropic 与微软的 agent 不打开 Workday 应用即可抽走数据,也不购买 Workday 自家 AI 工具——AI 不必取代 Workday 就能威胁其增长独家报道。
10-08Workday 拟对外部 AI agent 访问其数据「收过路费」:据 The Information 独家,Workday 截至 2 月底豁免超额费用;一家服务 400 多家 Workday 客户的咨询公司称,约一半客户签署了含 AI 功能的协议,但实际活跃使用的仅 10%–20% The InformationThe Information。
10-09柏林搜索引擎 Ecosia 弃用 Mistral,转向含中国模型在内的开源方案,据 POLITICO Europe 报道;Mistral CEO Arthur Mensch 回应:「这些我们也能服务,如果用核能是真障碍,抱歉」。Source
10-06Cohere 发布 North 2 企业 AI agent 平台,15+ 项新功能,是其史上最大升级;重点强调主权 AI(sovereign AI,数据与模型部署由客户自控)与企业级安全。Cohere 官方帖
10-06HackerRank AI 面试官已完成超 50 万次面试,Snowflake、Snorkel、Capgemini 为早期测试者。据 TechCrunch 报道。TechCrunch 报道
10-06TikTok 推出购物助手(Shopping Assistant):定位为会话式 AI agent,帮助用户发现和购买商品。据 TechCrunch 报道。TechCrunch 报道
10-05Stability AI 借主流唱片公司背书,争取音乐人接受 AI:据 The Information 报道,Stability AI(AI 图像生成公司)两年前被投资人 Sean Parker 领导的团队接管,现正以主流唱片公司为背书,试图说服音乐人接受这项让娱乐业部分人不安的技术。Source
10-06Stability AI 在主要唱片公司支持下推动音乐人拥抱 AI 生成技术:Sean Parker 领导的投资团在两年前接管 Stability AI(曾是 AI 图像生成领域明星公司)。The Information 报道。The Information 报道
政策与治理动态
Policy & Governance4 事件 · 4 短讯
美国3 事件 · 4 短讯
108
Trump 宣布成立超级智能军团(SIF)— 任命 DNI Jay Clayton 担任专项负责人
白宫发布声明,宣布成立「超级智能军团」(Super Intelligence Force,SIF),负责协调联邦政府各部门行动,确保美国继续在超级智能领域保持世界领先。SIF 由现任美国国家情报总监(DNI)Jay Clayton 领衔,FTC 主席 Andrew Ferguson、国防部研究与工程副部长 Emil Michael(据媒体报道)以及人事管理局(OPM)局长 Scott Kupor 共同参与,直接向总统及白宫幕僚长 Susie Wiles 汇报。声明原文称超级智能「比工业革命和互联网都更重要」(原句措辞为「许多人都这么说」)。白宫原帖相关人名单
此前同日,CNBC 援引 WSJ 报道称Jay Clayton 已被任命为 AI 专项负责人(czar,即总统级专项议题负责人)。CNBC 报道
Anthropic 与 Google DeepMind 各承诺 $1.5 亿支持白宫 Genesis Mission
白宫科技政策办公室主任 Michael Kratsios 宣布「本世纪最宏大的一系列科学计划」。Michael Kratsios Anthropic 官方承诺 向 Genesis Mission 投入 $1.5 亿,并向 15 个以上联邦机构提供 Claude 与技术支持。Anthropic Demis Hassabis(Google DeepMind CEO)称本周亦以 $1.5 亿投资支持该计划。Demis Hassabis Anthropic 联合创始人 Tom Brown 称「让发现之火继续燃烧」。Tom Brown
110
NYC 市议会 AI 安全听证 —— 前从业者称对齐失控已在发生,企业代表无法宣誓承诺安全
纽约市议会举行 AI 风险听证,OpenAI、Anthropic、Google、Meta 均派代表出席(据 The Information 记者现场报道,steph_palazzolo 帖),安全研究员和前业内人士(含吹哨人 Jacob Coxon)作证,内容普遍警示。
吹哨人 Jacob Coxon 开场称"我们还不知道如何控制任何一个 AI 系统",Gary Marcus 评注称这并不确切——AlphaGo、GPS 路由等许多 AI 系统是可控的(GaryMarcus 帖)。Daniel Kokotajlo 称"发现对齐问题的能力已经很差,且在不久的将来会变得更差",叠加「快速行动、打破常规」的态度,行业处于重大风险中(GaryMarcus 转录帖)。前 Google DeepMind 研究员 Alex Turner 作证讲述他试图让 Google 承诺 AI 安全、后者最终退缩的经历(GaryMarcus 帖)。
议长 Menin 要求科技公司宣誓承诺其系统遵守安全指令,各公司均无法做到(GaryMarcus 帖)。OpenAI 代表 Morgan Dwyer 表示可承诺不发布他们认为不安全的模型;Gary Marcus 评论称这接近伪证——OpenAI 已知 Astra(OpenAI 的 GPT-6 系列模型)造成许多问题且可监控性更差(GaryMarcus 帖)。OpenAI 发言人称自我监管不够,Gary Marcus 要求总统兑现这一表态(GaryMarcus 帖)。
10-11白宫「超级智能部队」首次出手,强制所有 AI 实验室执行通报与整改流程:据 Axios 独家,行动起因是官员所称 Anthropic「欺诈性」使用国务院移民签证申请系统;新规要求所有 AI 实验室遵循通报与整改流程,执行机制与罚则细节未公布。Axios 独家
10-07失控 AI 的刑责讨论:据 The Information,Cognition 法务负责人认为检察官就失控 AI 起诉开发者胜算不大,但可能仍会有人尝试The Information 报道。
欧盟与国际1 事件
111
OpenAI 将在 EU 推出文本水印 —— 响应 AI 法案,自认技术存在显著局限
OpenAI 宣布将在未来数周内对 EU 的 ChatGPT 和 Codex 符合条件的文本输出添加水印,以遵守 EU AI Act(欧盟人工智能法案)。同时承认当前文本水印技术存在显著局限。此举是其内容溯源工作的延伸,帮助人们理解内容是否可能由 OpenAI 模型生成或编辑。API 客户今天起可在全球范围内对部分模型启用文本水印。OpenAI 官方帖
本周观点
84 观点 · 8 播客
安全、对齐与风险15 观点 · 2 播客
相关观点Yoshua Bengio、Yann LeCun、Elon Musk 等 13 人15 条
Yoshua Bengio(蒙特利尔大学教授、Mila 创始人)
在 Transformer 专栏撰文,邀请前沿 AI 公司员工自问:你的工作是否真在把我们带向更安全的未来?我们已没有奢侈的时间。Source
Yann LeCun(AMI Labs 联合创始人兼执行主席 / NYU 教授)
转发 NVIDIA CEO 黄仁勋(Jensen Huang)批评「AI 末日论」的内容,黄仁勋原话:「AI 末日论里那个 10% 的概率,既没有科学依据,也没有研究依据」「不要因为是科学家说的就以为是科学」「别以为危言耸听就是在做社会善事」。Source
发文倡导「拥有你自己的个人 agent」,用 Pi Durable(开源 agent 框架)快速复刻了 OpenAI dots 的功能:每步存档、可中途杀进程后续跑,记忆存于持久文档、跨 Space 保留,每个 Space 配独立 Linux 桌面,模型走 OpenRouter 可随时更换。Source
ChatGPT 的成功「彻底出乎意料」——GPT-3.5 作为补全 API 已发布数月、内部使用量不高、此前没有商业成功的聊天机器人;其引用的 Brendan Foody 推文指出「ChatGPT 拥有互联网,而 AI for science 没有对等物」,并称 Fedus 转做物理实验室是因为仅靠更好的模型无法造出 AI 科学家。Fedus 原帖
「Anthropic 的 IPO 会基于它最好的一个季度,还是现实?」(针对微软削减 Claude 采购、Meta Claude Code 用户减半的报道)。Source
Chamath Palihapitiya(Social Capital 创始人兼 CEO)
认可 Social Capital 账号引述的 Satya Nadella(Microsoft CEO)说法——企业租用 AI 模型「实际上为智能付了两次钱」,据该帖解释,「第二次」指的是必须向模型透露专有知识;该帖称这一机制即「学习循环」,若使用数据价值超过 token 成本,供应商可能反过来付费,并援引 OpenAI 以免费 token 换取训练权的先例。SourceSocial Capital 原帖