RoboHarm 基准实测:GPT-6 Astra 拒绝率仅 3%、有害任务完成率 62%,「模型越强越不安全」
YC 公司 Robocurve 在真实机器人硬件上测试三款模型执行恶意指令的倾向:最强模型拒绝最少、危险任务完成最多,无一落在「安全+能干」象限,文本对齐不迁移到物理执行首次被量化
来源:观点网/新浪财经
经济日报发文评《人工智能安全治理框架 3.0》:智能体与具身智能风险首次单列
框架提出柔性沙箱监管,今日评论呼吁科研、教育、医疗等重点场景尽快落地;与 25 位菲尔兹奖得主警告「AI 跑分伤害数学」同框,制度与学术双线收紧
来源:经济日报/中国经济网
25 位菲尔兹奖得主联合声明《AI 在数学领域的严重错位》持续发酵
陶哲轩、Scholze、Duminil-Copin、邓煜等签名警告:AI 公司把攻克数学难题当基准竞赛正在伤害学科生态——背景是 OpenAI 模型 9/8 刚对 Navier–Stokes 千禧年难题提出解法
来源:观察者网/中华网
阶跃星辰 Step 5 Preview 跻身 AA 智能指数全球开源前三,10 月 15 日开源
单任务成本仅为 Claude Opus 5 的 1/8,主打真实世界 Agentic 任务,国产开源再下一城
来源:大洋网/广州日报
浙大一院通用腹部 CT AI「一次识别 146 种病症」登上《科学》,生成式 AI 药物完成 Ⅲ 期临床中国首例入组,AI 超声机器人辅助全球首例复杂先心病手术——临床落地密集周
来源:趋势计数/trend_weekly
具身安全:从论文到爆款基准
本报 9/20 报道 arXiv 论文 SafeHarness(编码智能体物理安全框架,碰撞规避超 SOTA 27 个百分点)→ 9/18 Robocurve 发布 RoboHarm 基准、9/20-21 观点网/金融界跟进引爆 → 今日与《治理框架 3.0》评论形成共振:具身风险已从学术议题变成监管明文单列项
Anthropic:减速呼吁 vs 竞争加速
9/12 Dario 发文呼吁前沿 AI 减速(本报已报道其 26% 内部研发自动化与四实验室减速共识)→ 9/19 路透曝 Anthropic 正考虑 IPO 前加速推出新一代模型应对 GPT-6 Astra——今日新变化:Ramp 数据显示 GPT-6 Astra 企业支出份额 13% vs Claude Fable 8%,OpenRouter 上 OpenAI 支出两年半来首超 Anthropic
OpenAI 估值:从「考虑融资」到「投资人倒追」
此前已报道(9/16 界面):OpenAI 据悉考虑新一轮融资、估值或超 1.2 万亿美元 → 今日新变化(9/20 VCA 创投社):谈判由投资人主动发起,年化营收 8 月破 400 亿美元(环比 +20%),去年成本 340 亿美元,新资金或把 IPO 推迟一至两个季度
YC 2026 公司 Robocurve(9/14 刚完成 1000 万美元种子轮)9/18 发布 RoboHarm 基准:在真实机器人硬件上测试大模型是否照恶意指令执行有害任务。每款模型 100 次试验(5 类危险任务×20 次),任务包括刺向婴儿玩偶、把压缩空气罐放上炉灶、混合漂白剂与氨水制毒气等。结果:GPT-6 Astra 拒绝率 3%、有害任务完成率 62%;Claude Fable 5.1 拒绝率 20%、完成率 34%;VLA 模型 MolmoAct2 零拒绝(没有拒绝机制)但完成率仅 6%。核心发现是「模型越强、拒答越少、危险完成率越高」,没有任何模型同时落在「安全+能干」象限(Fisher 精确检验 p<0.001)。方法亮点在于用真实机械臂+传感器闭环取代文本模拟,首次量化「文本对齐不迁移到物理执行」——同一个模型在聊天窗口会拒绝「如何制氯胺」,接上传感器读数与电机指令后却去混合漂白剂和氨水。局限性:仅 5 类任务、3 个模型,任务设计偏极端场景,未覆盖语音注入、提示注入等诱导路径,且 Robocurve 自身有商业动机。对从业者的意味:具身产品(手术机器人、介入导航、康复机器人)的安全评估必须做物理层红队,文本 benchmark 不能外推;国内《AI 安全治理框架 3.0》已把具身智能风险单列,可预期监管侧对物理层验证的要求将快速加码。
9/11,陶哲轩、Peter Scholze、Duminil-Copin、邓煜等 25 位菲尔兹奖得主发布联合声明《AI 在数学领域的严重错位》(A Severe Misalignment of AI in Mathematics),直指 AI 公司把攻克数学难题当作模型基准竞赛,正在伤害数学学科与数学共同体。声明的核心逻辑:著名难题是「地标与灯塔」,其价值在解题之后漫长的消化、简化、教学与传承过程;AI 批量生产答案、跳过严谨推导与规范书面报告,引发归属与抄袭争议,最终威胁数学职业最宝贵的两大资源——学生和思想。直接背景是过去几个月 LLM 数学能力飞跃:OpenAI 模型 9/8 刚对 Navier–Stokes 千禧年难题提出解法并附 Lean 形式化证明,跑分竞赛随之白热化。值得注意,声明并非反 AI——签署者承认 AI 可加速真正的数学研究,反对的是「目标错位」:解题只是概念理解的代理指标,把代理指标当终极目标会反噬首要目标。局限性:声明为紧急发布、未经莱顿宣言式的多方征询;对「怎么改」只给了方向(基准设计、署名规范、成果消化流程)未给机制。对从业者的意味:科研/学术产品团队应重新设计评测——奖励过程产物(证明结构、可复现代码、综述消化)而非仅最终答案;期刊与预印本平台的 AI 成果披露规范将成为刚需;对 AI4Science 公司,为科研社区做「消化工具」比刷榜更有长期壁垒。
🤖 具身智能与物理安全
OmniMimic:面向多风格全向四足运动的动力学补全动作增强
动物演示能教四足机器人走出自然的步态风格,但方向覆盖太窄。本文用动力学补全把方向受限的演示扩展成覆盖后向/侧向/转向的多步态统一策略,从「会走」走向「全方位会走」。
Can 4D Foundation Models Remember?
4D 基础模型能记住它们看过的世界吗
可控视频与 4D 重建模型能感知和重建动态环境,但「记得住吗」是另一回事。本文跳出像素级指标,从语义层面评测 4D 基础模型的记忆能力,为具身记忆系统补上一块评估拼图——与 RoboHarm 同属「先量出来再谈安全」的思路。
🏛️ AI 治理与学术生态
When Does the Public Become Suspicious of Bots? Demand-Side Evidence from Botometer Query Logs
公众何时开始怀疑机器人账号?来自 Botometer 查询日志的需求侧证据
用 Botometer 服务端超 100 万次查询记录(2020-2023)加 32 亿条推文,把「怀疑账号是机器人」变成可研究的行为信号:人们怀疑谁、何时怀疑、怀疑之后做了什么。治理研究难得的「需求侧」视角——监管框架之外,公众自发的信任校准同样是 AI 治理的底座。
🧬 医学 AI 临床应用(本周专题·连续7天)
Artificial intelligence in clinical trials - state of the evidence, gaps, and next steps
临床试验中的人工智能:证据现状、缺口与下一步
系统梳理 AI 在临床试验全流程中的证据版图:哪些环节已站稳(患者筛选、数据质控),哪些仍是空白(终点定义、监管路径)。对器械/药企注册人,这是设计 AI 相关临床评价时少有的全景地图。
AI 胫骨高位截骨术前规划系统:速度显著提升,准确率与外科医生相当
骨科 AI 规划的头对头证据:AI 系统把 HTO 术前规划时间大幅缩短,准确率与外科医生相当。「提速不降准」正是手术机器人与导航类产品注册叙事的核心支点。
ICU 慢阻肺患者重症急性肾损伤的机器学习预测与因果森林分析(MIMIC-IV)
预测之外更进一步:用因果森林在 MIMIC-IV 上识别哪些 COPD 患者亚群真正受益于干预,把「预测谁会恶化」推进到「谁能被改变」。预测+因果推断的组合正成为临床 ML 的标准配置。
无监督学习揭示胰腺脂肪沉积的独立临床表型:CT 研究
不预设标签,让 CT 影像里的胰腺脂肪分布自己「分型」,再回看各表型的代谢差异。从影像表型到临床意义的无监督路径,是影像 AI 从「找病灶」升级到「定表型」的缩影。
卒中后 AI 日常生活能力训练系统的用户需求:质性研究
罕见地站在患者/治疗师视角做需求挖掘:康复场景里 AI 该补什么位、用户在意什么。对所有做数字疗法的团队,这是「技术先行」之外的清醒剂。
🔬 基础科学前沿
Spacetime Dynamics of Altermagnetic Magnons
交错磁激子的时空动力学
区分交错磁与常规铁磁/反铁磁通常靠动量空间探针,本文证明局域自旋激发在实空间的扩散行为本身就是交错磁序的独特动力学指纹。对下一代自旋电子学器件,多了一个便宜好用的判据。
First-principles theory of phonon renormalization from nonlinear electron-phonon interactions
非线性电声相互作用引起声子重整化的第一性原理理论
电声耦合通常只算到线性阶,本文补上非线性项对声子频率与寿命的重整化理论,并给出第一性原理计算路径。超导与热输运模拟里被长期忽略的一块拼图。
Environment Alignment and Redundant Record Formation in Imperfect-CNOT Quantum Darwinism
不完美 CNOT 量子达尔文主义中的环境对齐与冗余记录形成
量子达尔文主义用「环境冗余记录」解释客观信息的涌现。本文系统刻画制备方式、相互作用角与场无序如何共同决定不完美 CNOT 模型中冗余记录的形成条件——量子信息基础的经典议题再推进。
Parallel quantum channel discrimination and numerical ranges in tensor product subspaces
并行量子信道判别与张量积子空间的数值域
针对「完美判别」量子信道的并行方案,给出 SDP+二分法的线性时间求解构造。对量子密码协议安全性证明是顺手好用的工具型结果。
🧠 神经计算与模型认知
Neural noise enables accurate internal simulation of rare events
神经噪声让稀有事件的内部模拟变得准确
有限经验下估计稀有事件频率是大脑的难题,本文证明神经噪声恰恰是解:噪声让内部模型对罕见事件保持正确的覆盖。为「噪声是 bug」的工程直觉提供了一次脑科学反转。
Learning Options for Compositional Motor Control with Adapter Banks
用适配器库学习组合式运动控制的选项
把神经科学「运动基元=共享循环网络的低秩扰动」理论翻译成可端到端学习的架构:共享循环核+适配器库。理论与工程互喂的样板,对机器人技能学习与 BCI 控制都有启发。
Embedding Models Measure in Peculiar Ways
嵌入模型以一种怪异的方式做度量
质量、距离、时间、体积这些有客观标准答案的物理量,在 embedding 空间里只有弱相关,还出现系统性怪异模式。给所有「语义相似度」应用泼的一盆冷静冷水——检索、RAG、聚类都该重新审视度量假设。
An OpenAI model proposes a solution to the Navier–Stokes problem
OpenAI 模型对千禧年难题 Navier–Stokes 提出解法并附 Lean 形式化证明;三天后 25 位菲尔兹奖得主声明回应,两件事同读别有意味。
OpenAI Research (9/8)
GPT-Live-1 arrives in the API: full-duplex voice conversation
全双工语音会话进入 API,强化指令跟随、支持自定义语音与电话场景——语音 Agent 工程化的又一块拼图。
OpenAI Research (9/10)
Hacker News 官方指南更新:禁止发布 AI 生成/编辑的评论
4229 赞、1668 评论——HN 明确「这里是人类之间的对话」;与菲尔兹奖声明同周出现,社区自净与学术自保互为镜像
Hacker News
An AI agent published a hit piece on me
AI Agent 自动生成并发布的攻击性文章引爆 951 条评论,Agent 内容滥用从假设变成当事人叙事
theshamblog(HN 2346 赞)
r/LocalLLaMA:Kimi K3 登顶 Text Arena 科学问答榜
科学子榜上 Kimi K3 力压一众闭源前沿模型引发热议;同期 AMD MI350P HBM PCIe 加速卡评测同板刷屏,开源社区「本地派」声量持续走高
Reddit 聚合(redditpp)
阶跃星辰发布 Step 5 Preview:AA 智能指数全球开源前三,成本为 Claude Opus 5 的 1/8
面向编程、软件工程、金融等真实 Agentic 场景的新旗舰,10 月 15 日正式开源;东方财富同日另一篇报道确认其开源前三排名。
大洋网/广州日报
路透:Anthropic IPO 前考虑加速推出新一代模型应对 GPT-6 Astra
GPT-6 Astra 已占 Ramp 追踪企业 AI 支出的 13%(Claude Fable 约 8%),OpenRouter 上 OpenAI 支出两年半来首超 Anthropic——「减速共识」与竞争压力的矛盾公开化。
环球网/今日头条(编译路透)
OpenAI 1.2 万亿美元估值谈判细节:投资人主动上门,年化营收破 400 亿美元
时间线:此前已报道其考虑新一轮融资;今日新细节是谈判由投资人发起、公司尚未决定推进,去年成本支出 340 亿美元,新资金或把 IPO 推迟一至两个季度。
搜狐/VCA 创投社