Nature 发布 AI Scientist：可怕的不是 AI 会写论文，而是论文将不再稀缺

论文标题：Towards end-to-end automation of AI research
发表期刊：Nature
核心系统：The AI Scientist
关键词：AI Agent、科研自动化、自动实验、自动审稿、学术评价

看到“The AI Scientist”这个名字，很多人的第一反应可能是：

AI 已经可以独立做科研、写论文，甚至取代科学家了吗？

但我认为，这篇 Nature 论文真正值得关注的地方，并不是 AI 能否写出一篇格式完整的论文。

因为对今天的大语言模型来说，生成 Abstract、Introduction、Related Work，甚至拼出一篇看起来像论文的长文本，已经不是什么特别困难的事情。

真正重要的是，研究团队开始把原本分散的科研活动连接起来：

• 提出研究想法；
• 检索相关文献；
• 检查选题是否重复；
• 编写实验代码；
• 自动运行和调试；
• 调整超参数；
• 进行 replication 和 ablation；
• 绘制实验图表；
• 撰写 LaTeX 论文；
• 模拟同行评审。

这意味着，AI 不再只是科研人员偶尔调用的工具，而开始成为一套能够持续运行的“科研生产系统”。

The AI Scientist 目前还远远称不上顶尖科学家。

但它已经揭示了一个可能更加现实、也更加危险的趋势：

当提出想法、运行实验和生成论文的成本不断下降时，论文可能不再是一种稀缺产品。

而当论文不再稀缺，现有学术评价体系中的很多规则，都可能需要重新设计。

AI 最先自动化的，不是科学灵感

人们通常喜欢把科学研究描述成一种高度依赖灵感的创造性活动。

我们想象中的科学家，往往是在某个瞬间提出了一个划时代的理论，发现了一个违反直觉的现象，或者建立了一套全新的研究范式。

这些当然是科研中最重要、也最闪耀的部分。

但真正做过机器学习研究的人都知道，一篇论文从想法到投稿，中间还包含大量不那么浪漫的工作。

大量科研时间消耗在“中间环节”

例如：

• 查找和筛选相关论文；
• 下载和处理数据集；
• 复现 baseline；
• 配置 Python 环境；
• 修复依赖冲突；
• 排查维度错误；
• 修改数据划分；
• 调整 learning rate；
• 运行不同 random seed；
• 生成实验表格；
• 修改坐标轴和图例；
• 编写 appendix；
• 修复 LaTeX 编译错误；
• 按照审稿标准补充实验。

这些工作当然需要专业知识，但其中相当一部分具有明确输入、明确输出和可重复执行的流程。

The AI Scientist 最先自动化的，恰恰不是“提出伟大理论”，而是这些占据研究人员大量时间的科研基础设施。

AI 不需要先成为爱因斯坦，才能改变科研

我们很容易陷入一种错误判断：

只要 AI 还不能提出划时代的理论，它就不可能真正改变科学研究。

但自动化从来不是这样发生的。

工业自动化也不是等机器拥有了人类工匠的完整理解能力之后，才开始进入工厂。

自动化往往从标准化程度最高、反馈最清晰、结果最容易测量的环节开始：

1. 先自动执行；
2. 再自动检查；
3. 再根据结果自动修正；
4. 最后把多个环节连接成完整流水线。

机器学习研究尤其适合这种路径。

因为它的大部分研究对象本身就是数字化的：

• 数据集是数字文件；
• 模型是代码；
• 实验发生在计算机中；
• 结果可以用指标表示；
• 图表能够自动生成；
• 论文格式相对标准化。

因此，AI 即使没有真正理解“科学为什么重要”，也可以先自动完成大量科研操作。

这可能才是 The AI Scientist 最现实的影响。

真正的变化，是科研开始拥有软件接口

The AI Scientist 的意义，不是证明 AI 已经具有人类科学家的全部能力。

它真正证明的是：

科研流程中的许多活动，可以被重新描述成可调用、可记录、可评价的软件模块。

研究过程可以被拆成一组任务

例如：

• “生成候选研究方向”可以成为一个模块；
• “检索已有论文”可以成为一个模块；
• “判断想法是否重复”可以成为一个模块；
• “修改实验代码”可以成为一个模块；
• “运行实验并收集指标”可以成为一个模块；
• “检查图表是否合理”可以成为一个模块；
• “按照审稿标准寻找缺陷”也可以成为一个模块。

当这些模块之间存在稳定的输入和输出接口后，科研过程就开始具备软件工程流水线的特征。

过去，我们通常认为科学研究高度开放，无法被严格拆解。

The AI Scientist 并没有证明所有科学活动都能被标准化，但它至少说明，机器学习研究中的一部分工作已经可以被组织成：

hypothesis → code → experiment → result → critique → revision

科研 Agent 不是一个超长 Prompt

这也是为什么，真正的科研 Agent 不能只是向大模型发送一句：

请自主完成一项研究，并写出一篇论文。

这样做最终通常只能得到一篇“外表像论文”的文本。

一个真正能够工作的科研系统，至少需要管理：

• 当前研究目标；
• 候选研究假设；
• 文献检索记录；
• 代码版本；
• 数据集来源；
• 实验参数；
• 运行日志；
• 错误信息；
• 实验指标；
• 图表文件；
• 失败实验；
• 评审意见；
• 计算预算。

也就是说，科研 Agent 的核心并不是生成文字，而是维护一个长期、结构化、可回溯的研究状态。

为什么 The AI Scientist 要使用实验树

传统自动编程 Agent 经常采用线性流程：

1. 生成代码；
2. 运行代码；
3. 根据错误修改；
4. 再次运行；
5. 输出结果。

这种方式在简单任务中可能有效，但用于科研时风险很大。

科研不是找到一条能运行的路径

如果系统在早期实验中犯了错误，例如：

• 数据划分不合理；
• baseline 实现错误；
• 指标计算错误；
• 训练集和测试集发生泄漏；
• 模型只是在记忆数据；
• 图表没有展示真正的实验现象；

那么后续所有实验都可能建立在错误基础上。

即使代码最终能够成功运行，也不代表研究结论可信。

因此，template-free 版本的 The AI Scientist 使用了 agentic tree search。

每一个实验都可以形成一个 node。

系统不是只沿着单一路径一直向下运行，而是可以同时保留多种实验方向，并比较不同节点的价值。

Buggy node 不一定意味着研究方向错误

某个实验节点运行失败，可能只是因为：

• 数组维度错误；
• 数据文件路径错误；
• 显存不足；
• 数据类型不匹配；
• 缺少某个依赖；
• 可视化脚本存在问题。

因此，系统不会立即删除所有失败节点，而是保存 error trace，并在后续搜索中尝试修复。

这与真实研究过程非常相似。

人类研究者也不会因为一次程序报错，就立刻放弃整个假设。

真正重要的是区分：

是实现出了问题，还是研究想法本身不成立？

运行成功也不等于实验有效

这是科研自动化中特别容易被忽略的一点。

很多自动编程系统把“程序退出码为 0”视为任务成功。

但科研代码即使没有报错，也可能产生完全错误的结论。

例如：

• 数据存在泄漏；
• 图例与曲线对应错误；
• 横坐标和纵坐标含义错误；
• 测试集被用于调参；
• 随机种子选择具有偏差；
• 图表放大了极小差异；
• caption 与实际图像不一致。

The AI Scientist 会使用 Vision-Language Model 检查实验图表。

如果图表存在缺少 legend、坐标轴不合理、可视化误导或 caption 不匹配等问题，即使实验代码成功运行，节点仍可能被判断为有问题。

这反映出科研 Agent 必须区分至少三个层次：

1. 代码是否成功运行；
2. 实验是否设计正确；
3. 结果是否足以支持科学结论。

论文不再稀缺后，投稿系统会发生什么

The AI Scientist 最值得警惕的地方，不是它偶尔生成了一篇达到 workshop 水平的论文。

而是它展示了一种新的规模化能力。

人类研究受限于时间，Agent 受限于预算

假设一个人类研究团队同时探索 100 个研究方向：

• 70 个实验无法运行；
• 20 个结果没有价值；
• 8 个只能形成普通报告；
• 2 个能够达到 workshop 投稿水平。

对于人类团队来说，失败 98 次的成本可能难以承受。

因为每一个方向都需要研究人员花费数周甚至数月：

• 阅读文献；
• 编写代码；
• 运行实验；
• 分析结果；
• 撰写论文。

但对于科研 Agent 来说，这可能只是一次计算预算。

它可以并行维护大量实验分支，将失败看作搜索过程中的正常成本。

于是，科研生产方式可能从：

认真选择少数方向，再投入大量人力完成研究

逐渐转变为：

批量生成候选方向，通过自动实验筛选出少数可投稿结果

这并不一定会立即提高平均论文质量。

但它很可能会显著提高论文数量。

投稿本身不再是一道天然门槛

目前的学术出版制度，默认一篇完整论文的生产成本较高。

因此，完成论文并正式投稿，本身就具有一定筛选作用。

研究者通常不会为了一个完全不成熟的想法，随意投入几个月写出完整论文。

但当 AI 可以自动完成：

• 论文结构；
• 实验表格；
• Related Work；
• Figure caption；
• References；
• LaTeX 排版；

“生成一篇可以投稿的稿件”就不再需要同样高的成本。

这意味着投稿数量可能快速增长，而审稿人的数量不会同步增长。

最终可能出现：

• 投稿系统被大量低质量论文淹没；
• reviewer workload 进一步增加；
• 真正有价值的工作更难被发现；
• 研究机构利用 Agent 批量生产成果；
• 学术履历中的论文数量进一步失去意义。

所以，可怕的并不是 AI 会不会写论文。

真正的问题是：

当论文供给近乎无限时，谁来判断哪些论文值得被阅读？

未来稀缺的可能不是论文，而是可信度

过去，完成一篇结构完整、实验丰富、引用规范的论文，本身就意味着作者进行了大量工作。

但未来，这些外观特征都可能自动生成。

“看起来像论文”将不再具有证明力

一篇论文可能拥有：

• 完整 Abstract；
• 清晰 Method；
• 多张实验表格；
• 漂亮的 Figure；
• 若干 Ablation Study；
• 数十篇 References；
• 一套符合会议模板的 LaTeX。

但这些内容的存在，并不能证明：

• 实验真的运行过；
• 数据没有泄漏；
• baseline 是公平的；
• 引用内容准确；
• 结果可以复现；
• 结论没有被夸大；
• 作者真正理解研究过程。

当论文外观可以被批量生产，学术可信度就必须依赖更多过程证据。

未来论文可能需要附带研究轨迹

在 AI 自动科研环境中，只提交最终 PDF 可能不再足够。

更可信的研究成果，可能需要同时公开：

• hypothesis history；
• literature search records；
• experiment tree；
• code commits；
• dataset provenance；
• random seeds；
• failed experiments；
• hyperparameter history；
• tool-call logs；
• model prompts；
• human intervention records；
• reviewer and revision traces。

换句话说，学术评价的重点可能从：

这篇论文最终写成了什么样

逐渐转向：

这项研究究竟是如何被完成的

这里最重要的概念是 provenance，也就是研究成果的来源、过程和责任链。

当 AI 可以廉价生成一个看似合理的结果，完整 provenance 就会成为判断可信度的重要依据。

自动审稿会解决自动投稿问题吗

The AI Scientist 还配套设计了 The Automated Reviewer。

它会模拟顶级机器学习会议的评审流程，为论文生成：

• Summary；
• Strengths；
• Weaknesses；
• Questions；
• Soundness score；
• Presentation score；
• Contribution score；
• Overall score；
• Accept 或 Reject 建议。

每篇论文会得到五份独立 review，随后由一个模型扮演 area chair，生成 meta-review。

看起来，自动审稿似乎正好可以解决自动投稿带来的数量问题：

既然 AI 能批量生成论文，那就让 AI 批量审稿。

但事情可能没有这么简单。

生成器和评价器可能形成封闭循环

如果论文生成器和论文评审器具有相似的训练数据、语言习惯和评价偏好，就可能形成一种危险循环：

1. AI 学习什么样的论文更容易获得高分；
2. AI 按照这种格式生成论文；
3. AI Reviewer 根据相同偏好给出高分；
4. 系统继续优化“更像高分论文”的文本；
5. 论文越来越符合形式，却不一定越来越接近真实知识。

这类似机器学习中的 reward hacking。

系统可能学会优化评分规则，而不是优化真正的科学价值。

例如，Agent 可能发现，只要论文中包含：

• 更多 baseline；
• 更多 ablation；
• 更完整的 limitation；
• 更谨慎的表达；
• 更符合审稿模板的结构；

就更容易得到高分。

但这些特征并不能自动证明研究结论正确。

审稿一致性不等于科学真理

论文中的实验表明，The Automated Reviewer 与人类会议决策具有一定一致性。

但这最多说明它能够模仿平均人类审稿意见。

它并不意味着 AI 能够准确判断：

• 一个思想是否会在十年后改变领域；
• 一个负面结果是否具有深层意义；
• 一个看似简单的想法是否隐藏着重要理论；
• 一个高分 benchmark 是否真的带来了知识进步。

同行评审本身就是一种有噪声的制度。

如果 AI 只是学会复制这种噪声，它能够提高审稿速度，却不一定能够提高科学质量。

因此，自动审稿更适合用于：

• 投稿前预检查；
• 查找明显实验缺陷；
• 检查写作完整性；
• 提醒作者补充 baseline；
• 辅助人类 reviewer 阅读。

它不应该成为科研可信度的唯一来源。

AI Scientist 反而让人类研究者的价值更清楚

面对自动科研系统，人们最容易问的问题是：

科学家会不会被 AI 取代？

但 The AI Scientist 当前暴露出的问题，恰恰说明，人类研究者最重要的价值并不只是写代码和写论文。

生成问题很容易，判断问题是否重要很难

大模型可以快速生成大量研究选题。

但“此前没人做过”不代表“值得研究”。

一个研究想法可能：

• 具有新颖性，但没有实际意义；
• 能提高 0.2% 指标，但增加十倍计算成本；
• 可以写成论文，却不会改变任何人的理解；
• 没有人做过，只是因为这个方向没有价值；
• 没有获得正结果，但失败本身非常重要。

The AI Scientist 在真实 workshop 投稿实验中，评分最高的一篇论文报告的是 negative result。

这件事很值得思考。

科研价值并不等于“指标一定上涨”。

证明一个看起来合理的方法不起作用，有时同样能够帮助整个领域减少重复探索。

但判断一个负面结果究竟是：

• 实验没有做好；
• 实现存在错误；
• 参数没有调好；
• 还是揭示了真正的科学边界；

仍然需要深入的领域理解。

最重要的能力可能是设计评价标准

AI Scientist 可以根据某个指标选择“最好”的实验节点。

但谁来定义什么叫最好？

如果评价器只关注 accuracy，系统可能牺牲：

• 训练成本；
• 推理延迟；
• 公平性；
• 可解释性；
• 隐私；
• 能耗；
• 鲁棒性；
• 实际部署价值。

如果评价器只关注论文评分，系统可能优化：

• 更像论文的表达；
• 更多看似完整的实验；
• 更符合 reviewer 偏好的叙事；
• 更容易被接受的研究方向。

因此，未来人类研究者最重要的一项工作，可能不是亲自执行每个实验，而是设计：

• 什么结果值得奖励；
• 什么风险必须惩罚；
• 什么证据足以支持结论；
• 哪些指标可能误导研究方向；
• 哪些失败值得继续调查；
• 哪些结果不应该公开。

AI 可以沿着评价函数高速搜索。

但评价函数本身，仍然包含人的价值判断。

科学责任不能外包

即使一篇论文完全由 Agent 生成，也必须有人回答：

• 数据是否合法使用；
• 代码是否存在泄漏；
• 引用是否真实准确；
• 实验能否复现；
• 结论是否可能造成现实伤害；
• 研究是否符合伦理；
• 出现错误后由谁承担责任。

模型可以生成一句“我们对所有错误负责”。

但模型不能承担法律、伦理和职业责任。

因此，AI 自动科研不会让作者责任消失。

相反，它可能要求人类作者承担更严格的审计义务。

未来“作者”的含义可能不再是：

我亲手写下了论文中的每一个句子。

而是：

我理解这项研究的生成过程，验证了关键证据，并愿意为最终结论负责。

对科研 Agent 开发者的现实启示

The AI Scientist 不只是一个科研项目，也提供了不少 Agent 系统设计上的启示。

不要把目标设置成“一键生成论文”

如果系统最终只优化 PDF，它很容易变成论文外观生成器。

更可靠的科研 Agent 应该优先建设：

• 结构化实验记录；
• 可回滚的代码版本；
• 数据来源追踪；
• 失败实验保存；
• 指标计算验证；
• 引用真实性检查；
• 人工审批节点；
• 资源和权限控制；
• 完整 provenance。

PDF 应该只是研究过程的最终报告。

而不应该成为系统唯一关心的目标。

失败实验应该成为正式资产

今天的论文通常只展示最成功的一条路径。

失败的配置、错误的想法和无效的方法，大多不会被公开。

但对于自动科研系统来说，失败轨迹非常重要。

它们可以帮助我们判断：

• Agent 是否反复犯同一种错误；
• 最终结果是否来自 cherry-picking；
• 某个提升是否只出现在单个 random seed；
• 哪些方法在什么条件下无效；
• 搜索过程是否存在系统性偏差。

没有失败记录的自动科研系统，很容易退化成一个高级版“结果筛选器”。

它不断尝试，直到偶然得到一个好看的结果，然后只报告成功案例。

Human-in-the-loop 不是落后的设计

很多人认为，人类参与只是因为 AI 暂时还不够强。

等模型继续进步后，科研流程就应该完全无人化。

但科学研究中的很多决策并不是单纯技术问题。

例如：

• 研究是否符合伦理；
• 某种实验是否可能造成伤害；
• 某个结果是否应该公开；
• 是否值得继续投入大量资源；
• 是否应该停止一个潜在危险的研究方向。

这些决定涉及社会价值、法律责任和伦理判断。

因此，Human-in-the-loop 很可能不是临时补丁，而会成为可靠科研 Agent 的长期组成部分。

未来研究者可能成为“研究架构师”

AI Agent 最先影响的，可能不是最顶尖的科学家，而是大量重复性较高的科研岗位。

未来 Agent 可能负责：

• 文献初筛；
• baseline 复现；
• 数据处理；
• 超参数搜索；
• random seed replication；
• 图表生成；
• 初稿整理；
• reviewer-style 检查；
• LaTeX 排版。

人类研究者则更加集中于：

• 选择真正重要的问题；
• 设计可信的评价体系；
• 检查关键实验；
• 解释异常结果；
• 处理伦理与社会影响；
• 判断哪些成果值得进入公共知识体系。

研究者可能逐渐从实验执行者，变成：

Research Architect + Scientific Auditor

也就是研究架构师和科学审计者。

这不意味着研究人员不再需要技术能力。

恰恰相反，只有真正理解数据、模型、实验和统计方法，研究者才有能力审计 Agent 的输出。

结语：未来最稀缺的，是值得相信的知识

The AI Scientist 目前并不完美。

它会产生幼稚的想法，会写错代码，会误用引用，也可能根据错误实验得出错误结论。

作者也明确讨论了自动科研可能带来的风险：

• 压垮同行评审系统；
• 增加科学文献噪声；
• 批量制造学术成果；
• 不当复用他人创意；
• 产生不道德或危险实验。

但这项工作的意义仍然不容忽视。

它证明了，科研活动中原本分散在不同人员、软件和阶段中的任务，可以被连接成一个持续运行的 Agent 系统。

今天的 AI Scientist 只能偶尔做出达到 workshop 水平的论文。

但它的扩展路径已经非常清楚：

• 更强的 foundation model；
• 更多 inference-time compute；
• 更大的实验搜索树；
• 更完善的自动反馈；
• 更低的并行实验成本。

所以，我们真正需要思考的问题已经不是：

AI 能不能写一篇论文？

而是：

当论文的边际生产成本不断接近于零，科研共同体应该如何识别真正可信、重要并值得保留的知识？

过去，科学发展的瓶颈可能是实验速度和论文写作速度。

未来，瓶颈可能变成：

在机器批量生产的假设、实验和论文中，判断什么是真的，什么是重要的，什么值得人类相信。

AI 会让论文变得越来越便宜。

但可信的知识，可能因此变得更加昂贵。

---

论文信息

• Title：Towards end-to-end automation of AI research
• Journal：Nature
• System：The AI Scientist
• Automated review system：The Automated Reviewer
• Research areas：AI Agent、Scientific Discovery、Automated Experimentation、LLM