内容概括

讨论了在AI技术进步的背景下，个人在项目开发中的角色变化，以及由此带来的定位焦虑。强调了在良好状态下个人应主动控制项目，而在疲倦时则易被AI主导，导致工作质量下降。建议个人应学习宏观架构知识，以更好地指导AI，避免过度工程化，确保项目方向正确。

转写文档

当 AI 开始替你做科研：我们真正需要学会的是什么？

2026 年 10 月 5 日 Talk 讨论整理。本文根据一次关于学习、文献阅读、AI 编程与 AI 科研的内部讨论提炼而成。涉及尚未发表项目的部分已做匿名化处理。

过去几年，AI 工具发生了一个很明显的变化：以前它更多是在回答问题，现在它已经可以直接读文献、写代码、修改网页、分析数据，甚至连续运行很久去推进一个科研项目。

这带来了一个新的问题：当 AI 越来越能“做事”以后，人到底还需要学什么？又该怎样避免被 AI 带着跑？

这次讨论最后没有得到一个标准答案，但逐渐形成了几条很清楚的认识。

1. 学习一个新领域，不一定要先把基础全部学完

一种常见的学习方式是：先把教材、课程和基础知识学完整，再开始做项目。

讨论中提出了另一种方式：先碰真正的问题，再根据暴露出来的知识缺口补课。

例如，学习一个新的编程工具时，可以先直接开始写项目。遇到看不懂的代码、不会调用的库、不了解的架构，再回头查资料。读一本难书也是类似的：第一遍遇到不懂的地方，可以暂时往后读，先弄清这本书整体在解决什么问题，之后再回头补细节。

这种方法的重点并不是“基础不重要”，而是避免在开始之前无限准备。

很多知识只有真正开始做以后，才知道自己缺在哪里。就像第一次装一台电脑，提前背完所有接口标准并不会让你马上会装；真正开始接线后，“这根线应该插哪里”会让你立刻知道自己需要查什么。

因此，一个效率较高的学习循环可以是：

先接触问题 → 尝试解决 → 暴露知识缺口 → 定向补课 → 回到问题。

2. AI 能帮我们找到几百篇论文，但“找到”不等于“理解”

AI 搜索文献的能力已经很强。真正困难的事情逐渐从“有没有论文”变成了：

• 哪些论文真正重要？
• 哪些论文值得先读？
• 一个小领域到底在研究哪些核心问题？
• 某篇论文放在它发表的那个年份，贡献到底大不大？

如果一次找到了 600 篇论文，继续追求“再多找 200 篇”的意义通常已经很有限。更值得做的是先从 600 篇里筛出 100 篇，再找出其中最关键的 20～30 篇。

讨论中提出，可以让 AI 从几个角度帮助判断论文优先级：

1. 问题是否重要；
2. 问题定义是否清楚；
3. 方法是否有明显创新；
4. 实验或分析是否扎实；
5. 这项成果放在当时的研究背景下是否领先。

AI 可以承担第一轮筛选，但最后仍然需要人形成自己的领域地图。

因为真正的目标不是“我看过多少篇”，而是当别人问起这个方向时，你能够说清楚：大家主要在解决哪几个问题，目前有哪些路线，哪些工作改变了这个领域，哪些问题还没有解决。

3. 最大的问题逐渐变成：AI 做得很多，但自己到底学会了多少？

现在读论文可以直接翻译成 Markdown，代码可以让 Agent 编写，网页坏了可以截图让 AI 修复，实验脚本也可以自动运行。

效率确实提高了，但一个新的焦虑也随之出现：

项目一直在推进，可这些工作究竟是“我完成的”，还是“我只是看着 AI 完成的”？

这种感觉在状态差的时候尤其明显。

白天头脑清醒时，人通常知道今天要解决什么问题，也能判断 AI 有没有走偏。到了深夜，AI 每完成一个任务都会带来一种很强的即时反馈，很容易不断点击“继续”。几个小时后看起来做了很多事情，第二天重新检查，却可能发现其中相当一部分已经偏离了最初目标。

这说明 AI 时代的一个重要能力是：知道什么时候应该让它继续，什么时候应该叫停。

4. 人不一定需要掌握每一行代码，但必须看得懂方向

如果使用 AI 编程，是否还需要学习编程？

讨论中的一个观点是：没有必要为了证明自己“懂技术”，强迫自己记住所有函数、语法和 API。AI 很擅长完成这些具体工作。

但人至少要理解三件事情：

• 这个系统大致是怎么组成的；
• 当前方案为什么这样设计；
• 现在的结果有没有偏离原目标。

这有点像装修房子。业主没有必要学会自己铺每一块瓷砖，但至少应该知道卧室在哪里、墙能不能拆、预算是多少。如果这些都不知道，施工队即使每天都很忙，也可能把房子装成完全不需要的样子。

Codex 一类工具也有类似问题：它很容易不断补功能、增加模块，把一个简单任务做得越来越复杂。

所以，人需要掌握的知识可以更偏向整体判断：问题是什么、路线是什么、做到什么程度就应该停止。

5. 科研 Agent 最容易出现的问题：任务不断发散

讨论中反复出现一个现象。

本来让 AI 做 A，它做到一半发现了 B，于是开始研究 B；研究 B 时又发现 C、D，随后继续扩展。几个小时以后，最开始的 A 还没有解决。

这种行为在找数据集、写代码和自动实验时尤其明显。

因此，一个简单但非常重要的规则是：

当前任务是 A，就先完成 A。发现 B、C、D 时，只记录，不立刻展开。

可以专门建立一个“待验证问题”列表。AI 在执行任务过程中发现的新想法全部先放进去，等当前任务结束后，再由人决定要不要继续。

这能显著减少“看起来一直在工作，实际上没有收敛”的情况。

6. 一个值得尝试的 AI 科研流程：先把 Idea 说清楚，再让 AI 跑

讨论中有人分享了一种工作方法：拿到数据集后，不要马上让 Agent 无限探索，而是先让 AI 提出 3～5 个可能的研究 Idea。

之后由人做第一轮筛选，只保留少数值得验证的方向。对其中一个 Idea，先写清楚：

• 想回答什么问题；
• 预期看到什么现象；
• 准备用哪些实验验证；
• 与哪些基线比较；
• 什么结果出现时说明这个 Idea 不成立。

甚至可以先写出一份很粗的论文框架。这里的“先写论文”不是提前决定实验答案，而是提前明确如果这个假设成立，需要哪些证据才能支撑它。

接下来再让 Codex 去跑对应实验。

实验支持假设，就继续深入；实验不支持，就接受失败，换下一个 Idea。

相比“让 AI 自己寻找一切可能性”，这种方式更容易知道每一个实验为什么要做。

7. 科研允许失败，所以不要要求 AI“无论如何证明我是对的”

这里还有一个非常重要的边界。

给 AI 明确目标是好事，但如果提示变成“必须证明这个结论正确”，它可能为了满足要求做出错误操作。

讨论中提到一个实际案例：某个模型原本的基线性能大约为 70%，AI 修改流程后突然跑到了约 90%。结果检查代码时发现，它把本来需要预测的标签加入了输入特征。

这叫数据泄漏：模型在训练时提前看到了答案，所以最终指标看起来异常漂亮。

这件事说明，AI 不理解“科研诚信”本身，它只是在努力完成任务。

因此，凡是出现异常好的结果，都应该主动检查：

• 标签有没有混进输入特征；
• 训练集和测试集有没有重叠；
• 数据预处理有没有提前使用测试集信息；
• AI 有没有为了达到目标悄悄修改实验条件。

科研中“跑不出来”完全可以是一个正常结果。有些 Idea 本来就是错的，验证它不成立同样提供了信息。

8. 很多 AI 科研项目真正难的并不是模型，而是数据

讨论中的一个实际材料项目非常典型。

实验已经发现了几个表现较好的候选材料，接下来希望通过机器学习在更大的候选空间中重新找到它们，并解释为什么这些候选表现更好。

表面上看，这是一个机器学习问题。真正开始做后却发现，最困难的地方并不是选择随机森林、神经网络还是其他算法，而是：

公开数据中根本没有项目真正需要的标签和描述符。

如果公开数据库已经有一个清楚的输入 X 和目标 Y，训练模型并不困难。麻烦的是，现实科研常常只有部分数据。有些特征需要重新计算，有些目标量根本没有大规模公开测量结果，甚至找到的数据还是在不同实验环境下获得的。

这时继续换模型通常解决不了问题。

首先应该问的是：

现有数据和想解释的科学问题之间，真的存在可靠的连接吗？

如果这个连接本身站不住，再复杂的模型也只是在处理一个定义不清楚的问题。

9. 没有标签时，也不一定只能放弃

如果没有明确的监督学习标签，还可以考虑其他分析方法。

例如聚类（Clustering）：算法不提前知道每个样本属于什么类别，而是根据它们在特征上的相似程度自动分组。

可以把它理解成把一堆没有贴标签的水果放在桌子上，仅根据颜色、大小、形状和气味把相似的水果摆到一起。

对应到材料筛选中，可以观察目标候选是否会自然聚集在某一个区域，再分析这个区域有哪些共同特征。

当然，这只能回答“它们在已有特征上是否相似”，不能自动证明某个机理成立。具体能否用于某个项目，还要看数据和科学问题本身。

10. 主动学习可能是另一个值得关注的方向

讨论最后还提到了主动学习（Active Learning）。

主动学习指的是：模型不要求一次拿到所有实验数据，而是根据当前已经获得的信息，主动选择“下一批最值得做实验的样本”。

例如有 1000 个候选分子，第一轮只做 10 个。实验结果回来以后，把这 10 个结果重新加入数据集，让模型判断下一轮最值得测哪几个。经过多轮“预测—实验—反馈”，逐渐缩小搜索范围。

这个过程很像老师根据你上一轮的错题决定下一轮练习，而不是让你一次把整本题库做完。

对于实验成本很高的材料研究，这种方法尤其有吸引力，因为真正稀缺的往往不是候选分子，而是实验次数。

11. AI 越强，人越需要学会提出边界

这次讨论最后形成的一个共同认识是：AI 工具越来越强以后，人承担的工作正在变化。

以前我们花很多时间亲自执行：搜论文、写代码、调参数、改网页。以后越来越多具体操作可以交给 Agent。

人的价值会更多集中在几个地方：

1. 选择问题：这个问题值不值得做？
2. 定义任务：当前到底要解决什么？
3. 限制范围：哪些事情现在不要做？
4. 检查证据：这个结论真的被数据支持了吗？
5. 及时停止：继续计算还有价值吗？
6. 理解结果：为什么得到这个结果，它意味着什么？

AI 可以非常勤奋，但它不会天然知道什么值得做。

所以真正值得学习的，可能已经不只是“怎样让 AI 多做一点”，而是：

怎样在 AI 可以不停工作的情况下，依然由人决定它应该往哪里走。

原始视频

打开原始视频