没人教你做研究：一套可以刻意训练的研究能力栈

科研方法 2026-07-02 8 分钟阅读

几乎没有人真正教过你怎么做研究。你领到一张桌子、一个别人替你选好的问题，外加一句含糊的指令——做点有新意的东西出来。于是大多数人只能从自己看得见的东西里反向工程出这份工作：论文、社交媒体讨论、各种发布声明。结果他们学到的，是怎样看起来像一个研究者，而不是怎样成为一个研究者。

vivek 在这篇方法论随笔里指出：真正的研究能力，其实是一摞更小的能力叠在一起，而其中几乎每一项，都可以被刻意训练。下面把这套能力栈拆开来看。

一、自己挑问题（Pick Your Own Problems）

Richard Hamming 在贝尔实验室有一个习惯，让他在午餐时不太受欢迎。他会问坐在身边的人：你所在领域里最重要的那些问题是什么？然后再追问一句——那你为什么不在做它们？为此，不少人会选择换张桌子坐。这个问题之所以扎心，是因为我们大多数人答不上来。我们并不真正「选择」问题，而是被动地「吸收」问题：从导师那里、从某个大实验室上个季度的公告里、从这周所有人都在转发的论文里。

被动吸收来的问题有个致命缺陷——你拿到的只是结论，没有推理过程。你知道某家著名实验室在乎某个方向，却不知道为什么、不知道他们期待发现什么、不知道什么情况下他们会放弃这个方向。等到他们转向时，你要晚一年才知道。更何况，在一个已经很火的问题上，你在和一千个起步更早、算力更多的人赛跑。

John Schulman 的 ML 研究指南把研究分成两种模式：一种是读文献、寻找可以改进的地方；另一种是先选定一个你真心希望它存在的结果，再倒推回所需的实验。他主张第二种——而背后那个不太张扬的理由是：这种倒推能制造原创性。一个你真正在乎的目标，会把你拖进任何综述论文都没覆盖过的领地。

至于「品味」，人们常把它当成一种天赋来谈论。它的实际表现更像一块肌肉。试试这些练习：每次跑实验之前，先预测结果；看论文时遮住结果部分，仅凭方法猜数字；标记出本月那些发布中哪些两年后仍然重要，过段时间再回头核对命中率。一次预测加一次修正，重复几百遍——这是所有好模型的训练方式，包括你脑子里那个。

二、升级你的信息源（Upgrade Your Inputs）

共享的阅读清单，只会产出共享的想法。如果你的信息食谱就是 arXiv 的趋势页加上群聊里筛选后剩下的内容，那你一定会和所有人同时得出相同的结论——而这些结论的价值也就约等于零。

旧资料被严重低估了。这个领域会以延迟的方式重演自己的过去：混合专家模型（Mixture of Experts）可以追溯到 1991 年，LSTM 是 1997 年，反向传播（Backprop）在 1986 年才成为主流。Rich Sutton 在 2019 年只用大约一千个词就写出了《The Bitter Lesson》，而它对这个领域未来形态的预测，比那些篇幅十倍于它的综述还要准。

Claude Shannon 在 1952 年做了一场关于创造性思维的演讲，他开场的第一招就是把一个问题缩小到近乎平凡的程度，先攻克这个小版本，再一点一点把难度重新加回去。光这一招，就能帮你穿过比任何现代生产力建议都多的墙。

广度和深度同样重要。可解释性研究厚着脸皮从神经科学里借东西；评测（eval）设计本质上就是穿了件实验服的机制设计；对 GPU 到底怎么搬运内存有一点真实手感，能让你在跑 benchmark 之前就判断出哪些架构论文注定失败；而诚实的统计，可能是 ML 里最稀缺的技能——这个领域大量发表的「严谨」，只不过是带误差棒的直觉而已。

还有一点：读论文本身，别读那条总结它的推文。附录里才藏着真正的问题（where the bodies are buried），而局限性那一段，通常是整篇文档里最诚实的一段。

三、把一切都写下来（Write Everything Down）

Paul Graham 指出，一个想法可以让你觉得已经完全成型了——直到你试图把它变成文字。纸面会找出你脑子里被糊弄过去的那道缝：那个你从未检验过的假设、那一步其实并不成立的推理、那两条悄悄互相矛盾的说法。

Feynman 的规矩是：你第一个必须避免愚弄的人，就是你自己，因为你是最容易上当的那个目标。写作，是人类发明过的最廉价的防御。

Darwin 把这件事做得更彻底，让它变成一套流程。任何与他理论相左的事实，他都会当场记下来，因为他发现自己的记忆会更快地删除「不利证据」，而不是「有利证据」。你的记忆对你那些失败的实验也干着同样的事。所以请保留一份日志：假设、设置、预期、结果、更新后的信念。重读上个月的记录，会让你感到一种任何审稿人都比不上的谦卑。

然后，把其中一部分放到公开场合。Olah 和 Carter 在《Research Debt》那篇文章里讲清了道理：一个领域会被未消化的想法噎住，一段清晰的解释是一种真正的贡献，而不是什么服务性杂活。今天很多做可解释性的人，是通过好读的博客文章走进这个领域的，而不是会议论文。一摞公开写作，同时还是你能持有的最强 credential，因为它是关于你思维方式的一份无法伪造的样本。

四、收紧闭环（Tighten the Loop）

关于 Alec Radford 的那些故事，很少是关于某一次天才的灵光乍现，而是关于吞吐量——每天更多的实验运行、每周被丢弃的更多错误想法、一个比任何人都更新得更快的现实模型。这才是这场游戏的真相：研究的速度，很大程度上就是你发现自己错了的速度。

正因如此，工具链是第一等的研究活动。发起一次运行应当只是一条命令，画出它的结果应当再多一条命令。每一个实验都应当能从它的 config 完整复现；比较两次运行应当只需几秒，而不是花一下午做考古。

Karpathy 训练神经网络的配方里，有一步能值回百倍票价：在正式大规模训练之前，先过拟合单个 batch。三十秒，你一半的 bug 就消失了。把一切缩小到很便宜的程度，先把它做对，再去花算力。

也请丢掉「工程只是研究的小弟」这种想法。在最前沿，这两份工作已经融合了。能自己搭起训练框架、评测和数据管线的研究者，才是那个假设真能被检验到的人；其他人，都在排队。

五、凝视输出（Stare at the Outputs）

一条下降的 loss 曲线不是分析，是安慰。你的实验扔出的信息，远比你消费掉的多：生成文本、失败案例、分布里那条奇怪的尾巴——其中大部分都默默死在某个 logs 文件夹里无人翻看。

Karpathy 的配方，在任何训练代码动笔之前就开始了：先花几个小时亲手翻看原始数据。ML 的大多数 bug 都活在数据里，而且它们是静默失败的——什么也不会崩溃，你只是得到一个平庸的模型，外加一套关于「为什么」的错误理论。

Andrew Ng 十多年来一直在教同一个不起眼的动作，因为没有什么能打败它：抽出一百个失败样本，把它们全部读完，分门别类堆成几摞，然后攻击最大的那一摞。它对模型有效，对评测也有效——一个你从未读过其生成样本的 benchmark，就是一个你其实并不理解的 benchmark。一个真正诡异的样本，教给你的东西，会比下一位小数点的精度多得多。

六、刻意游走（Wander on Purpose）

你进入的第一个子领域，多半是时机上的偶然——那就把它当偶然对待。在可解释性、评测、强化学习、系统这些方向上各花点真时间，再决定你最终住在哪里。这个领域里某个角落，会让你的某种独特怪癖成为不公平的优势，而找到它的唯一办法，是在好几个地方交过学费。这笔学费，没人能替你免掉。

先把每个想法的「一次性版本」跑起来，让它们大多数都尽早死去。把 baseline 调到让你自己心疼为止——因为 ML 的坟场里堆满了那些在调好的 baseline 面前瞬间蒸发的提升，而审稿人是你最不该从他那儿学到这件事的人。做消融，直到你弄清楚到底是哪个组件在撑起结果——通常只有一个，而且通常不是标题里写的那个。

广度也是一种保险。子领域都会饱和，无一例外，通常就发生在它们在社交媒体上最热闹之后不久。能在这些转折中持续产出的人，都是那些早就摸熟了相邻地盘的人。

七、找到你的人（Find Your People）

Hamming 注意到一个规律，关乎谁最终做出了重要的工作。关着门做事的同事，在任何单一年份里产出更多；而开着门的同事，做的是真正要紧的工作——因为那些打断里，携带着关于这个世界真实需求的信息。你今天的「开着的门」，大概是一个收件箱。让它保持开着。

在研究里，慷慨的复利效应比任何东西都强。复现一个结果并发表你的发现；把你为自己做的小工具发布出来；用大白话把一件难懂的事解释清楚。回报会以意想不到的方式、几个月后才到达——一次合作、一封推荐信、一个你原本根本申请不到的职位。也别吝啬把你半成型的想法丢到公开场合，因为在时间线上（timeline）犯错，远比在论文里（in print）犯错便宜得多。

那个愿意在你投进去三个月之前就告诉你「这个想法不行」的合作者，价值超过算力。这种关系买不来，只能靠自己去挣。

八、长期主义（The Long Game）

Pasteur 说过，机遇偏爱有准备的头脑。Hamming 在这句话上建起了一整套职业哲学：知识和生产力会像利息一样复利增长。每天那些边缘优势，单独看都微不足道——你读什么、记什么、你的闭环跑得多快、你和谁争论。但给它们几年时间，它们就能产出一眼看上去像是「运气」的职业生涯。

要比你觉得必要的更早开始复利。未来的你已经知道，今天这段才是整件事里最便宜的部分。

文章来源

本文基于知乎专栏 @vivek《how to be good at research》一文改写整理，原作者为 ML 研究者，以第一人称视角分享其研究方法论随笔。文中提及的 Hamming、Schulman、Radford、Karpathy、Andrew Ng、Shannon、Sutton、Paul Graham、Feynman、Darwin、Olah & Carter、Pasteur 等人物事迹与历史引用（MoE 1991、LSTM 1997、Backprop 1986、The Bitter Lesson 2019、Shannon 1952 创造性思维演讲等）均来自原文。为更流畅的中文表达进行了改写，但未删减、未扭曲原意，所有论据与案例均予保留。

返回博客列表