吕凯风 Kaifeng Lyu

招生： 我们组正在招收 2027 年秋季入学的博士生。想清楚自己未来的人生目标是不容易的，但如果恰巧跟我下面的愿景有相同之处，欢迎你与我邮件联系！因为工作繁忙，邮件可能无法一一回复，还请谅解。如果怀疑是我漏看了邮件或者忘记回复了，欢迎无限次重发邮件，我会尽快回复。

一个好的理论应 “从实践中来，到实践中去”：我们应从现实世界中重要的实际现象或者问题出发，在理论上解释现象或者解决问题，最后返回到实际中去指导实践。我致力于做理论与实验相结合的研究，希望能与我的学生和合作者们一起，为现代机器学习方法夯实基础，让大模型时代的 AI 更加科学、高效、可靠。

关于深度学习的理论，我研究了很多年，也有不少自己很喜欢的工作。不过在最近几年里，我越发意识到，如果实验上本来很多细节就没有处理好，或者模型换个环境就不泛化、不安全了，那么无论怎么建设理论，都可能是空中楼阁。这是因为，理论只能证明对的东西。

那么实验上到底哪些事情是对的呢？在大模型时代，实验成本日渐高昂。很多实验细节可能都没有来得及总结出规律，就被新的风口推着往前走了。我双手支持 AGI 的快速发展，但同时我也认为，最终被实现的那个 AGI，应当是通过一套严谨的科学方法训练出来的。又或者，初代的 AGI 应该协助我们，去建设真正科学、高效、可靠的下一代 AGI。

因而，我最近的研究其实将 “科学” 这一关键词的优先级提升到了 “理论” 之前：先带着理论视角去审视大模型训练的各个环节，总结出科学规律，然后我们才会有机会将零散的科学规律逐步拼起来，进而去谈更深刻的理论分析。

下面是一些我目前正在思考或者研究的方向：

1. Science of Large-Scale Training: 大模型训练是极为复杂的，但有哪些普适的规律是我们可以预测的？我们如何让现有的训练过程更加可预测？大语言模型不会是人类所训练的最后一个大模型，有哪些普适规律也许可以迁移到下一次大模型训练中去？我们的往期工作包括：

   • 大模型训练中最佳的 Learning Rate Schedule 到底是什么？[1]
   • 关于在一个训练集上能重复多少个 epoch 而不至于过拟合，正确的 scaling law 是什么？[2]
   • 理论分析指导分布式训练中的超参数设置 [3], [4], [5]
   • Normalization Layer 和 Weight Decay 如何影响模型的训练动力学 [6], [7], [8]
   • 由上面这一系列研究所启发的优化器 Hyperball [9]
   • 对能实现高效推理的模型架构的不断追求，会如何影响长思维链推理的性能？[10]

2. Principles in Data-Centric ML: 大模型能力的进步，一方面来自于训练规模的不断扩大，另一个重要方面则是数据质量的提升。蒸馏是容易的，不断堆叠工程技巧也是能稳定拿到收益的。但除此之外，我们是否能总结出一些能广泛适用的基本原理，来帮助我们更好地选择、混合和生成数据？

   • 大模型从混合数据中学习到的知识量随模型大小不会线性增长，而是可能呈现出相变现象 [11]
   • 在已知测试分布的情况下，最佳的训练数据分布就是测试分布本身吗？[12], [13]
   • 在预训练阶段，把数据从低质量到高质量喂进模型进行训练，为什么不怎么有效果？[14]
   • 给定一段语料，如何将其重写，才能让大模型在进行下一词预测的训练之后，真正理解并灵活运用语料中的知识？[15]
   • Weak-to-strong Generalization: 用 GPT-2 造数据给 GPT-4 训，却能取得超过 GPT-2 的效果，这在更简单的模型上也会发生吗？[16]

3. Foundations of AI Safety/Alignment: 我也对 AI 安全与对齐的问题感兴趣。机器学习通常是在优化一个模型在 “平均情况” 下的性能，然而 AI 的安全问题会在极端情况下暴露出来。在极端情况下模型犯错的根本原因是什么？目前各类 AI 对齐方法的局限性在哪里，存在哪些无法完全规避的安全隐患？长远来看，是否能够像密码学那样，找到一种系统性的方法，一劳永逸地解决一大类 AI 安全问题？我们的往期工作包括：

   • 目前基于 RLHF 的对齐是非常浅层次的对齐，浅到在安全方面的区别往往只集中在前几个词上 [17]
   • 微调一个对齐好的模型可能会使其安全性退化，但可以对数据格式进行简单调整来缓解问题 [18]
   • 神经网络不具备对抗鲁棒性，理论上是为什么？[19], [20]

以上提到的往期工作，有一大部分是先从理论视角对神经网络的训练过程进行思考，再以一种理论与实验相结合的方式来得到最终的结论。深度学习背后还有很多我非常想解的纯理论问题，没有在上面一一列出，但我其实非常感兴趣。