博士毕业后求职和工作科研之路

最后我想谈谈这些年对科研的一些想法。paper是越来越难发和越来越好发了。

如果紧跟目前主流方法，比如2020年NeurIPS有个什么方法，然后紧接着2020年ICLR就提个小改进，推一波SoTA，这类工作给我一个，也许是错的感觉是，真的挺好发的。反而，一些不随主流，另辟蹊径的工作，反而很难投出去，所以paper是越来越难发了。

就评价体系，对大多数人而言，直观的是文章的数量和引用。这就促使现在有些AI从业者，甚至博士生，加上挂名的，一年会发个二，三十篇文章，在各个领域到处耕耘。这样的人我其实真的挺佩服的，因为毕竟人家是真的爱写文章。就我个人而言，我觉得我拼了老命也没办法如此高产，所以只能用另外一个标准来自我衡量，如下图

所以我在整个Ph.D期间，问自己最多的问题是，我对这个领域做出了什么小贡献，这个小贡献是否有足够的影响力来支撑我的论文？比较开心的是，到今天，我觉得自己是可以回答出这个问题的，所以面对这个即将到来的博士帽子是不虚的。

但是，如果看到同行每月一篇的时候，如果自己一年一篇文章都没有，心态是有可能会崩掉的。我17年开始做NAS，也算最早一批做NAS的，但我第一篇NAS的文章是2020年发出来的。19年一整年没有发出来一篇文章，而且手上目前觉得非常好的LaNAS也是投了两年没投出去。这在很多人眼里，绝对算个loser了。如果说19年我心态没崩，那肯定是假的。我曾经无数次质疑过自己的选择，甚至合作者都不想再继续管没中的文章。但是我比较幸运能够得到我在FAIR的导师，田渊栋的支持，所以在每次质疑过后，都会自我洗脑坚持下去。

今天看来，我对我自己的坚持还是挺开心的。17年用MCTS来做NAS的有几个，但是就我们把文章最终发出来了。虽然跟贝叶斯优化和遗传算法的人吵了半天，现在也终于也能说清楚，为啥利用MCTS学习切割搜索空间，是可以提升贝叶斯优化，并且黑盒优化比赛中被别人用来取得不错的成绩。

仔细想想，这个过程中，除了有大佬的支持，更是对一个领域，从开始的初步了解，到深入，再到做出那么一点点贡献的过程。一开始，其实我们用MCTS只是为了改变Q-learning里比较简单的epsilon-greedy的exploration策略，完全不懂贝叶斯优化。随着paper连续悲剧，不得不理清各种贝叶斯优化，深入为什么要用MCTS，并如何改进MCTS。直到最后，完成了上图那么一丢丢，对知识的扩展。