自动调参: BOHB算法框架HpBandSter源码解读

直接看图最清楚

HyperBandSter并行计算.jpg

HpBandSter实现了所谓的BOHB, 也就是以TPE为代理函数的贝叶斯优化 + Hyperband的组合(Bayes Optimization + HyperBand). 其源码可以沿着两个思路阅读. 一个思路是并行计算, 另一个思路是贝叶斯优化.

其中并行计算的部分对应图上的Master + NameServer + Worker.
贝叶斯优化的逻辑主要集中在BaseIteration + ConfigGenerator中.