Roast topics
Find topics
Roast it!
Roast topics
Find topics
Find it!
Login
From:
科学空间|Scientific Spaces
(Uncensored)
subscribe
重新思考学习率与Batch Size（四）：EMA
https://spaces.ac.cn/archives/11301
links
backlinks
我们在《重新思考学习率与Batch Size（二）：平均场》中提到，关注SignSGD的原因之一是我们通常将它作为Adam的理论近似，这是Adam做理论分析时常用的简化策略。除了分析学习率的场景...
