Login
From:
科学空间|Scientific Spaces
(Uncensored)
subscribe
重新思考学习率与Batch Size的关系(一):现状
https://kexue.fm/archives/11260
links
backlinks
Roast topics
Find topics
Find it!
在之前的文章《当Batch Size增大时,学习率该如何随之变化?》和《Adam的epsilon如何影响学习率的Scaling Law?》中,我们从理论上讨论了学习率随Batch Size的变化...