Login
From:
kexue.fm
(Uncensored)
subscribe
当Batch Size增大时,学习率该如何随之变化? - 科学空间|Scientific Spaces
https://kexue.fm/archives/10542
links
backlinks
Roast topics
Find topics
Find it!
随着算力的飞速进步,有越多越多的场景希望能够实现“算力换时间”,即通过堆砌算力来缩短模型训练时间。理想情况下,我们希望投入$n$倍的算力,那么达到同样效果的时间则缩短为$1/n$,此时总的算力成...