Login
From:
kexue.fm
(Uncensored)
subscribe
从几何视角来理解模型参数的初始化策略 - 科学空间|Scientific Spaces
https://kexue.fm/archives/7180
links
backlinks
Roast topics
Find topics
Find it!
对于复杂模型来说,参数的初始化显得尤为重要。糟糕的初始化,很多时候已经不单是模型效果变差的问题了,还更有可能是模型根本训练不动或者不收敛。在深度学习中常见的自适应初始化策略是Xavier初始化,...