Login
From:
科学空间|Scientific Spaces
(Uncensored)
subscribe
ReLU/GeLU/Swish的一个恒等式
https://kexue.fm/archives/11233
links
backlinks
Roast topics
Find topics
Find it!
今天水一点轻松的内容,它基于笔者这两天意识到的一个恒等式。这个恒等式实际上很简单,但初看之下会有点意料之外的感觉,所以来记录一下。基本结果我们知道$\newcommand{relu}{\math...