Login
From:
spaces.ac.cn
(Uncensored)
subscribe
Performer：用随机投影将Attention的复杂度线性化 - 科学空间|Scientific Spaces
https://spaces.ac.cn/archives/7921
links
backlinks
Roast topics
Find topics
Find it!
Attention机制的$\mathcal{O}(n^2)$复杂度是一个老大难问题了，改变这一复杂度的思路主要有两种：一是走稀疏化的思路，比如我们以往介绍过的Sparse Attention以及...
