,

Attention is not all you need: pure attention loses rank doubly exponentially with depth.

, , и .
ICML, том 139 из Proceedings of Machine Learning Research, стр. 2793-2803. PMLR, (2021)

Метаданные

тэги

Пользователи данного ресурса

  • @analyst
  • @dblp

Комментарии и рецензии