关于位置编码的疑问 #33

Open

opened

on Dec 30, 2024

为什么在Swin的代码中，位置编码是在QKV映射之后加入到K上的呢？常规操作不是应该在QKV映射之前加到X上嘛？请问这样做的考虑是什么呢？

Metadata

Assignees

No one assigned

Labels

No labels

No labels

Projects

No projects

Milestone

No milestone

Relationships

None yet

Development

No branches or pull requests