RoPE
Verificato
Significato di «RoPE»
Rotary Position Embedding: tecnica che codifica la posizione ruotando i vettori query e key di un angolo proporzionale all'indice del token. Il prodotto scalare dell'attenzione dipende così dalla posizione relativa tra i token.
Fonti: Codifica posizionale rotatoria che rende l'attenzione dipendente dalla distanza relativa. Fonti: Su et al., "RoFormer: Enhanced Transformer with Rotary Position Embedding" (arXiv:2104.09864); Hugging Face (docs modelli con RoPE). Verifica web 2026-08-03. · Verificato il 2026-08-03