Rotary embeddings
Verificato
Significato di «Rotary embeddings»
Sinonimo di RoPE: metodo di codifica posizionale che incorpora la posizione dei token applicando rotazioni ai vettori query e key nell'attenzione, in modo che le relazioni dipendano dalla distanza relativa tra le posizioni.
Fonti: Termine equivalente a RoPE (rotary position embedding). Fonti: Su et al., "RoFormer" (arXiv:2104.09864); Hugging Face (docs modelli con rotary embeddings). Verifica web 2026-08-03. · Verificato il 2026-08-03