Self-Attention
Verificato
Significato di «Self-Attention»
Meccanismo in cui ogni elemento di una sequenza calcola pesi di attenzione verso tutti gli altri, se compreso, per costruire una rappresentazione che integra le relazioni con l'intero contesto. E il componente fondante dei Transformer.
Fonti: Auto-attenzione, base dei modelli Transformer. Fonti: Vaswani et al., 'Attention Is All You Need' (arXiv:1706.03762, NeurIPS 2017); Goodfellow, Bengio, Courville, 'Deep Learning' (MIT Press, 2016). Verifica web 2026-08-03. · Verificato il 2026-08-03