Attention weights
Verificato
Significato di «Attention weights»
Pesi di attenzione. Coefficienti che indicano quanto ogni token influenza la rappresentazione di un altro.
Fonti: Distribuzione normalizzata (softmax dei prodotti query-key) che pesa i valori nel meccanismo di self-attention. Fonti: Vaswani et al. 2017 'Attention Is All You Need' (arXiv:1706.03762); Jurafsky & Martin 'Speech and Language Processing', cap. Transformers. verifica web 2026-08-03 · Verificato il 2026-08-03