Multi-head attention
Verificato
Significato di «Multi-head attention»
Meccanismo del Transformer che esegue più operazioni di attenzione in parallelo, ciascuna con proiezioni distinte di query, key e value, per catturare relazioni diverse tra i token; i risultati delle teste vengono poi concatenati e proiettati.
Fonti: Attenzione multi-testa in parallelo con proiezioni distinte. Fonti: Vaswani et al., "Attention Is All You Need" (arXiv:1706.03762); Jurafsky & Martin, "Speech and Language Processing". Verifica web 2026-08-03. · Verificato il 2026-08-03