Attention mask
Verificato
Significato di «Attention mask»
Maschera di attenzione. Filtro che impedisce a un token di considerare posizioni non valide, come i token di riempimento o, nei modelli causali, quelli futuri.
Fonti: Tensore binario che azzera i pesi di attenzione verso posizioni non ammesse: nei modelli come BERT distingue token reali dal padding, nei modelli causali blocca anche le posizioni future. Fonti: Vaswani et al. 2017 'Attention Is All You Need' (arXiv:1706.03762); documentazione Hugging Face, Glossary 'attention mask'. verifica web 2026-08-03 · Verificato il 2026-08-03