Causal Masking
Verificato
Significato di «Causal Masking»
Tecnica usata nei Transformer autoregressivi che, tramite una maschera, impedisce a ciascuna posizione di attendere ai token futuri, ammettendo l'attenzione solo alle posizioni precedenti e a sé stessa. Garantisce che la predizione dipenda solo dal passato.
Fonti: Maschera triangolare che vieta l'attenzione al futuro. Fonti: Vaswani et al. 2017 'Attention Is All You Need'; documentazione PyTorch (generate_square_subsequent_mask). Verifica web 2026-08-03. · Verificato il 2026-08-03