Modello decoder-only
Verificato
Significato di «Modello decoder-only»
Architettura Transformer che usa solo lo stack decoder e genera testo in modo autoregressivo, predicendo un token alla volta condizionato sui precedenti tramite attenzione mascherata. E la base dei modelli generativi come la famiglia GPT.
Fonti: Solo stack decoder, generazione autoregressiva con self-attention causale. Fonti: Radford et al., "Improving Language Understanding by Generative Pre-Training" (GPT); Jurafsky & Martin, "Speech and Language Processing". Verifica web 2026-08-03. · Verificato il 2026-08-03