Speculative decoding
Verificato
Significato di «Speculative decoding»
Decodifica speculativa. Tecnica che usa un modello piccolo per proporre token poi verificati dal modello grande.
Fonti: Bozza da modello draft verificata in parallelo dal modello target. Leviathan et al., Fast Inference from Transformers via Speculative Decoding (2023); Chen et al., Accelerating LLM Decoding with Speculative Sampling (2023). Verifica web 2026-08-03. · Verificato il 2026-08-03