Cosine Annealing
Verificato
Significato di «Cosine Annealing»
Schedulazione del learning rate che lo fa decrescere seguendo una funzione coseno da un valore iniziale a un minimo, talvolta con riavvii periodici (warm restarts). La discesa graduale spesso migliora la convergenza rispetto a un tasso costante.
Fonti: Learning rate a profilo cosinusoidale, con eventuali riavvii. Fonti: Loshchilov & Hutter 2017 'SGDR: Stochastic Gradient Descent with Warm Restarts' (ICLR); documentazione PyTorch (CosineAnnealingLR). Verifica web 2026-08-03. · Verificato il 2026-08-03