Knowledge Distillation Loss
Verificato
Significato di «Knowledge Distillation Loss»
Perdita di distillazione. Termine che addestra un modello piccolo (studente) a imitare le uscite morbide (soft target) di un modello più grande (insegnante).
Fonti: Trasferimento di conoscenza tramite soft target. Fonti: Hinton, Vinyals, Dean, "Distilling the Knowledge in a Neural Network", 2015 (arXiv:1503.02531); Goodfellow-Bengio-Courville, Deep Learning, MIT Press 2016. Verifica web 2026-08-03. · Verificato il 2026-08-03