Layer Normalization

Verificato

Significato di «Layer Normalization»

Tecnica che normalizza le attivazioni di un singolo esempio calcolando media e varianza su tutte le feature dello strato, indipendentemente dagli altri esempi del batch; stabilizza il training ed è centrale nelle RNN e nei Transformer.

Fonti: Normalizzazione per esempio lungo le feature. Fonti: Ba, Kiros, Hinton, 'Layer Normalization' (arXiv:1607.06450, 2016); documentazione PyTorch torch.nn.LayerNorm. Verifica web 2026-08-03. · Verificato il 2026-08-03

Preferenze cookie

Gestisci i cookie usati su Glossario Italiano. Puoi modificare le preferenze in qualsiasi momento dal link "Gestisci preferenze" in fondo a ogni pagina.

  • Necessari
    Login, sicurezza (CSRF), preferenze cookie. Sempre attivi.
    Sempre on
  • Statistici
    Misurano in forma aggregata come viene usato il sito. Nessun profilo personale.
  • Marketing
    Cookie di reti pubblicitarie esterne, se attivati in futuro. Oggi GLS non usa script di terze parti e i nostri sponsor sono editoriali, non profilano.