Cross-Attention

Meccanismo di attenzione in cui le query provengono da una sequenza e chiavi e valori da un'altra, consentendo a un modulo (es. il decoder) di attingere informazioni da una fonte diversa (es. l'encoder). È il ponte tra encoder e decoder nei Transformer.