Context Caching
Verificato
Significato di «Context Caching»
Ottimizzazione che memorizza gli stati interni calcolati per una porzione di prompt riutilizzata frequentemente, così da non ricomputarla a ogni richiesta. Riduce latenza e costo quando molte chiamate condividono un lungo prefisso comune, come istruzioni di sistema o documenti.
Fonti: Riuso della cache degli stati (KV) di un prefisso di prompt condiviso tra più richieste, per non ricalcolarlo e abbattere costo e latenza. Fonti: documentazione Google Gemini API 'Context caching'; documentazione Anthropic 'Prompt caching'. verifica web 2026-08-03 · Verificato il 2026-08-03