Tokenizzazione a caratteri
Verificato
Significato di «Tokenizzazione a caratteri»
Suddivisione minima. Approccio che spezza il testo nei singoli caratteri anziché in parole o subword.
Fonti: Granularità di token al singolo carattere. Hugging Face, Tokenizer summary; Jurafsky & Martin, Speech and Language Processing. Verifica web 2026-08-03. · Verificato il 2026-08-03