Codificazione entropica: differenze tra le versioni

Contenuto cancellato Contenuto aggiunto
Riga 3:
==Descrizione==
 
Uno dei principali tipi di codificazione entropica crea e assegna un [[codice prefisso]] a ciascun simbolo unico che si presenta nell'input. Questi codificatori [[Entropia (teoria dell'informazione)|entropici]] poi comprimono i dati sostituentosostituendo ciascun simbolo dell'input a lunghezza fissa con la corrispondente parola del codice prefisso a lunghezza variabile. La lunghezza di ciascuna parola del codice è approssimativamente [[Proporzionalità (matematica)|proporzionale]] al [[logaritmo]] negativo della [[probabilità]]. Perciò, i simboli più comuni usano i codici più brevi.
 
Secondo il [[teorema della codifica di sorgente]] di [[Claude Shannon|Shannon]], la lunghezza ottimale del codice per un simbolo è −log''<sub>b</sub>P'', dove ''b'' è il numero di simboli usati per formare i codici dell'output e ''P'' è la probabilità del simbolo dell'input.