Il concetto di entropia aiuta a comprendere in quale direzione evolvono i sistemi termodinamici e consente di esprimere in forma quantitativa il Secondo Principio della Termodinamica. E’ noto che tale Principio pone alcune ulteriori limitazioni ai processi naturali, oltre a quelle che derivano dal Primo Principio e quindi dalla conservazione dell’energia: l’esperienza comune indica che tutta una serie di fenomeni non avvengono in Natura (o, comunque, sono estremamente improbabili), pur non contraddicendo il Primo Principio della Termodinamica. Ricordiamo qui tre casi emblematici:

1. Sappiamo che quando un corpo scivola lungo una superficie scabra, per esempio un piano inclinato, converte parte della propria energia meccanica in energia interna del piano e del corpo stesso: ciò è testimoniato, a livello macroscopico, da un aumento di temperatura dei due corpi. Il Primo Principio non vieterebbe il realizzarsi del processo inverso: in realtà, non si è mai osservato un corpo che, inizialmente fermo alla base di un piano inclinato, lo risalga a spese della propria energia interna.
2. E’ esperienza comune il fatto che un gas, lasciato libero di espandersi, tenda ad occupare tutto il volume che gli è accessibile. La conservazione dell’energia non vieterebbe che il gas, inizialmente distribuito su un ampio volume, spontaneamente ne occupasse solo una frazione, limitandosi spontaneamente.
3. Due corpi, inizialmente a temperature diverse, se vengono messi in contatto, dopo un certo tempo raggiungono la stessa temperatura (che ha un valore intermedio), all’equilibrio termico. Perché due corpi che hanno la stessa temperatura non se ne allontanano, raggiungendo stati con temperature diverse?

Questi esempi, apparentemente scollegati fra loro, in realtà possono essere ricondotti agli effetti di un unico Principio fondamentale: il Secondo Principio della Termodinamica.

Potremmo dire che nell’Universo in cui viviamo, è vero che l’energia si conserva, ma è vero altresì che essa evolve, assumendo forme che non sono tutte ugualmente pregiate. Da questo punto di vista, è evidente che l’interesse che l’uomo ha nei riguardi dell’energia sta nel fatto che può ottenerne lavoro. Nel mondo antico tale lavoro lo si otteneva per lo più da energia muscolare (facendo lavorare uomini e animali) e da energia meccanica: si pensi ai mulini a vento, alle ruote idrauliche, alla navigazione a vela. Nel mondo moderno, invece, gran parte dei macchinari utilizzano energia elettrica o energia che deriva da qualche forma di combustione. E in questi casi, l’efficienza di conversione in lavoro è molto inferiore: la figura qui accanto mostra che solo una piccola frazione (1/8) della potenza di un’automobile, che viaggia su una strada orizzontale, viene effettivamente utilizzata per il movimento.

E’ dunque un punto molto importante il fatto che in Natura non tutte le forme di energia siano ugualmente pregiate (ai fini di ottenerne lavoro). La tabella allegata (nella quale i valori indicati sono riferiti a quelli dell’energia meccanica) può servire per valutare la variazione di entropia che si ha nella conversione da una forma di energia ad un’altra.

L’approccio macroscopico (termodinamico) all’entropia richiede l’utilizzazione di poche coordinate, con le quali è possibile descrivere il comportamento del sistema (per esempio, pressione, volume e temperatura). Un sistema descritto in tal modo, può trovarsi in stati detti di equilibrio termodinamico. Come si rapporta la condizione di equilibrio termodinamico a quella di equilibrio di un sistema meccanico? In quest’ultimo caso sappiamo che le condizioni di equilibrio stabile corrispondono alle situazioni in cui è minima l’energia potenziale: il sistema, lasciato libero, tende a raggiungere tale configurazione. In Termodinamica, nei casi di sistemi isolati termicamente, l’entropia gioca il ruolo dell’energia potenziale in meccanica: il sistema è in equilibrio quando la sua entropia ha un massimo (un ruolo analogo, nel caso di sistemi non isolati, è giocato da altre funzioni di stato termodinamico). E’ per questo che un gas, inizialmente confinato in una parte di un contenitore, e successivamente lasciato libero da vincoli, si espande, aumentando l’entropia del sistema: esso tende a raggiungere uno stato di equilibrio termodinamico.

L’approccio microscopico obbliga ad affrontare la descrizione di un gran numero (~ 10²³) di particelle identiche (molecole) in movimento, ad alta velocità media (nel caso di Idrogeno, a temperatura ambiente, v» 2 km/s). Se volessimo descrivere tale sistema attraverso gli stati meccanici, dovremmo trattare una equazione vettoriale del moto, r=r(t), per ciascuna particella: impresa impossibile, anche utilizzando grossi calcolatori. E’ quindi necessario schematizzare il sistema da studiare, cioè farne un modello opportuno. Nel caso di un gas, per esempio, conviene considerare le situazioni in cui le interazioni fra le molecole siano trascurabili, ciò che per i gas reali avviene quando sono sufficientemente rarefatti: essi si comportano come un gas perfetto. E’ facile valutare che, nel caso di un gas a pressione atmosferica, la distanza media fra le molecole è » 2 10^-7 m, valore circa mille volte maggiore della lunghezza d’onda di de Broglie: di conseguenza, è possibile trattare il sistema come se fosse classico.

Volendo aggirare il problema dell’altissimo numero di stati microscopici, conviene utilizzare come microstati opportune configurazioni. Nel caso di un gas in un contenitore, la configurazione potrebbe dipendere dal fatto di conoscere di ogni particella in quale zona del volume disponibile sta: se nella metà di sinistra o in quella di destra. Un possibile microstato è dunque quello che riconosce quali particelle sono a sinistra e quali a destra.

Per procedere nella descrizione del comportamento del gas è necessario fare almeno un’altra assunzione: tutti i microstati sono equivalenti, nel senso che il sistema, quando è in uno stato di equilibrio, passa (mediamente) lo stesso tempo in ciascuno di essi. E’ facile ragionare nel caso semplice di due sole particelle. In tale situazione le configurazioni microscopiche possibili sono quattro; la 1 e la 4 appartengono allo stesso macrostato (una particella a sinistra ed una a destra). Si osservi che, chiamando N il numero di particelle, il numero di configurazioni è 2^N, come si vede anche nel caso di tre particelle.

Nella tabella che segue sono riportati i numeri di configurazioni (o microstati) C(n) che corrispondono a n particelle a sinistra (e quindi, N-n a destra), nel caso di 10 particelle. Si vede che il numero di microstati è massimo quando n=N-n=N/2.

Come si vede, esiste un solo microstato nel quale tutte le particelle sono a destra (C(0)=1); questo è sempre vero, indipendentemente dal valore di N, per cui, essendo

E’ per questo che, dal punto di vista microscopico, l’entropia viene definita in modo che essa aumenti al crescere degli stati accessibili al sistema (microstati), cioè, per quanto detto precedentemente, al crescere del disordine. Considerazioni legate al calcolo combinatorio ed al fatto che l’entropia S risulta additiva, suggeriscono di definire dunque:

L'informazione è una proprietà delle descrizioni statistiche dei sistemi fisici. Supponiamo che un sistema possa trovarsi in uno di M stati, l’i-esimo dei quali ha probabilità p_i . Se tutte le probabilità sono nulle, fuorché una (p_h), abbiamo una certezza: il sistema si trova nello stato h e non ci manca alcuna informazione. E’ ovvio che la massima incertezza si ha invece quando tutte le probabilità degli stati sono uguali, e quanto più grande è M. Di conseguenza, quando un sistema evolve verso stati di maggiore entropia, l'informazione che possediamo diminuisce: si dice che l'informazione è entropia negativa (o anche, che l'entropia è una misura dell'informazione mancante). Il sapere che un sistema si trova in un certo macrostato (per esempio, i) equivale a possedere una informazione:

Un modo per acquisire informazioni su una grandezza è certamente quello di misurarla. Se prima della misurazione gli stati possibili per la grandezza erano n_i , e dopo la misurazione sono n_f , si è avuta una variazione di informazione pari a:

Per capire meglio il significato di bit, consideriamo un esempio numerico. Supponiamo di sapere che la lunghezza di un regolo è minore di 128 cm; misurandolo otteniamo il valore