Entrópia az egyirányú folyamatok változásának érdekes mérőszáma
Az entrópia, mint a kifejezés jelentése mutatja (en = valamiben benne, tropé = transzformáció, átalakulás, fordulat) egy rendszer képessége arra, hogy önmagában átalakuljon. Ezért is jellemzi a hőtani és az információ-tartalmi átalakulásokat, azok lehetséges irányait.
A változások jellegének érdekes fogalma a sokelemes rendszerek között uralkodó rendnek és rendezetlenségnek a mérőszáma. Ez a fogalom a hőtanban keletkezett, amikor a tizenkilencedik század során rájöttek arra, hogy a hőmérsékletet a közegben mozgó molekulák hozzák létre. Innen egy lépés volt annak meghatározása, hogy ez a hőmozgás milyen statisztikájú, azaz mennyire egyenletes egy molekulahalmazon belül és ez az egyenletesség hogyan nő, vagy csökken a hőenergia átadásai során. Ennek a statisztikai átlagnak a mérőszáma az entrópia, ami a hőleadás során, mint mozgás-rendezetlenség csökken.
A későbbiekben kiderült, hogy ez a fogalom a rendszerekben általánosítható, így a biológiában is van szerepe, de számunkra a legérdekesebb a Shannon-i információ elméletben, hiszen az információ megbízható fogadásának feltétele, hogy az ne legyen zajos, azaz rendezetlen.