Entropie informační relativní

A. Relative information entropy

Míra nevyhraněnosti (neurčitosti) n-složkového systému, daná vztahem (PELTO, 1954):

Hr = – H / Hmx = H / ln n

kde:

H = Shannonova informační entropie definovaná jako

H = – E pi ln pi

přičemž:

pi = podíl i-té složky systému vyjádření desetinným zlomkem (Suma pi= 1).

Symbol Hmx označuje maximální možnou informační entropii systému tvořeného n složkami (Hmx – ln n).

Maximálně nevyhraněný systém, v kterém jsou podíly všech složek stejné (p1 – p2 – ..- pn) má hodnotu Hr = 1.

Naproti tomu maximálně vyhraněný systém, tvořený jen jedinou složkou p1 z n možných (p1 = 1,0), Hr = 0. Při hydrogeochemické aplikaci (Jetel, 1975) možno pomocí r. i. e. měřit např. typologickou pestrost chemismu vod v určitém území (systém n možných chemických typů vod (venkovní r.i.e.) nebo vnitřní typovou vyhraněnost určitého typu vod (systém n možných složek vody – vnitřní r. i. e. ).