Nat (informații)

Un nat (uneori numit și nit sau nepit ) este o unitate logaritmică de măsurare a informației sau entropie , bazată pe logaritmul neperian și pe puterile lui $e$ mai degrabă decât pe logaritmul de bază 2 care definește bitul . Natul este unitatea naturală pentru entropie în teoria informației. Sistemele de unități naturale care standardizează constanta Boltzmann la 1 măsoară de fapt entropia la nativi. Când entropia lui Shannon este dată cu logaritmul natural ,

{\ displaystyle H = - \ sum _ {i} p_ {i} \ ln p_ {i} \! \,}

implicit dă o valoare la nats. Un nat este de aproximativ 1,44 biți (exact ) sau 0,444 interziceri ( ). ${\ displaystyle {\ tfrac {1} {\ ln 2}}}$ ${\ displaystyle {\ tfrac {1} {\ ln 10}}}$

Istoric

Alan Turing a folosit interdicția . Boulton și Wallace (1970) au folosit termenul nit pentru lungimea minimă a unui mesaj, care a fost ulterior înlocuit cu nat pentru a evita confuzia cu nit ca unitate de luminozitate.

Referințe

(ro) JW Comley , DL Dowe , P. Grünwald (editor), IJ Myung (editor) și MA Pitt (editor), Advances in Minimum Description Length: Theory and Applications , Cambridge, MIT Press ,2005( ISBN 0-262-07262-9 , citit online ) , „Lungimea minimă a mesajului, MDL și rețele Bayesiene generalizate cu limbaje asimetrice”

(ro) Fazlollah M. Reza , An Introduction to Information Theory , New York, Dover ,1994, 496 p. ( ISBN 978-0-486-68210-5 , LCCN 94027222 , citit online )