Wonten ing taun 1940, nalika Claude Shannon saweg nyembut damel bab persamaan, wonten ing sawijining wekdal piyambakipun kapanggih kaliyan John von Neumann. Ing sawijining pirembagan, bab punapa ingkang badhé Shannon sebut babagan "ukuran saking ketakpastian" utawi pelemahan(atenuasi) wonten ing sinyal telepon, kanthi rujukan dhateng téyori informasinipun ingkang paling énggal.