Une mesure quantitative de la densité des nombres représentables. Par exemple, dans un système binaire flottant format de point qui a une précision de 53 bits significatifs, il y a 253 nombres représentables entre tout deux puissances voisines de deux (dans la plage de nombres normaux). Ne confondez pas de précision et exactitude, qui exprime une étroitesse nombre correspond approximativement à un autre.