Для перевода шестнадцатеричного числа 0.fffff в десятичное необходимо записать его в виде многочлена, состоящего из произведений цифр вида:
A16 = an-1 ∙ 16n-1 + an-2 ∙ 16n-2 + ∙∙∙ + a0 ∙ 160 + a-1 ∙ 16-1 + ∙∙∙ + a-m ∙ 16-m
В результате преобразований получим:
0.fffff16=0 ∙ 160 + f ∙ 16-1 + f ∙ 16-2 + f ∙ 16-3 + f ∙ 16-4 + f ∙ 16-5 = 0 ∙ 1 + 15 ∙ 0.0625 + 15 ∙ 0.00390625 + 15 ∙ 0.000244140625 + 15 ∙ 1.52587890625E-5 + 15 ∙ 9.5367431640625E-7 = 0 + 0.9375 + 0.05859375 + 0.003662109375 + 0.0002288818359375 + 1.4305114746094E-5 = 0.9999990463256810
Таким образом:
0.fffff16 = 0.9999990463256810.
