Для перевода шестнадцатеричного числа 0.FF в десятичное необходимо записать его в виде многочлена, состоящего из произведений цифр вида:
A16 = an-1 ∙ 16n-1 + an-2 ∙ 16n-2 + ∙∙∙ + a0 ∙ 160 + a-1 ∙ 16-1 + ∙∙∙ + a-m ∙ 16-m
В результате преобразований получим:
0.FF16=0 ∙ 160 + F ∙ 16-1 + F ∙ 16-2 = 0 ∙ 1 + 15 ∙ 0.0625 + 15 ∙ 0.00390625 = 0 + 0.9375 + 0.05859375 = 0.9960937510
Таким образом:
0.FF16 = 0.9960937510.
