Для перевода шестнадцатеричного числа ED.BB3 в десятичное необходимо записать его в виде многочлена, состоящего из произведений цифр вида:
A16 = an-1 ∙ 16n-1 + an-2 ∙ 16n-2 + ∙∙∙ + a0 ∙ 160 + a-1 ∙ 16-1 + ∙∙∙ + a-m ∙ 16-m
В результате преобразований получим:
ED.BB316=E ∙ 161 + D ∙ 160 + B ∙ 16-1 + B ∙ 16-2 + 3 ∙ 16-3 = 14 ∙ 16 + 13 ∙ 1 + 11 ∙ 0.0625 + 11 ∙ 0.00390625 + 3 ∙ 0.000244140625 = 224 + 13 + 0.6875 + 0.04296875 + 0.000732421875 = 237.7312011718810
Таким образом:
ED.BB316 = 237.7312011718810.
