Для перевода шестнадцатеричного числа 0.4DE в десятичное необходимо записать его в виде многочлена, состоящего из произведений цифр вида:
A16 = an-1 ∙ 16n-1 + an-2 ∙ 16n-2 + ∙∙∙ + a0 ∙ 160 + a-1 ∙ 16-1 + ∙∙∙ + a-m ∙ 16-m
В результате преобразований получим:
0.4DE16=0 ∙ 160 + 4 ∙ 16-1 + D ∙ 16-2 + E ∙ 16-3 = 0 ∙ 1 + 4 ∙ 0.0625 + 13 ∙ 0.00390625 + 14 ∙ 0.000244140625 = 0 + 0.25 + 0.05078125 + 0.00341796875 = 0.3041992187510
Таким образом:
0.4DE16 = 0.3041992187510.
