Для перевода шестнадцатеричного числа 2FB.4041 в десятичное необходимо записать его в виде многочлена, состоящего из произведений цифр вида:
A16 = an-1 ∙ 16n-1 + an-2 ∙ 16n-2 + ∙∙∙ + a0 ∙ 160 + a-1 ∙ 16-1 + ∙∙∙ + a-m ∙ 16-m
В результате преобразований получим:
2FB.404116=2 ∙ 162 + F ∙ 161 + B ∙ 160 + 4 ∙ 16-1 + 0 ∙ 16-2 + 4 ∙ 16-3 + 1 ∙ 16-4 = 2 ∙ 256 + 15 ∙ 16 + 11 ∙ 1 + 4 ∙ 0.0625 + 0 ∙ 0.00390625 + 4 ∙ 0.000244140625 + 1 ∙ 1.52587890625E-5 = 512 + 240 + 11 + 0.25 + 0 + 0.0009765625 + 1.52587890625E-5 = 763.2509918212910
Таким образом:
2FB.404116 = 763.2509918212910.
