Для перевода шестнадцатеричного числа 1F9.0CCCCCCCCCC в десятичное необходимо записать его в виде многочлена, состоящего из произведений цифр вида:
A16 = an-1 ∙ 16n-1 + an-2 ∙ 16n-2 + ∙∙∙ + a0 ∙ 160 + a-1 ∙ 16-1 + ∙∙∙ + a-m ∙ 16-m
В результате преобразований получим:
1F9.0CCCCCCCCCC16=1 ∙ 162 + F ∙ 161 + 9 ∙ 160 + 0 ∙ 16-1 + C ∙ 16-2 + C ∙ 16-3 + C ∙ 16-4 + C ∙ 16-5 + C ∙ 16-6 + C ∙ 16-7 + C ∙ 16-8 + C ∙ 16-9 + C ∙ 16-10 + C ∙ 16-11 = 1 ∙ 256 + 15 ∙ 16 + 9 ∙ 1 + 0 ∙ 0.0625 + 12 ∙ 0.00390625 + 12 ∙ 0.000244140625 + 12 ∙ 1.52587890625E-5 + 12 ∙ 9.5367431640625E-7 + 12 ∙ 5.9604644775391E-8 + 12 ∙ 3.7252902984619E-9 + 12 ∙ 2.3283064365387E-10 + 12 ∙ 1.4551915228367E-11 + 12 ∙ 9.0949470177293E-13 + 12 ∙ 5.6843418860808E-14 = 256 + 240 + 9 + 0 + 0.046875 + 0.0029296875 + 0.00018310546875 + 1.1444091796875E-5 + 7.1525573730469E-7 + 4.4703483581543E-8 + 2.7939677238464E-9 + 1.746229827404E-10 + 1.0913936421275E-11 + 6.821210263297E-13 = 505.0510
Таким образом:
1F9.0CCCCCCCCCC16 = 505.0510.
