Для перевода шестнадцатеричного числа 3FF000000000000 в десятичное необходимо записать его в виде многочлена, состоящего из произведений цифр вида:
A16 = an-1 ∙ 16n-1 + an-2 ∙ 16n-2 + ∙∙∙ + a0 ∙ 160
В результате преобразований получим:
3FF00000000000016=3 ∙ 1614 + F ∙ 1613 + F ∙ 1612 + 0 ∙ 1611 + 0 ∙ 1610 + 0 ∙ 169 + 0 ∙ 168 + 0 ∙ 167 + 0 ∙ 166 + 0 ∙ 165 + 0 ∙ 164 + 0 ∙ 163 + 0 ∙ 162 + 0 ∙ 161 + 0 ∙ 160 = 3 ∙ 72057594037927936 + 15 ∙ 4503599627370496 + 15 ∙ 281474976710656 + 0 ∙ 17592186044416 + 0 ∙ 1099511627776 + 0 ∙ 68719476736 + 0 ∙ 4294967296 + 0 ∙ 268435456 + 0 ∙ 16777216 + 0 ∙ 1048576 + 0 ∙ 65536 + 0 ∙ 4096 + 0 ∙ 256 + 0 ∙ 16 + 0 ∙ 1 = 216172782113783808 + 67553994410557440 + 4222124650659840 + 0 + 0 + 0 + 0 + 0 + 0 + 0 + 0 + 0 + 0 + 0 + 0 = 28794890117500108810
Таким образом:
3FF00000000000016 = 28794890117500108810.