Для перевода шестнадцатеричного числа FFFFFFFFFFD в десятичное необходимо записать его в виде многочлена, состоящего из произведений цифр вида:
A16 = an-1 ∙ 16n-1 + an-2 ∙ 16n-2 + ∙∙∙ + a0 ∙ 160
В результате преобразований получим:
FFFFFFFFFFD16=F ∙ 1610 + F ∙ 169 + F ∙ 168 + F ∙ 167 + F ∙ 166 + F ∙ 165 + F ∙ 164 + F ∙ 163 + F ∙ 162 + F ∙ 161 + D ∙ 160 = 15 ∙ 1099511627776 + 15 ∙ 68719476736 + 15 ∙ 4294967296 + 15 ∙ 268435456 + 15 ∙ 16777216 + 15 ∙ 1048576 + 15 ∙ 65536 + 15 ∙ 4096 + 15 ∙ 256 + 15 ∙ 16 + 13 ∙ 1 = 16492674416640 + 1030792151040 + 64424509440 + 4026531840 + 251658240 + 15728640 + 983040 + 61440 + 3840 + 240 + 13 = 1759218604441310
Таким образом:
FFFFFFFFFFD16 = 1759218604441310.
