Для перевода шестнадцатеричного числа fffffffffffffffffffffffffffffffffffffffffffffffffffffff в десятичное необходимо записать его в виде многочлена, состоящего из произведений цифр вида:
A16 = an-1 ∙ 16n-1 + an-2 ∙ 16n-2 + ∙∙∙ + a0 ∙ 160
В результате преобразований получим:
fffffffffffffffffffffffffffffffffffffffffffffffffffffff16=f ∙ 1654 + f ∙ 1653 + f ∙ 1652 + f ∙ 1651 + f ∙ 1650 + f ∙ 1649 + f ∙ 1648 + f ∙ 1647 + f ∙ 1646 + f ∙ 1645 + f ∙ 1644 + f ∙ 1643 + f ∙ 1642 + f ∙ 1641 + f ∙ 1640 + f ∙ 1639 + f ∙ 1638 + f ∙ 1637 + f ∙ 1636 + f ∙ 1635 + f ∙ 1634 + f ∙ 1633 + f ∙ 1632 + f ∙ 1631 + f ∙ 1630 + f ∙ 1629 + f ∙ 1628 + f ∙ 1627 + f ∙ 1626 + f ∙ 1625 + f ∙ 1624 + f ∙ 1623 + f ∙ 1622 + f ∙ 1621 + f ∙ 1620 + f ∙ 1619 + f ∙ 1618 + f ∙ 1617 + f ∙ 1616 + f ∙ 1615 + f ∙ 1614 + f ∙ 1613 + f ∙ 1612 + f ∙ 1611 + f ∙ 1610 + f ∙ 169 + f ∙ 168 + f ∙ 167 + f ∙ 166 + f ∙ 165 + f ∙ 164 + f ∙ 163 + f ∙ 162 + f ∙ 161 + f ∙ 160 = 15 ∙ 1.0531229166856E+65 + 15 ∙ 6.5820182292848E+63 + 15 ∙ 4.113761393303E+62 + 15 ∙ 2.5711008708144E+61 + 15 ∙ 1.606938044259E+60 + 15 ∙ 1.0043362776619E+59 + 15 ∙ 6.2771017353867E+57 + 15 ∙ 3.9231885846167E+56 + 15 ∙ 2.4519928653854E+55 + 15 ∙ 1.5324955408659E+54 + 15 ∙ 9.5780971304118E+52 + 15 ∙ 5.9863107065074E+51 + 15 ∙ 3.7414441915671E+50 + 15 ∙ 2.3384026197294E+49 + 15 ∙ 1.4615016373309E+48 + 15 ∙ 9.1343852333181E+46 + 15 ∙ 5.7089907708238E+45 + 15 ∙ 3.5681192317649E+44 + 15 ∙ 2.2300745198531E+43 + 15 ∙ 1.3937965749082E+42 + 15 ∙ 8.711228593176E+40 + 15 ∙ 5.444517870735E+39 + 15 ∙ 3.4028236692094E+38 + 15 ∙ 2.1267647932559E+37 + 15 ∙ 1.3292279957849E+36 + 15 ∙ 8.3076749736557E+34 + 15 ∙ 5.1922968585348E+33 + 15 ∙ 3.2451855365843E+32 + 15 ∙ 2.0282409603652E+31 + 15 ∙ 1.2676506002282E+30 + 15 ∙ 7.9228162514264E+28 + 15 ∙ 4.9517601571415E+27 + 15 ∙ 3.0948500982135E+26 + 15 ∙ 1.9342813113834E+25 + 15 ∙ 1.2089258196146E+24 + 15 ∙ 7.5557863725914E+22 + 15 ∙ 4.7223664828696E+21 + 15 ∙ 2.9514790517935E+20 + 15 ∙ 1.844674407371E+19 + 15 ∙ 1152921504606846976 + 15 ∙ 72057594037927936 + 15 ∙ 4503599627370496 + 15 ∙ 281474976710656 + 15 ∙ 17592186044416 + 15 ∙ 1099511627776 + 15 ∙ 68719476736 + 15 ∙ 4294967296 + 15 ∙ 268435456 + 15 ∙ 16777216 + 15 ∙ 1048576 + 15 ∙ 65536 + 15 ∙ 4096 + 15 ∙ 256 + 15 ∙ 16 + 15 ∙ 1 = 1.5796843750284E+66 + 9.8730273439272E+64 + 6.1706420899545E+63 + 3.8566513062216E+62 + 2.4104070663885E+61 + 1.5065044164928E+60 + 9.41565260308E+58 + 5.884782876925E+57 + 3.6779892980781E+56 + 2.2987433112988E+55 + 1.4367145695618E+54 + 8.9794660597611E+52 + 5.6121662873507E+51 + 3.5076039295942E+50 + 2.1922524559964E+49 + 1.3701577849977E+48 + 8.5634861562358E+46 + 5.3521788476473E+45 + 3.3451117797796E+44 + 2.0906948623622E+43 + 1.3066842889764E+42 + 8.1667768061025E+40 + 5.1042355038141E+39 + 3.1901471898838E+38 + 1.9938419936774E+37 + 1.2461512460484E+36 + 7.7884452878022E+34 + 4.8677783048764E+33 + 3.0423614405478E+32 + 1.9014759003423E+31 + 1.188422437714E+30 + 7.4276402357123E+28 + 4.6422751473202E+27 + 2.9014219670751E+26 + 1.8133887294219E+25 + 1.1333679558887E+24 + 7.0835497243045E+22 + 4.4272185776903E+21 + 2.7670116110564E+20 + 1.7293822569103E+19 + 1080863910568919040 + 67553994410557440 + 4222124650659840 + 263882790666240 + 16492674416640 + 1030792151040 + 64424509440 + 4026531840 + 251658240 + 15728640 + 983040 + 61440 + 3840 + 240 + 15 = 1.6849966666969E+6610
Таким образом:
fffffffffffffffffffffffffffffffffffffffffffffffffffffff16 = 1.6849966666969E+6610.