上記手順の考え方であるが、大きい数ほど丸めの影響を受けにくいという性質に基づいている。対象となる値を2倍することで7捨8入によって混入する誤差を半分にし、その後に2で割って元のスケールに戻しているのである。0の場合は切り捨てされる場合と切り上げされる場合があるが、切り上げされる場合は16に丸めることに相当する。この方法により、2桁目が0~3ならば0、4~bならば8、c~fならば16に丸められることになる。今回は丸め先が3通りあるので、それぞれについて最悪ケースを考える必要がある。以下で順に見ていこう。0に丸める場合この場合、誤差が最も大きくなるのは0x13ff...fである。誤差は以下のように計算できる。これより、誤差が約21%以下となる。8に丸める場合この場合、誤差が最も大きくなるのは0x1400...0か0x1bff...fのどちらかである。誤差はそれぞれ以下のように計算できる。これより、誤差は約20%以下となる。16に丸める場合この場合、誤差が最も大きくなるのは0x1c00...0である。誤差は以下のように計算できる。これより、誤差は約14%以下となる。結局、この方法では誤差は約21%以下に抑えられる。ここまでのまとめここまでの議論をまとめておく。16進数から10進数への変換を概算で求める際、上位から3桁目以降は無視してよいが、2桁目は無視できない。最上位桁がある程度大きければ上位から2桁目以降を切り捨てても問題ないが、7捨8入くらいであれば暗算でも苦労なく行えるので、あまり考えずに7捨8入してしまうのがよいだろう。16にまとめる方法によって誤差を抑えることができる。8に丸める場合は上位2桁が残ってしまう。これだとこの後の桁上げの計算が煩雑になるため、このケースは素直に電卓を使った方が速いだろう。35%程度の誤差が許容できるのであれば7捨8入してもよい。桁上げの計算これまで上位2桁の誤差にだけ着目して議論してきたが、ここからは桁上げの概算方法について考えてみよう。今、7捨8入によって値は必ず0xz00...0という形になっている。zには適当な値が入る。すると、10進数としての値は以下のようになる。zを10進数で表した数を意味する。ここで、右辺を暗算で正確に計算しようとすると、場合によってはかなり厳しいことが分かる。いう計算を実行する必要があり、大変面倒くさい。そこで、以下の2つの近似によって計算を簡略化する。