扱う計算機においては、球面余弦定理による計算では短い距離において大きな丸め誤差が発生してしまう。kmの距離に対する中心角の余弦は0.99999999となる。現在用いられる64ビットの浮動小数点数においては数メートル以上の距離においては問題となるほどの丸め誤差は発生しない。下記のhaversine関数による計算法を用いたほうが良条件である。定義されるhaversine関数の関数表を用いることで計算された。この数式は球面上のほとんどの点の間において正確だが、対蹠点間においては誤差が大きい。formulaの全ての軸の経が等しい楕円という場合の下記の式がある。全象限で出力されるため良い。大円距離の計算は、航空機や船舶の経路計算の一部であり、大円距離以外に、出発点および中間の各点における方位角の計算も行う。ベクトル表現[編集]緯度/経度による表現ではなく通常のユークリッド空間上の3次元ベクトルを用いた方法だが、ベクトルの内積と外積により以下のように表すことができる。球面上の2点の単位法線ベクトルである。上記の緯度/経度に基づく物と同様に、逆正接関数による計算式が唯一全ての角度において良条件である。弦長からの計算[編集]球面上の2点間を3次元空間上で結ぶ線分は大円の弦となる。2点間の中心角はこの弦の長さから求めることができる。大円距離は中心角に比例する。{Z})^{2}}}\end{aligned}}}となる。最後の式の中心角度は弧度で表されたものである。海里の距離の計算の際は度数法における分がそのまま海里として用いられる(度で表したものの60倍)。