Fórmula del Haversine

Per a qualsevol parell de punts sobre una esfera:^[10]

${\displaystyle \operatorname {hav} \left({\frac {d}{R}}\right)=\operatorname {hav} (\varphi _{1}-\varphi _{2})+\cos(\varphi _{1})\cos(\varphi _{2})\,\operatorname {hav} (\Delta \lambda ).}$

on

• hav és la funció haversine:

${\displaystyle \operatorname {hav} (\theta )=\sin ^{2}\left({\frac {\theta }{2}}\right)={\frac {1-\cos(\theta )}{2}}}$

• d és la distància entre els dos punts (al llarg d'un cercle màxim de l'esfera, vegeu distància esfèrica).
• r és el radi de l'esfera,
• φ ₁ és la latitud del punt 1,
• φ ₂ és la latitud del punt 2, i
• Δλ és la diferència de longitud,

Tingueu en compte que l'argument a la funció haversine ha de donar-se en radians. En graus, haversine(d/r) de la fórmula es convertiria en haversine (180 · d/π r).

Llavors es pot resoldre per d, ja sigui mitjançant la simple aplicació del haversine invers (si està disponible) o mitjançant l'ús de la funció arcsinus:

${\displaystyle d=r\,\operatorname {hav} ^{-1}(h)=2r\arcsin \left({\sqrt {h}}\,\right).}$

on

• h és hav(d/r), o més explícitament:

${\displaystyle d=2r\arcsin \left({\sqrt {\operatorname {hav} (\varphi _{2}-\varphi _{1})+\cos(\varphi _{1})\cos(\varphi _{2})\operatorname {hav} (\lambda _{2}-\lambda _{1})}}\right)}$

${\displaystyle =2r\arcsin \left({\sqrt {\sin ^{2}\left({\frac {\varphi _{2}-\varphi _{1}}{2}}\right)+\cos(\varphi _{1})\cos(\varphi _{2})\sin ^{2}\left({\frac {\lambda _{2}-\lambda _{1}}{2}}\right)}}\right)}$

En utilitzar aquestes fórmules, s'ha de tenir cura per assegurar-se que h no excedeixi 1 per raó d'un error de coma flotant (d és només real per h de 0 a 1). h només s'aproxima a 1 als punts antipodals (en els costats oposats de l'esfera) - en aquesta regió, errors numèrics relativament grans tendeixen a sorgir en la fórmula quan s'utilitza una precisió finita. No obstant això, ja que d llavors és bastant gran (s'acosta a π ·R, la meitat de la circumferència) un petit error sovint no és una preocupació important en aquest cas inusual (encara que hi ha altres fórmules distància de cercle màxim que eviten aquest problema). (La fórmula anterior s'escriu de vegades en termes de la funció arctangent, però aquesta pateix de problemes numèrics similars a prop de h = 1.)

Com es descriu a continuació, en lloc de haversine, també es pot escriure una fórmula similar, en termes dels cosinus -a vegades anomenada la llei esfèrica del cosinus (que cal no confondre amb la llei del cosinus de la geometria plana)-, però per un cas comú de distàncies/angles petits... un petit error en les dades d'entrada de la funció "arccos" porta a un gran error en el resultat final. Això fa que la fórmula no sigui apta per a un ús general.

Aquesta fórmula és només una aproximació quan s'aplica a la Terra, perquè la Terra no és una esfera perfecta: el radi de la Terra R varia de 6.356,78 quilòmetres en els pols fins a 6.378,14 quilòmetres a l'equador. Hi ha petites correccions, típicament de l'ordre de 0,1% (suposant la mitjana geomètrica R = 6367,45 quilòmetres que s'utilitza a tot arreu, per exemple), a causa d'aquesta lleugera forma el·liptica del planeta. Un altre mètode més precís, que té en compte la forma el·líptica de la Terra, ve donada per les fórmules de Vincenty.

Donada una esfera unitat, un "triangle esfèric" sobre la superfície de l'esfera definit pels cercles màxims que connecten tres punts u, v, i w de l'esfera. Si els tres arcs són: a (de u a v), b (de u a w), i c (de v a w), i l'angle del vèrtex oposat a c és C, llavors la llei del haversine diu:

${\displaystyle \operatorname {hav} (c)=\operatorname {hav} (a-b)+\sin(a)\sin(b)\,\operatorname {hav} (C).}$ ^[11]

Com que es tracta d'una esfera unitat, els arcs a, b i c són simplement iguals als angles centrals (en radians) que els defineixen (comprenen) des del centre de l'esfera (per a una esfera no-unitat, cadascuna d'aquestes longituds d'arc és igual al seu angle central multiplicat pel radi de l'esfera).

Per tal d'obtenir la fórmula del haversine de la secció anterior d'aquesta llei, simplement es considera el cas especial on u és el pol nord, mentre que w i v són els dos punts entre els quals es vol determinar la distància d. En aquest cas, a i b són π/2 - φ_1,2 (és a dir, 90° - latitud), C és l'increment de longitud Δλ, i c és la distància d/R que es vol calcular. Prenent nota que sin(π/2 − φ) = cos(φ), la fórmula del haversine calcula com segueix:

Per tal de deduir la fórmula del haversine, es parteix de la llei esfèrica del cosinus:

${\displaystyle \cos(c)=\cos(a)\cos(b)+\sin(a)\sin(b)\cos(C).\,}$

Com s'ha dit abans, aquesta fórmula no és bona per al càlcul de c quan c és petit. En el seu lloc, se substitueix la identitat tal que: cos(θ) = 1 − 2 hav(θ), i per tal d'obtenir la llei del haversine esmentada més amunt s'empra, a més a més, la identitat de la suma:

• Arc de cercle màxim
• Algorisme de navegació