Ну тогда, мне кажется, что можно просто взять широту и долготу как две сферические координаты, добавить к ним радиус Земли, получить по три коррдинаты в пространстве и посчитать расстояние по обычной формуле.
Но я думаю, ещё проще, если измерение местное, пересчитать градусы в метры и посчитать обычно на плоскости.