Coordenadas e altura

A posição chega como 35°40'12,5", o mapa quer 35,670139 e um desenho de topografia fala em X e Y. Algumas dessas são apenas formas diferentes de escrever a mesma coisa. Outras se apoiam num alicerce diferente, e confundi-las desloca você centenas de metros.

Graus, minutos, segundos e graus decimais

São duas notações da mesma posição. Divida os minutos por 60 e os segundos por 3600, depois some: 35°40'12,5" vira 35 + 40/60 + 12,5/3600 = 35,670139°. Para voltar, multiplique a parte decimal por 60 duas vezes.

Há uma terceira notação que aparece no GNSS e no mar: graus e minutos decimais, sem segundos. 3540.1234 significa 35° 40,1234'. Na latitude os dois primeiros dígitos são graus; na longitude, os três primeiros.

Ler 3540.1234 como 35,40° é o erro mais comum aqui. Coloca você cerca de 30 km ao sul.

Um datum diferente move você 400 metros

Latitude e longitude só significam algo depois de decidir qual elipsoide representa a Terra e onde ele fica. Essa decisão é o datum, e os países já o trocaram.

O Japão trocou em 2002. O mesmo lugar difere cerca de 12 segundos de arco em latitude e em longitude entre o datum antigo e o atual, o que no terreno são 400 a 450 metros.

Por isso uma coordenada de um mapa antigo, um registro antigo ou um artigo antigo não pode ser digitada como está num mapa moderno. A pista é o ano: tudo anterior à troca merece desconfiança. Se a fonte não diz, converta um ponto conhecido e veja se cai onde deveria.

Coordenadas planas e UTM

Latitude e longitude são ângulos numa superfície curva, então calcular distâncias e áreas com elas é incômodo. Topografia e projeto trabalham em metros num plano.

O Japão divide o país em 19 fusos, cada um com sua origem. Duas coisas confundem. X vai para o norte e Y para o leste, o oposto de um gráfico. E o mesmo par de números significa outro lugar em outro fuso, então um desenho sem o número do fuso é inútil.

Fora do Japão o comum é o UTM: o mundo é cortado em faixas de 6 graus de longitude e cada uma é aplanada separadamente.

A altura do receptor não é a do mapa

O GNSS mede altura acima do elipsoide, a superfície matemática do datum. Os mapas imprimem altura acima do nível médio do mar. A diferença entre as duas superfícies é a altura geoidal, e no Japão ela vai de 30 a 40 metros.

altitude = altura elipsoidal − altura geoidal

A diferença varia de lugar para lugar, então não dá para subtrair um número fixo. Órgãos nacionais publicam um modelo de geoide e o software de conversão o lê.

Se o seu receptor mostra uma ou outra depende do aparelho e das configurações. No NMEA são campos separados: guarde os dois e não ficará preso depois.

Erros que parecem certos

Latitude e longitude trocadas. No Japão a latitude vai de 20 a 46 e a longitude de 122 a 154; fora disso estão invertidas.

Sinais esquecidos. Sul e oeste são negativos. Trabalhando só com dados nacionais, você nunca percebe.

X e Y trocados nas coordenadas planas. Norte e leste trocam de lugar.

Altura elipsoidal usada como altitude. Trinta a quarenta metros de erro, e cada número continua parecendo plausível.

Todos eles produzem valores que parecem certos. Então, depois de qualquer conversão, ponha um ponto num mapa e olhe. Uma única verificação pega todos.