Chapter 20

항해술

배는 도로도 표지판도 없는 바다 위에서 수천 해리를 달려 정해진 부두에 닿는다. 그 바탕에는 지구를 격자로 나누는 위도와 경도, 둥근 지구를 평평한 종이에 옮기는 해도, 침로와 속력과 시간만으로 위치를 추정하는 추측 항법, 그리고 별·해·전파로 그 추정을 바로잡는 위치 결정이 있다. 이 장에서는 3D 지구본 위에 항로를 그어 보고, 조류를 거슬러 침로를 잡고, 정오의 태양으로 위도를 구하고, 위성 신호로 위치를 푸는 과정을 차례로 손으로 해 본다.

위도·경도와 해리·노트의 관계를 알고, 위도 1분 = 1해리가 되는 이유를 설명한다.
메르카토르 해도가 등각이고 항정선이 직선이 되는 대신 고위도 면적이 $\sec^2\varphi$배로 커지는 이유를 안다.
항정선과 대권의 차이를 구면 삼각법(haversine)으로 계산하고 대권 항해의 이득을 추정한다.
추측 항법으로 위치를 계산하고, 조류와 풍압차를 보정한 조타 침로(CTS)를 구한다.
편차·자차를 이용해 진방위와 나침반 방위를 서로 바꾸고, 위치선으로 선위를 구한다.
정오 태양 고도로 위도를, 시각으로 경도를 구하는 천측의 원리를 이해한다.
조석의 원인과 대조·소조를 이해하고 12분의 1 법칙으로 조고와 여유 수심을 계산한다.
GNSS가 4개 이상의 위성을 필요로 하는 이유와 DOP, 재밍·스푸핑의 위험을 설명한다.

지구의 격자: 위도·경도와 해리

지구 위의 한 점은 두 각도로 정해진다. 위도(Latitude, φ)는 그 점과 지구 중심을 잇는 선이 적도면과 이루는 각으로, 적도 0°에서 극 90°까지 북위(N)·남위(S)로 센다. 경도(Longitude, λ)는 그 점을 지나는 자오선이 영국 그리니치를 지나는 본초 자오선과 이루는 각으로, 0°에서 180°까지 동경(E)·서경(W)으로 센다. 같은 위도를 잇는 원을 거등권(평행권), 같은 경도를 잇는 반원을 자오선이라 한다.

그림 20-1. 위도는 적도면에서 잰 각, 경도는 본초 자오선에서 잰 각이다. 해리는 위도 1분에 해당하는 자오선 호의 길이로 정의되었기 때문에(현재는 1852 m로 고정), 해도의 위도 눈금이 그대로 거리 자가 된다.

항해에서 거리 단위는 해리(Nautical Mile, NM)다. 원래 정의는 "자오선 위 위도 1분의 길이"였고, 1929년 국제 협약으로 1852 m로 고정되었다. 지구가 약간 납작한 타원체라 실제 위도 1분은 적도에서 1843 m, 극에서 1862 m 정도로 조금 다르지만, 해도 위에서는 옆 테두리의 위도 눈금을 디바이더로 재면 곧 해리라는 편리함이 남는다. 경도 눈금은 거리 자로 쓰면 안 된다. 경선 사이 간격이 $\cos\varphi$로 줄어들기 때문이다. 속력 단위 노트(knot)는 시간당 1해리다.

$$1\ \text{NM} = 1852\ \text{m},\qquad 1\ \text{kn} = 1\ \text{NM/h} = 0.5144\ \text{m/s},\qquad \Delta x_{E} = 60\,\Delta\lambda\cos\varphi\ \ [\text{NM}]$$

여기서 $\Delta\lambda$는 경도 차(도), $\Delta x_E$는 같은 위도에서 동서 방향 거리. 동서 거리를 항해에서는 동서거(departure)라고 부른다.

SIMULATOR

지구 위의 한 점: 위도·경도 읽기

바로 가기

15° 격자 표시

위도—

경도—

적도까지 거리—

이 위도의 경도 1°—

20 kn로 적도까지—

왼쪽 지구본에서 빨간 점을 끌면 위치가 바뀌고, 빈 곳을 끌면 지구본이 돈다. 오른쪽은 그 점을 지나는 자오선을 옆에서 자른 단면으로, 위도각 φ와 거등권 반지름 $R\cos\varphi$를 보여 준다. 해볼 것: 점을 북쪽으로 끌어 올리며 '경도 1°'의 길이가 60해리에서 0으로 줄어드는 것을 확인하라. 위도 60°에서 정확히 절반이다.

둥근 지구를 평평한 종이에: 메르카토르 해도

구면은 찢거나 늘리지 않고는 평면으로 펼 수 없다(가우스의 정리). 그래서 모든 지도 투영은 각도·면적·거리 가운데 무언가를 포기한다. 1569년 메르카토르가 고안한 투영은 각도를 지키기로 했다. 경선을 평행한 세로선으로 펴면 위도 φ에서 동서 방향이 $\sec\varphi = 1/\cos\varphi$배로 늘어나므로, 같은 비율만큼 남북 방향도 늘려 준다. 그러면 작은 영역에서 모양이 유지되는 등각 투영(Conformal Projection)이 된다.

$$x = R\,(\lambda-\lambda_0),\qquad y = R\,\ln\tan\!\left(\frac{\pi}{4}+\frac{\varphi}{2}\right),\qquad k = \sec\varphi$$

여기서 $k$는 그 위도의 축척 계수(지도 위 길이 ÷ 실제 길이의 비). 면적은 $k^2 = \sec^2\varphi$배로 확대된다. 위도 60°에서 길이 2배·면적 4배, 80°에서 길이 5.8배·면적 33배다.

항해사에게 이 투영이 결정적으로 중요한 이유는 하나다. 나침반의 한 방위를 계속 유지하는 항로(항정선)가 메르카토르 해도 위에서 직선이 된다. 모든 경선과 같은 각으로 만나는 선은 등각 투영에서도 모든 세로선과 같은 각으로 만나야 하기 때문이다. 해도 위 두 점을 자로 잇고 각도기로 각을 재면 그것이 곧 침로다. 대가는 면적 왜곡이다. 그린란드는 아프리카의 약 1/14 크기인데 메르카토르 지도에서는 비슷해 보인다. 거리를 잴 때는 반드시 그 구간과 같은 위도의 옆 테두리 눈금을 써야 하는 것도 이 때문이다.

그림 20-2. 메르카토르 투영. 경선을 평행선으로 펴서 생긴 동서 확대(sec φ)만큼 남북 간격도 늘린다. 같은 크기의 원(파랑)이 고위도에서 더 크게 그려지지만 여전히 원이다(등각). 항정선은 직선이 된다.

SIMULATOR

티소 지시원: 같은 원은 어디서 얼마나 커지나

탐침 원의 위도 φ

투영

그린란드·아프리카 강조

축척 계수 sec φ—

면적 확대 sec²φ—

원 모양—

지도 위 면적비 그린란드/아프리카—

모든 원은 실제로 반지름 600 km(약 324해리)로 같다. 왼쪽 지구본은 탐침 원 쪽을 바라본다. 오른쪽 지도 위에서 끌거나 슬라이더로 탐침 원(주황)의 위도를 바꿔라. 해볼 것: 메르카토르에서는 원이 커져도 원 모양을 유지한다(등각). '정거 원통'으로 바꾸면 고위도 원이 옆으로 납작한 타원이 된다. 그린란드 강조를 켜고 두 투영의 면적비를 실제 값 0.071과 비교하라.

항정선과 대권: 가장 쉬운 길과 가장 짧은 길

나침반 방위를 하나로 고정하고 가는 항로가 항정선(Rhumb Line, Loxodrome)이다. 모든 경선과 같은 각으로 만나므로 조타가 쉽지만, 극 쪽으로 계속 가면 극을 향해 소용돌이처럼 감겨 든다. 반면 구 위 두 점 사이의 최단 경로는 지구 중심을 지나는 평면이 구면을 자른 큰 원, 즉 대권(Great Circle)의 호다. 대권은 메르카토르 해도 위에서 극 쪽으로 휜 곡선으로 보이고, 따라가는 동안 침로가 계속 변한다.

두 점 사이 대권 거리(중심각 $c$)는 구면 삼각법으로 구한다. 수치적으로 안정한 형태가 haversine 공식이다. 항정선 거리는 메르카토르 평면에서의 직선 관계로 구한다.

$$\operatorname{hav} c = \operatorname{hav}\Delta\varphi + \cos\varphi_1\cos\varphi_2\,\operatorname{hav}\Delta\lambda,\qquad \operatorname{hav}\theta=\sin^2\frac{\theta}{2},\qquad d_{GC}=R\,c$$ $$\tan C_{RL}=\frac{\Delta\lambda}{\Delta\psi},\quad \Delta\psi=\ln\frac{\tan(\pi/4+\varphi_2/2)}{\tan(\pi/4+\varphi_1/2)},\qquad d_{RL}=R\,\frac{\Delta\varphi}{\cos C_{RL}}$$

여기서 $R$ = 3440 NM(지구 평균 반지름 6371 km), $C_{RL}$은 항정선 침로, $\Delta\psi$는 메르카토르 위도 차(漸長緯度差, meridional parts). 동서 방향($\Delta\varphi = 0$)이면 $d_{RL} = R\,\Delta\lambda\cos\varphi$로 바꿔 쓴다. 대권의 출발 침로는 $\tan C_0 = \sin\Delta\lambda\cos\varphi_2/(\cos\varphi_1\sin\varphi_2-\sin\varphi_1\cos\varphi_2\cos\Delta\lambda)$.

3D 지구본 위의 항정선과 대권

끌어서 회전 · 휠로 확대

출발 · 도착 항구

항해 속력

항정선 대권

대권 거리—

항정선 거리—

차이—

대권 출발 침로 / 최고 위도—

항정선 침로—

절약 시간—

위: 3D 지구본(파랑 = 대권, 노랑 = 항정선). 아래: 같은 두 경로를 메르카토르 해도에 그린 것. 아래 해도에서 항구 표지(동그라미)를 끌어 임의의 지점으로 옮길 수 있다. 해볼 것: 부산 → LA를 고르면 대권이 알류샨 열도 쪽으로 크게 휘어 약 370해리(7%)를 줄인다. 싱가포르 → 시드니 같은 남북 방향 항로나 산투스 → 케이프타운 같은 저위도 항로는 차이가 1% 안팎이다. 케이프타운 → 시드니는 대권이 남극 쪽으로 휘며 약 10%(670해리)나 짧다. 지구본을 돌려 보면 '휜' 대권이 3D에서는 가장 곧은 선임을 알 수 있다. 실제 항로는 육지, 빙해, 기상 때문에 대권을 그대로 따르지 않는다(로테르담 항로는 수에즈 운하를 지난다).

실제 대양 항해에서는 대권을 여러 개의 짧은 항정선 구간으로 나누어 따라간다. 해도에 대권 위의 점들(예: 경도 5°~10°마다)을 찍고, 각 점 사이는 항정선(일정 침로)으로 달린다. 대권이 너무 높은 위도로 올라가 빙산이나 폭풍 해역에 들어가면 일정 위도 이상은 거등권을 따라가는 복합 대권(Composite Great Circle)을 쓴다. 지금은 ECDIS와 항로 계획 소프트웨어가 이 계산을 하고, 기상 항로(weather routing)가 바람·파도·해류를 고려해 시간과 연료가 최소인 경로를 고른다.

추측 항법과 조류 보정

위치를 직접 잴 수단이 없을 때, 마지막으로 확인한 위치(fix)에서 출발해 침로·속력·경과 시간만으로 현재 위치를 계산하는 것이 추측 항법(Dead Reckoning, DR)이다. 거리 $d = V t$를 침로 $C$ 방향으로 나누면 남북 성분은 위도 변화, 동서 성분(동서거)은 $\cos\varphi_m$로 나누어 경도 변화가 된다.

$$\Delta\varphi' = d\cos C,\qquad \text{dep} = d\sin C,\qquad \Delta\lambda' = \frac{\text{dep}}{\cos\varphi_m}$$

여기서 $d$는 항주 거리(NM), $\Delta\varphi'$·$\Delta\lambda'$은 분(′) 단위, $\varphi_m$은 출발·도착 위도의 평균(중분 위도 항법). 수백 해리 이내에서 충분히 정확하다.

DR은 배가 물에 대해 움직인 것만 센다. 그런데 물 자체가 흐르고(조류·해류), 바람은 배를 옆으로 민다. 그래서 항해에는 서로 다른 방향 개념이 여럿 있다. 선수가 가리키는 방향이 선수 방위(heading), 물에 대한 진행 방향이 항적(water track), 바다 밑바닥에 대한 실제 진행 방향이 대지 침로(COG, Course over Ground)다. 조류가 흘러가는 방향을 유향(set), 그 속력을 유속(drift)이라 하고, 바람에 밀려 선수 방위와 항적이 벌어지는 각을 풍압차(Leeway)라 한다.

그림 20-3. 조류 삼각형. 배가 물에 대해 낸 속도(파랑)에 물의 흐름(빨강)이 더해져 실제 대지 속도(초록)가 된다. 목적지로 곧장 가려면 초록 벡터가 목적지 방향에 놓이도록 파랑 벡터의 방향, 즉 조타 침로를 정한다.

SIMULATOR

추측 항법 게임: DR과 실제 위치는 얼마나 벌어지나

침로 속력(STW) 조류 유향(set) 조류 유속(drift)

경과 시간—

DR 위치—

항주 거리(물 기준)—

DR 오차(실제와 거리)—

35°00′N 129°00′E에서 출항한다. 점선은 침로와 속력만으로 계산한 DR 항적(매시 반원 표지), 실선은 조류가 더해진 실제 항적이다(실제 바다에서는 보이지 않는다). 항해 중에도 침로·속력을 바꿀 수 있다. 해볼 것: 1~2시간 달린 뒤 'Fix'를 눌러 위치를 확인하면 DR이 그 점에서 다시 시작한다. DR 오차는 대략 유속 × 경과 시간으로 쌓인다. 유속 1.5 kn면 4시간 뒤 6해리 오차다.

조류를 알고 있다면 미리 보정할 수 있다. 원하는 대지 침로 방향으로 조류의 옆 성분 $c_\perp$을 상쇄하도록 선수를 틀면 된다. 조류의 앞뒤 성분 $c_\parallel$은 대지 속력에 더해진다.

$$\sin\alpha = -\frac{c_\perp}{V_{w}},\qquad \text{SOG} = V_w\cos\alpha + c_\parallel,\qquad \text{CTS} = \text{COG} + \alpha - \text{leeway}$$

여기서 $V_w$는 대수 속력(STW), $\alpha$는 항적과 대지 침로 사이 보정각. 풍압차는 바람이 좌현에서 불면(배가 우현으로 밀리면) 선수를 바람 쪽(좌현)으로 더 틀어 보정한다. $|c_\perp| > V_w$이면 그 방향으로는 갈 수 없다.

SIMULATOR

조류 삼각형: 조타 침로(CTS) 구하기

원하는 대지 침로(COG) 대수 속력(STW) 조류 유향 조류 유속 풍압차

바람이 부는 쪽

조타 침로 CTS—

조류 보정각—

대지 속력 SOG—

30해리 도착 시간—

조류 벡터(빨강)의 화살촉을 캔버스 위에서 직접 끌어 유향·유속을 바꿀 수 있다. 배 그림은 CTS로 선수를 둔 모습이다. 해볼 것: 조류를 목적지 방향과 직각으로 두고 유속을 키우면 보정각이 커지고 SOG가 줄어든다. 유속이 STW를 넘으면 삼각형이 닫히지 않는다. 조류가 정면에서 오면 보정각은 0이지만 SOG가 크게 준다.

나침반: 진북, 자북, 나북

해도의 방위는 모두 지리상의 북극을 기준으로 한 진방위(True)다. 그런데 자기 나침반은 지구 자기장의 방향, 즉 자북을 가리킨다. 진북과 자북의 차이가 편차(Variation)다. 장소에 따라 다르고 해마다 조금씩 변하며, 해도의 나침도(compass rose)에 "7°10′W (2025), 매년 4′E 감소" 같은 식으로 적혀 있다. 여기에 배 자체의 철재와 전기 장비가 만든 자기장이 나침반을 또 비튼다. 이것이 자차(Deviation)이고, 배의 선수 방위에 따라 달라지므로 자차표(deviation card)로 관리한다.

그림 20-4. 세 개의 북. 진북에서 자북까지가 편차, 자북에서 나침반이 가리키는 북(나북)까지가 자차다. 동쪽(E) 오차는 나침반이 진방위보다 작은 값을 읽게 만든다.

SIMULATOR

TVMDC 변환기와 자차 곡선

진침로 T 편차 V (+E / −W) 자차 계수 B (sin 성분) 자차 계수 C (cos 성분)

진침로 T—

편차 V—

자침로 M—

자차 D—

나침로 C (조타할 값)—

자차는 근사식 $D = A + B\sin M + C\cos M$으로 만든 자차표다(실제로는 $D\cos 2M$, $E\sin 2M$ 항도 있다). 오른쪽 그래프는 선수 방위별 자차 곡선, 점은 현재 선수 방위. 해볼 것: 진침로를 한 바퀴 돌려 보며 자차가 선수 방위에 따라 부호까지 바뀌는 것을 확인하라. 같은 장소에서도 침로를 바꾸면 나침반 오차가 달라지는 이유다. 편차를 서편(−)으로 두면 나침로가 진침로보다 커진다.

대형 상선의 주 나침반은 자기 나침반이 아니라 자이로컴퍼스(Gyrocompass)다. 고속으로 도는 자이로의 축은 공간에 대해 방향을 유지하려 하는데(강직성), 여기에 축이 수평을 벗어나면 진자처럼 토크를 거는 장치를 더하면 지구 자전과의 상호작용으로 축이 지구 자전축의 수평 성분, 즉 진북에 정착한다(세차 운동). 자기장과 무관하므로 편차·자차가 없지만, 속력·위도에 따른 작은 오차(속도 오차, 수 도 이내)를 보정해야 하고 기동 후 정착에 몇 시간이 걸린다. 그래서 선교에는 고장에 대비해 자기 나침반을 함께 둔다. 최근에는 광섬유 자이로(FOG)나 GNSS 안테나 2개로 방위를 재는 GNSS 컴퍼스도 쓰인다. 자이로는 21장의 레이더·ECDIS·오토파일럿에 방위를 공급하는 심장이다.

위치선과 선위 결정

연안에서는 해도에 표시된 물표(등대, 산봉우리, 탑)의 방위를 재서 위치를 구한다. 물표의 방위를 하나 재면 배는 그 물표를 지나 측정 방위의 반대 방향으로 그은 직선 어딘가에 있다. 이 선이 위치선(LOP, Line of Position)이다. 두 위치선의 교점이 선위(fix)다. 실제 측정에는 오차가 있으므로 세 번째 물표를 재면 세 선이 한 점에서 만나지 않고 작은 삼각형을 만든다. 항해사는 이를 오차 삼각형(Cocked Hat)이라 부르며, 삼각형이 작으면 측정이 믿을 만하다고 보고 보통 안쪽 가운데를 선위로 삼는다(위험 쪽 꼭짓점을 택하기도 한다).

교차각이 중요하다. 두 위치선이 90°(세 개면 60°·120°)에 가깝게 만나야 방위 오차가 위치 오차로 덜 증폭된다. 거의 평행하게 만나면 작은 오차로도 교점이 크게 미끄러진다.
모든 방위에 똑같이 들어간 계통 오차(예: 모르는 자차)는 삼각형 크기를 키우거나, 물표 배치에 따라 작은 삼각형을 그리면서도 엉뚱한 곳을 가리킬 수 있다.
레이더로 잰 거리는 물표를 중심으로 한 원(거리원)이 위치선이 된다. 레이더 거리는 방위보다 정확하므로 연안 항해에서 자주 쓴다.

SIMULATOR

세 물표 방위와 오차 삼각형

측정 방법

우연 오차 σ 계통 오차(모르는 자차 등)

측정값—

삼각형 최대 변—

선위 오차(실제와)—

배(검은 점, 실제 위치)를 바다 위에서 끌어 옮길 수 있다. 방위 모드에서 σ는 방위 오차(도), 거리 모드에서는 거리 오차(케이블, 0.1해리 단위). 해볼 것: 배를 물표 A·C와 일직선에 가깝게 놓아 교차각이 나빠지면 같은 σ에서도 삼각형이 길쭉해진다. 우연 오차를 0으로 하고 계통 오차만 주면 삼각형은 생기지만 선위는 한쪽으로 치우친다.

천측 항법: 해와 시계로 위치 구하기

GPS가 없던 시대 대양 한가운데에서 위치를 아는 방법은 천체였다. 지금도 GNSS 고장에 대비해 항해사는 천측을 배운다. 도구는 육분의(Sextant)다. 두 개의 거울로 수평선과 천체를 한 시야에 겹쳐 놓으면 눈금이 천체의 고도(수평선 위 각)를 1′ 정밀도로 알려 준다. 거울 하나가 θ만큼 돌면 반사광은 2θ 돌기 때문에, 60°(원의 1/6) 호로 120°까지 잴 수 있어 '육분의'라는 이름이 붙었다.

그림 20-5. 육분의. 태양 빛(주황)은 동경과 수평경에서 두 번 반사되어 망원경으로 들어가고, 수평선은 수평경의 투명한 절반을 통해 직접 보인다. 동경을 돌려 두 상을 겹치면 팔(index arm)이 가리키는 눈금이 고도다. 실제 관측값에는 안고차(눈높이), 대기 굴절, 태양 반지름 보정을 더한다.

가장 단순한 천측은 정오 위도다. 태양이 그 지점의 자오선을 지날 때(시정오) 고도가 하루 중 가장 높다. 그 순간 관측자의 천정, 태양, 천구의 적도가 모두 자오선 위에 있으므로 각도의 덧셈만으로 위도가 나온다. 태양의 적위(Declination, δ)는 천구 적도에서 잰 태양의 위도로, 하지 +23.44°, 동지 −23.44° 사이를 1년 주기로 오간다(항해력에 매 시각 값이 있다).

$$\varphi = (90^\circ - H_o) + \delta \quad(\text{sun bearing south}),\qquad \delta \approx 23.44^\circ\sin\!\left(\frac{360^\circ}{365}(N-81)\right)$$

여기서 $H_o$는 보정된 관측 고도, $90^\circ - H_o$는 천정 거리, $N$은 1월 1일부터의 날짜 번호. 태양이 북쪽에 보이면 천정 거리의 부호를 바꾼다($\varphi = \delta - (90^\circ - H_o)$). 적위 식은 시뮬레이터용 근사이며 실제 항해에는 항해력 값을 쓴다.

SIMULATOR

정오 태양 고도로 위도 구하기

날짜 배의 실제 위도 관측 오차

태양 적위 δ—

자오선 고도 Ho—

태양 방향—

계산 위도—

위치 오차—

위: 관측자 기준 자오선 단면(수평선, 천정, 천구 적도, 태양). 아래: 정오 전후 3시간의 태양 고도 곡선. 해볼 것: '시간 흐르기'를 누르면 태양이 떠올라 정오에 최고점에 이르렀다 내려간다. 항해사는 고도가 더는 오르지 않는 순간을 기다려 읽는다. 관측 오차 1′는 위도 1′ = 1해리 오차가 된다. 날짜를 춘분(3월 20일 무렵)에 두면 δ ≈ 0이라 위도 = 90° − 고도다.

경도는 훨씬 어려운 문제였다. 지구는 24시간에 360°, 즉 1시간에 15°, 4분에 1°, 4초에 1′ 돈다. 그러니 그 지점의 정오(태양이 가장 높을 때)에 그리니치 표준시가 몇 시인지 알면 경도는 시간 차 × 15°다. 문제는 흔들리는 배 위에서 몇 달 동안 그리니치 시각을 정확히 지키는 시계였다. 1714년 영국 의회가 경도 문제에 상금을 걸었고, 존 해리슨의 해상 시계(크로노미터) H4가 1760년대에 이를 해결했다. 하루 1초씩 틀리는 시계는 한 달 뒤 30초, 즉 경도 7.5′(적도에서 7.5해리)의 오차를 만든다.

SIMULATOR

크로노미터와 경도: 시간 1시간 = 15°

현지 정오 때 크로노미터(UTC) 크로노미터 오차 위도

계산 경도—

시계 오차에 의한 경도 오차—

위치 오차(동서)—

북극 위에서 내려다본 지구. 태양은 오른쪽에 있고, 배(빨강)는 지금 정오를 맞았다(태양 쪽 자오선). 그리니치 자오선(굵은 선)이 어디 있는지는 크로노미터가 알려 준다. 해볼 것: 시각을 03:31로 두면 경도 127°E 부근(한반도 남쪽)이 나온다. 크로노미터 오차 ±60초는 경도 ±15′이고, 위도 35°에서 약 12해리의 동서 오차다. 실제 계산에는 균시차(태양 시정오와 평균 정오의 차, 최대 ±16분)를 보정한다.

위치선으로서의 천측: 고도차법

정오가 아니어도 천체 하나의 고도 $H$를 재면, 그 천체 바로 아래 지점(지리 위치, GP)을 중심으로 반지름 $(90^\circ - H)\times 60$ 해리인 원 위에 배가 있다. 이 '등고도권'은 반지름이 수천 해리라 해도 위에서는 직선 위치선이 된다. 추측 위치에서 계산한 고도 $H_c$와 관측 고도 $H_o$의 차(1′ = 1해리)만큼 천체 방향으로 위치선을 옮겨 긋는 것이 1875년 생틸레르의 고도차법(intercept method)이다. 서로 다른 방향의 별 3개를 새벽·저녁 박명에 재면 연안의 세 물표 방위처럼 오차 삼각형이 생긴다. 계산식은 $\sin H_c = \sin\varphi\sin\delta + \cos\varphi\cos\delta\cos \text{LHA}$이다.

조석: 하루 두 번 숨 쉬는 바다

바다는 하루에 대개 두 번 차오르고(만조, HW) 두 번 빠진다(간조, LW). 원인은 달과 해의 기조력이다. 지구 중심이 받는 달의 인력과 지구 표면 각 지점이 받는 인력의 차이가 달 쪽과 그 반대쪽을 동시에 잡아당겨, 바다가 두 개의 볼록한 부분을 가진 타원체가 된다. 지구가 이 아래에서 하루 한 바퀴 돌면 한 지점은 하루에 볼록부를 두 번 지난다. 달도 같은 방향으로 공전하므로 주기는 24시간이 아니라 약 24시간 50분이고, 만조 간격은 12시간 25분(M2 분조)이다. 기조력은 거리의 세제곱에 반비례해서, 훨씬 무거운 해보다 가까운 달의 효과가 약 2.2배 크다.

대조(Spring Tide, 사리): 그믐과 보름. 해·달·지구가 일직선이라 두 볼록부가 겹쳐 조차가 가장 크다. 실제로는 1~2일 늦게 온다.
소조(Neap Tide, 조금): 상현과 하현. 해와 달이 90° 벌어져 서로 상쇄, 조차가 가장 작다.
반일주조·일주조·혼합조: 달의 적위가 크면 두 볼록부의 높이가 달라져 하루 두 번 조석의 높이가 다른 일조 부등이 생기고, 해역의 공진 특성에 따라 하루 한 번 조석이 우세한 곳도 있다. 한국 서해는 반일주조가 강하고 조차가 커서(인천 대조차 약 8 m) 갯벌과 갑문식 도크가 발달했고, 동해는 조차가 수십 cm에 불과하다.

SIMULATOR

대조와 소조: 달·해·지구와 조석 곡선

달의 위상(일)

조석 형태

달의 위상—

해–달 이각—

이날 조차—

상태—

왼쪽: 북극 위에서 본 지구(해는 왼쪽, 아주 멀리). 파란 타원은 달 조석(크다)과 해 조석(작다)의 합, 과장해서 그렸다. 오른쪽: 이 날부터 3일 동안의 조고 곡선(M2·S2·K1·O1 네 분조의 합으로 만든 교육용 모델, 대조 조차 4 m 기준). 해볼 것: 재생하며 보름(14.8일)과 그믐(0일)에 타원이 가장 길어지고 곡선 진폭이 커지는 것을, 상현(7.4일)에 진폭이 줄어드는 것을 보라. '혼합조'에서는 하루 두 번의 만조 높이가 서로 다르다.

해도의 수심은 기본수준면(Chart Datum) 아래로 적혀 있다. 기본수준면은 보통 최저 천문조위(LAT) 근처로, 물이 거의 그보다 더 빠지지 않는 낮은 면이다. 그러니 실제 수심은 해도 수심에 그 시각의 조고(Height of Tide)를 더한 값이다. 배의 흘수를 빼고 남는 바닥과 선체 사이 틈이 여유 수심(UKC, Under Keel Clearance)이다. 항만 규정은 UKC를 흘수의 10% 이상 또는 일정 미터 이상으로 요구하며, 속력에 따른 침하(스쿼트, 12장)와 파도에 의한 상하 운동도 감안해야 한다.

그림 20-6. 조석 수준면. 해도 수심은 기본수준면 기준이고 조고는 그 위로 잰다. UKC = 해도 수심 + 조고 − 흘수. 다리 밑 통과 높이(air draft)는 반대로 높은 해면(HAT 등)을 기준으로 따진다.

조석표는 만조와 간조의 시각과 높이만 준다. 그 사이 임의 시각의 조고는 조석 곡선이 대략 코사인 모양이라는 점을 이용한 12분의 1 법칙(Rule of Twelfths)으로 어림한다. 간조에서 만조까지 약 6시간 동안, 시간마다 조차의 1/12, 2/12, 3/12, 3/12, 2/12, 1/12씩 오른다. 중간 2시간 동안 조차의 절반이 바뀌므로 조류도 이때 가장 세다.

$$h(t) \approx h_{LW} + (h_{HW}-h_{LW})\,\frac{1-\cos(\pi t/D)}{2}$$

여기서 $t$는 간조 후 경과 시간, $D$는 간조에서 만조까지 걸리는 시간(반일주조에서 약 6시간 12분). 12분의 1 법칙은 이 코사인 곡선의 계단 근사다.

SIMULATOR

12분의 1 법칙과 여유 수심(UKC) 판단

간조 높이 만조 높이 간조 후 경과 시간 해도 수심 배의 흘수

조고(12분법)—

조고(코사인)—

실제 수심—

UKC (요구: 흘수의 10%)—

통과 가능 시간대—

위: 간조(0시간)에서 만조(6.2시간)까지의 조고. 계단은 12분의 1 법칙, 곡선은 코사인 모델. 초록 띠는 UKC가 흘수의 10% 이상인 시간대. 아래: 그 시각의 단면. 해볼 것: 흘수 13.2 m 배가 해도 수심 10.5 m 수로를 지나려면 조고가 4 m 이상 필요하다. 언제부터 언제까지 통과할 수 있는지 '통과 가능 시간대'를 보라. 대형 컨테이너선이 만조 전후를 기다려 입항하는 이유다.

GNSS: 위성으로 위치 풀기

GPS(미국), GLONASS(러시아), Galileo(EU), BeiDou(중국)를 묶어 GNSS(Global Navigation Satellite System)라 한다. 고도 약 2만 km의 위성들이 원자시계로 맞춘 정확한 시각과 자신의 궤도 정보를 계속 방송한다. 수신기는 신호가 떠난 시각과 도착한 시각의 차 $\Delta t$에 빛의 속도를 곱해 위성까지의 거리를 얻는다. 위성 하나까지의 거리를 알면 배는 그 위성을 중심으로 한 구 위에 있다. 구 셋이면 두 점으로 좁혀지고(하나는 우주 공간이라 버린다) 위치가 정해질 것 같다.

문제는 수신기의 시계다. 값싼 수정 시계는 위성 원자시계와 어긋나 있고, 1 μs의 시계 오차가 300 m의 거리 오차가 된다. 이 오차는 모든 위성의 거리에 똑같이 더해지므로, 수신기가 잰 값은 참거리가 아니라 의사거리(Pseudorange)다. 그래서 미지수가 위치 3개(x, y, z)에 시계 오차 $b$까지 4개가 되고, 위성이 최소 4개 필요하다. 아래 시뮬레이터는 같은 원리를 평면에 옮긴 것이다. 평면에서는 미지수가 x, y, b 3개라 위성 3개가 필요하다(3D에서는 하나 더).

$$\rho_i = \sqrt{(x-x_i)^2+(y-y_i)^2+(z-z_i)^2} + c\,b + \varepsilon_i,\qquad i = 1,\dots,n\ (n\ge 4)$$

여기서 $\rho_i$는 위성 $i$의 의사거리, $c\,b$는 수신기 시계 오차를 거리로 바꾼 값, $\varepsilon_i$는 전리층·대류층 지연, 다중 경로, 잡음. 연립 비선형 방정식을 선형화해 최소제곱으로 푼다. 위치 오차 ≈ DOP × 거리 측정 오차.

같은 측정 잡음이라도 위성의 배치에 따라 위치 오차가 달라진다. 위성들이 하늘 한쪽에 몰려 있으면 거리 원들이 거의 평행하게 만나 교점이 길쭉하게 퍼진다. 이 증폭률이 DOP(Dilution of Precision)다. 수평 오차는 HDOP, 전체는 PDOP·GDOP로 나타내며, HDOP 1~2면 좋고 5 이상이면 나쁘다. 연안 물표의 교차각과 같은 이야기다.

SIMULATOR

2D 삼변측량: 시계 오차와 DOP, 스푸핑

수신기 시계 오차 거리 잡음 σ(과장) 시계 오차도 미지수로 풀기 위성 4 사용

신호 환경

사용 위성—

HDOP—

추정 시계 오차—

위치 오차—

상태—

위성(S1~S4)과 배를 끌어 옮길 수 있다. 점선 원은 의사거리, 작은 점 구름은 잡음을 여러 번 바꿔 푼 해의 분포(크기 ∝ DOP), 십자는 수신기의 답이다. 단위는 화면 거리 km(교육용으로 축소). 해볼 것: ① '시계 오차도 미지수로 풀기'를 끄면 원들이 한 점에서 만나지 않고 답이 크게 틀린다. ② 위성을 한쪽으로 몰거나 '나쁜 배치'를 누르면 HDOP와 점 구름이 커진다. ③ '스푸핑'에서는 가짜 신호가 일관된 거리를 만들어 HDOP도 좋고 오차 경고도 없이 배를 엉뚱한 곳(빨간 X)에 있다고 믿게 한다.

보정 기술: 위치를 정확히 아는 기준국이 각 위성의 거리 오차를 계산해 방송하면(DGPS, 해상에서는 중파 비컨) 1~3 m, 정지 위성으로 보정 정보를 보내는 SBAS(WAAS, EGNOS, 한국 KASS)는 1 m 안팎, 반송파 위상을 쓰는 RTK는 cm 수준까지 정확해진다.
재밍(Jamming): 지상에 도달하는 GNSS 신호는 매우 약해서(약 −130 dBm, 잡음보다 낮다) 값싼 방해 전파로도 수신이 끊긴다. 한국 서해와 발트해·흑해·홍해 등에서 대규모 GNSS 교란이 보고되어 왔다.
스푸핑(Spoofing): 가짜 위성 신호로 그럴듯한 엉뚱한 위치를 믿게 만든다. 재밍보다 위험하다. AIS 위치가 육지 공항 위에 원형으로 몰려 찍히는 사례들이 보고되었다.
대책: GNSS 위치를 레이더 거리·방위, 수심, 자이로·로그 DR, 천측과 계속 대조한다. 다중 GNSS·다중 주파수 수신기, 지상파 백업(eLoran), 관성 항법이 연구·도입되고 있다. GNSS 하나에만 의존하지 않는 것이 항해의 기본이다.

항해사의 원칙: 한 가지 수단만 믿지 않는다

1995년 크루즈선 Royal Majesty호는 GPS 안테나 케이블이 빠져 수신기가 DR 모드로 바뀐 것을 아무도 모른 채 하루 넘게 항해했고, 조류와 바람으로 계획 항로에서 17해리 벗어나 낸터킷 근해 모래톱에 좌초했다. 화면에는 여전히 '위치'가 표시되고 있었다. 위치는 서로 독립적인 두 가지 이상의 방법으로 확인해야 하고, 수신기가 무엇을 근거로 위치를 내는지(DR, 2D, 3D 고정)를 알아야 한다. 선교 장비의 통합과 그 함정은 21장에서 이어진다.

핵심 정리

위도 1′ = 1해리 = 1852 m, 1 kn = 1해리/시. 경도 1′의 길이는 $\cos\varphi$배로 줄어든다(동서거 = $60\,\Delta\lambda\cos\varphi$).
메르카토르 해도는 등각이며 항정선이 직선이다. 축척은 $\sec\varphi$, 면적은 $\sec^2\varphi$배로 커지므로 거리는 같은 위도의 위도 눈금으로 잰다.
대권은 최단 경로(haversine으로 계산), 항정선은 일정 침로 경로다. 고위도 동서 항로에서 차이가 크며, 실제로는 대권을 항정선 구간으로 나누어 따라간다.
DR은 침로·속력·시간만으로 위치를 계산하고, 조류·풍압차 때문에 시간이 갈수록 오차가 쌓인다. 조류 삼각형으로 옆 성분을 상쇄하는 조타 침로(CTS)를 구한다.
T → M → C: 편차와 자차를 차례로 적용한다(T→C에서 동은 빼고 서는 더한다). 자차는 선수 방위에 따라 변한다. 자이로컴퍼스는 진북을 찾는다.
물표 방위·거리는 위치선을 만든다. 세 위치선의 오차 삼각형 크기와 교차각이 선위의 신뢰도를 알려 준다.
정오 위도: $\varphi = 90^\circ - H_o + \delta$. 경도는 시간이다(1시간 = 15°, 4초 = 1′). 크로노미터가 경도 문제를 풀었다.
달과 해의 기조력이 반일주조를 만들고, 일직선일 때 대조·직각일 때 소조다. 실제 수심 = 해도 수심 + 조고, UKC = 실제 수심 − 흘수. 12분의 1 법칙으로 조고를 어림한다.
GNSS는 의사거리로 위치와 시계 오차를 함께 풀기 때문에 위성 4개가 필요하다. 위성 배치가 나쁘면 DOP가 오차를 증폭하고, 재밍·스푸핑에 대비해 독립적인 수단으로 교차 확인해야 한다.

확인 퀴즈

1. 메르카토르 해도 위에서 두 지점 사이 거리를 디바이더로 잴 때 써야 하는 눈금은?

위도 1′ = 1해리이므로 위도 눈금이 거리 자다. 메르카토르의 축척은 sec φ로 위도에 따라 변하므로 측정 구간과 같은 위도의 눈금을 써야 한다. 경도 눈금은 cos φ만큼 짧은 실제 거리를 나타내므로 거리 자로 쓸 수 없다.

2. 위도 60°N에서 동쪽으로 경도 10°를 항해했다. 동서거(departure)는 약 얼마인가?

동서거 = 60 × Δλ × cos φ = 60 × 10 × 0.5 = 300해리. 적도였다면 600해리다.

3. 부산에서 LA로 갈 때 대권 항로가 항정선보다 북쪽으로 휘어 보이는 이유로 옳은 것은?

대권은 지구 중심을 지나는 평면의 단면이라 북반구 동서 항로에서는 극 쪽으로 올라간다. 3D 지구본에서는 곧은 선이지만 메르카토르 해도에서는 극 쪽으로 볼록한 곡선이 된다. 거리는 약 7%(370해리) 짧다.

4. 원하는 대지 침로가 090°, 대수 속력 10 kn, 조류가 북쪽(000°)으로 2 kn 흐른다. 조타 침로는?

북쪽으로 미는 2 kn를 상쇄하려면 남쪽으로 2 kn 성분이 필요하다. sin α = 2/10 → α ≈ 11.5°, 남쪽(오른쪽)으로 틀어 CTS ≈ 101.5°. 대지 속력은 10 cos 11.5° ≈ 9.8 kn.

5. 진침로 200°, 편차 5°W, 자차 3°E일 때 조타할 나침로는?

T → C 방향에서는 서(W)는 더하고 동(E)은 뺀다. M = 200 + 5 = 205°, C = 205 − 3 = 202°.

6. 춘분날 정오에 측정한 태양 고도가 남쪽 55°였다. 위도는?

춘분의 적위 δ ≈ 0°. φ = 90° − 55° + 0° = 35°. 태양이 남쪽에 보이므로 북위다.

7. 해도 수심 9.0 m, 현재 조고 2.4 m, 흘수 10.5 m인 배의 여유 수심(UKC)은?

실제 수심 = 9.0 + 2.4 = 11.4 m, UKC = 11.4 − 10.5 = 0.9 m. 흘수의 10%(1.05 m)를 요구하는 규정이라면 아직 부족하므로 조고가 더 오를 때까지 기다려야 한다.

8. 3차원 위치를 얻는 데 GNSS 위성이 최소 4개 필요한 이유는?

수신기 시계 오차는 모든 의사거리에 같은 값(c·b)으로 더해진다. x, y, z, b 네 미지수를 풀려면 독립 측정이 4개 필요하다. 1 μs 오차가 300 m가 되므로 무시할 수 없다.