Chapter 09

색 보정

흰 종이에 그린 수채화를 방에서 찍었는데 사진 속 종이가 누렇다. 다음 날 같은 그림을 다시 찍었더니 이번에는 푸르스름하다. 눈으로 볼 때 종이는 늘 하얬다. 카메라는 무엇을 잘못 받아 적었고, 보정 프로그램의 화이트 밸런스, 레벨, 커브, 채도 손잡이는 그 기록을 어떻게 고치는가. 이 장은 보정이 실제로 하는 계산을 들여다보고, 그 계산으로 고칠 수 있는 것과 한 번 잃으면 되돌릴 수 없는 것을 가른다. 목표는 "예쁜 사진"이 아니라 "실물과 같은 사진"이다.

광원의 색온도와 카메라의 화이트 밸런스 설정이 어긋날 때 사진에 색이 끼는 이유를 미레드 단위로 설명한다.
자동 화이트 밸런스가 그림의 주된 색에 속는 원리를 알고, 회색 카드와 스포이트로 기준을 잡는다.
레벨과 커브가 밝기 값을 어떻게 다시 배치하는지 히스토그램으로 확인하고, 종이 흰색을 255로 밀면 안 되는 이유를 안다.
채도·생동감·HSL 조정이 색역 끝에서 무너지는 모습을 보고 작품 사진에서는 얼마나 손댈지 판단한다.
8비트 파일에서 일어나는 클리핑과 계단 현상이 왜 되돌릴 수 없는지 RAW와 비교해 이해하고, 작품 사진 보정 절차를 세운다.

사진은 왜 누렇거나 푸른가

전구 아래에서 흰 종이를 보면 우리는 그냥 "흰 종이"라고 느낀다. 눈과 뇌가 방 전체를 비추는 빛의 색을 알아채고 그만큼을 덜어 내기 때문이다. ColorBook 9장과 10장에서 본 색순응(Chromatic adaptation)이다. 사진에는 이런 순응이 저절로 일어나지 않는다. 센서는 종이에서 돌아온 빛을 있는 그대로 받아 적고, 전구 빛은 붉은 쪽이 많으니 종이도 붉은 쪽으로 기운 숫자가 된다. 이렇게 사진 전체에 한 방향의 색이 덧씌워진 상태를 색 캐스트(Color cast)라고 한다.

카메라는 순응을 대신 해 주는 장치를 갖고 있다. 화이트 밸런스(White balance)는 "이 빛 아래에서 흰 것은 흰색으로 적어라"라는 설정이다. 빛의 색은 보통 색온도(Color temperature), 곧 같은 색으로 빛나는 이상적인 흑체의 온도(K, 켈빈)로 적는다. 촛불과 백열전구는 2000~3000 K로 붉고, 맑은 날 한낮의 햇빛은 5000~5500 K, 흐린 날이나 그늘의 하늘빛은 6500~8000 K 이상으로 푸르다. 카메라의 화이트 밸런스를 광원과 같은 온도로 맞추면 회색은 회색으로 남는다. 둘이 어긋나면 그 차이만큼 색이 낀다.

그림 1. 설정은 그대로, 빛만 바꿨을 때. 카메라를 주광(5500 K)에 고정하고 광원만 바꿔 같은 네 견본을 찍었다고 계산한 결과다. 전구 쪽(왼쪽)으로 가면 모든 색이 누렇게, 흐린 하늘 쪽(오른쪽)으로 가면 푸르게 기운다. 빨강은 색이 강해서 변화가 덜 눈에 띄지만 파랑은 2700 K에서 회갈색이 된다. 이 책의 모델(흑체 광원, 브래드퍼드 색순응)로 계산한 값이며 실제 카메라의 센서 응답과는 다르다.

캐스트의 크기를 재는 데는 켈빈보다 미레드(Mired)가 편하다. 100만을 색온도로 나눈 값으로, 3000 K는 333, 5500 K는 182 미레드다. 같은 미레드 차이는 색온도 어디에서나 비슷한 크기의 색 변화로 보인다. 3000 K와 3500 K의 차이(48 미레드)는 눈에 띄지만, 7000 K와 7500 K의 차이(10 미레드)는 거의 보이지 않는 이유다. 아래 판에서 가로축은 실제 광원, 세로축은 카메라의 화이트 밸런스 설정이고, 두 축 모두 미레드 간격으로 놓았다. 손잡이를 끌어 보며 왼쪽 사진과 판의 색을 함께 본다.

SIMULATOR

광원과 화이트 밸런스 설정이 어긋날 때

오른쪽 판의 손잡이를 끈다

실제 광원—

카메라 설정—

회색 카드 RGB—

어긋남—

해볼 것: ① 손잡이를 대각선 위로 끌고 다닌다. 광원이 무엇이든 설정이 같으면 회색 카드가 R=G=B로 남는다. ② 대각선에서 위아래로 벗어난다. 설정이 광원보다 높으면(위쪽) 사진이 누렇게, 낮으면(아래쪽) 푸르게 된다. 카메라는 "이 정도 붉은 빛이니 그만큼 푸르게 덜어 내라"는 계산을 하기 때문이다. ③ 왼쪽 위 구석(광원 7500 K, 설정 2500 K)으로 끌어 본다. 미레드 차이가 260을 넘으면 회색 카드조차 파란 칠처럼 보이고 종이의 파랑 값은 255에 닿는다. (흑체 광원과 브래드퍼드 색순응으로 계산한 교육용 모델이다. 실제 카메라는 색온도 외에 초록–자홍 축의 "틴트"도 함께 맞춘다.)

판의 대각선이 중립이고, 대각선에서 멀어질수록 색이 짙어진다. 색이 끼는 방향은 광원과 설정의 "차이"가 정한다. 주광 설정으로 전구 아래에서 찍으면 누렇고, 전구 설정으로 창가 그늘에서 찍으면 푸르다. 보정 프로그램의 색온도 손잡이는 이 판에서 세로로만 움직이는 일, 곧 찍을 때 고르지 못한 설정을 나중에 다시 고르는 일이다.

켈빈 숫자의 방향이 헷갈리는 이유 광원의 색온도가 높을수록 빛은 푸르다. 그런데 보정 프로그램에서 색온도 손잡이를 높은 쪽으로 밀면 사진은 누렇게 된다. 모순처럼 보이지만 손잡이가 말하는 숫자는 "광원이 이 온도였다고 치고 보정하라"는 뜻이다. 광원이 아주 푸르다고(높은 K) 알려 주면 프로그램은 그 푸름을 덜어 내려고 사진 전체에 노랑을 더한다. 그래서 프로그램의 손잡이 띠는 대개 왼쪽이 파랑, 오른쪽이 노랑으로 칠해져 있다. 손잡이에 적힌 것은 사진의 색이 아니라 광원에 대한 가정이다.

자동 화이트 밸런스가 속는 순간

휴대폰과 카메라의 기본값은 자동 화이트 밸런스(Auto white balance, AWB)다. 카메라는 광원을 직접 볼 수 없으니 찍힌 사진에서 광원을 추측해야 한다. 가장 오래되고 단순한 추측은 회색 세계 가정(Gray world assumption)이다. "세상의 여러 색을 모두 평균하면 회색일 것"이라고 보고, 사진 전체의 평균이 회색이 되도록 빨강·초록·파랑 채널에 각각 다른 배율을 곱한다. 이 생각은 색 지각 연구에서 오래전부터 논의되었고(Buchsbaum, 1980), 지금의 카메라는 장면 인식이나 학습된 모형까지 더한 훨씬 복잡한 방법을 쓴다. 그래도 "장면의 색에서 빛의 색을 거꾸로 추측한다"는 뼈대는 같다.

그렇다면 장면 자체가 한쪽 색으로 기울어 있으면 어떻게 될까. 황토빛 실내를 그린 수채화로 프레임을 가득 채우면, 회색 세계 가정은 "이 붉은 기는 빛 때문"이라고 판단하고 사진 전체를 푸른 쪽으로 민다. 푸른 바다 그림은 반대로 누렇게 민다. 같은 조명, 같은 카메라인데 그림마다 다른 색이 끼는 것이다. 아래 시뮬레이터의 "자동" 단추가 이 계산을 한다.

바로 옆의 "스포이트"는 반대로 사람이 기준을 알려 주는 방법이다. 사진에서 원래 회색이어야 할 점을 하나 찍으면, 그 점의 빨강·초록·파랑이 같아지도록 채널 배율을 정한다. 찍은 점이 진짜 회색이면 사진 전체가 바로잡히고, 회색이 아닌 점을 찍으면 그 점의 색만큼 사진 전체가 반대 방향으로 틀어진다.

$$k_R = \frac{G_{\text{기준}}}{R_{\text{기준}}},\quad k_G = 1,\quad k_B = \frac{G_{\text{기준}}}{B_{\text{기준}}},\qquad (R', G', B') = (k_R R,\ G,\ k_B B)$$

$R_{\text{기준}}, G_{\text{기준}}, B_{\text{기준}}$: 스포이트로 찍은 점의 값(선형광). 자동(회색 세계)은 사진 전체의 평균을 기준으로 쓴다. 계산은 감마가 걸린 화면 값이 아니라 빛의 세기로 되돌린 값에서 한다. 감마 값에 배율을 곱하면 밝은 곳과 어두운 곳의 색이 서로 다르게 틀어진다.

SIMULATOR

스포이트와 자동 화이트 밸런스

스포이트를 끌어 기준점을 고른다

기준 RGB—

채널 배율 R · B—

보정 뒤 회색 카드—

색표 평균 ΔE2000—

해볼 것: ① 스포이트를 오른쪽 위 회색 카드에 놓는다. 카드가 R=G=B가 되고 사진 전체가 바로잡힌다. ② 스포이트를 크림색 벽으로 옮긴다. 벽은 원래 살짝 누런 색이라 그 누런 기까지 "빛 탓"으로 지워져 사진 전체가 푸르게 된다. 수채화의 빨간 꽃을 찍으면 사진은 청록으로 넘어간다. ③ "자동"으로 바꾸고 그림을 차례로 고른다. 호머 수채화에서는 꽤 잘 맞지만, 황토빛 실내는 푸르게, 푸른 골목은 누렇게 틀어진다. 빛은 그대로인데 그림의 주된 색에 따라 결과가 갈린다. (채널 배율은 선형 sRGB에서 곱하는 단순화다. 색표 ΔE는 여섯 칸 가상 색표가 실물 색에서 평균 얼마나 벗어났는지다. 회색 카드를 맞춰도 0이 되지 않는 이유는 3절 끝의 심화에서 본다.)

자동은 평균을 믿고, 스포이트는 사람이 고른 점을 믿는다. 어느 쪽이든 기준이 틀리면 결과도 틀린다. 그래서 작품이나 상품을 찍는 사람들은 "믿을 수 있는 회색"을 장면 안에 직접 가져다 놓는다.

회색 카드: 기준을 함께 찍는다

회색 카드(Gray card)는 빛을 모든 파장에서 고르게 약 18% 반사하도록 만든 무채색 판이다. 고르게 반사하므로 어떤 광원 아래에서도 그 빛의 색을 그대로 돌려준다. 카드가 사진에서 띤 색이 곧 광원과 설정의 어긋남이고, 카드를 스포이트로 찍으면 그만큼을 정확히 덜어 낼 수 있다. 18%라는 값은 CIELAB 명도로 약 50, 곧 사람이 "중간 밝기"로 느끼는 회색이라서 노출의 기준으로도 쓰인다(2장). sRGB 8비트로는 R=G=B=118 근처다.

흰 종이를 기준으로 쓰면 안 될까. 쓸 수는 있지만 두 가지가 불리하다. 흔한 흰 종이에는 푸른 빛을 내는 형광 증백제(Optical brightener)가 든 경우가 많아 광원의 자외선 양에 따라 색이 달라진다. 그리고 흰색은 밝아서 노출이 조금만 넘쳐도 한 채널이 먼저 잘린다. 잘린 값으로는 원래 비율을 알 수 없다. 회색 카드는 중간 밝기에 있어 그럴 위험이 적다.

그림 2. 회색 카드를 쓰는 순서. 기준은 매 장마다 넣을 필요가 없다. 조명과 카메라 설정이 같은 동안에는 첫 장 하나의 카드로 얻은 배율이 나머지 모든 사진에 그대로 통한다. 반대로 조명이 조금이라도 바뀌면 카드도 다시 찍는다.

그림 2의 순서에는 숨은 조건이 하나 있다. 카메라를 RAW로 찍었다면(8장) 화이트 밸런스는 파일에 적힌 "메모"일 뿐이라 나중에 얼마든지 다시 고를 수 있다. JPEG로 찍었다면 카메라가 이미 한 번 화이트 밸런스를 곱하고 감마를 걸고 8비트로 줄인 뒤다. 그 위에서 다시 배율을 곱하는 것은 가능하지만, 이미 잘린 채널은 살아나지 않는다. 6절에서 이 차이를 직접 본다.

회색 하나를 맞춰도 다른 색이 조금 틀리는 이유 스포이트 보정은 채널마다 배율 하나씩, 세 개의 숫자로 사진 전체를 고친다. 회색 축은 정확히 맞지만, 광원이 바뀔 때 실제 색들이 움직이는 방식은 세 배율로 완전히 되돌릴 수 없다. 빛의 스펙트럼과 물감의 반사 스펙트럼, 센서 필터의 감도가 서로 얽혀 있기 때문이다. 그래서 앞 시뮬레이터에서 카드를 정확히 찍어도 색표의 평균 ΔE2000은 0이 아니다. 이 모델에서는 카메라를 주광(5500 K)에 두고 7500 K 흐린 창가에서 찍었을 때 약 1.3이지만, 3000 K 전구 아래에서는 약 4.3이고 빨강 칸 하나는 7.7까지 벌어진다. 빛이 설정에서 멀수록, 곧 배율을 크게 곱할수록 남는 오차도 커진다. 찍을 때부터 카메라 설정을 광원에 가깝게 두는 것이 나은 이유다. 미술관과 기록 보관소의 촬영에서는 회색 단계표와 여러 색 칸이 있는 기준 색표를 함께 찍고, 색표 전체가 맞도록 3×3 행렬이나 색 프로파일을 만들어 이 남은 오차까지 줄인다. 미국 연방 기관들이 함께 만든 문화유산 디지털화 지침(FADGI)처럼 기준 색표의 허용 오차를 수치로 정해 둔 지침도 있다.

레벨: 검정점과 흰점

화이트 밸런스가 색의 방향을 바로잡는다면, 다음 손잡이들은 밝기를 다시 배치한다. 사진이 전체로 뿌옇거나 어둡게 찍혔을 때 가장 먼저 쓰는 도구가 레벨(Levels)이다. 레벨은 손잡이 셋으로 이루어진다. 이 값 아래는 모두 검정으로 보낼 검정점(Black point), 이 값 위는 모두 흰색으로 보낼 흰점(White point), 그리고 그 사이의 중간 밝기를 밝은 쪽이나 어두운 쪽으로 휘는 중간 손잡이(감마)다.

$$v' = 255\cdot\left(\mathrm{clamp}\!\left(\frac{v - b}{w - b},\ 0,\ 1\right)\right)^{1/\gamma}$$

$v$: 입력 값(0~255), $b$: 검정점, $w$: 흰점, $\gamma$: 중간 손잡이(1보다 크면 중간톤이 밝아진다). clamp는 0보다 작으면 0, 1보다 크면 1로 자른다는 뜻이다. 바로 이 자르기 때문에 $b$ 아래와 $w$ 위의 서로 다른 값들이 모두 같은 0과 255가 된다.

레벨은 히스토그램(3장)과 함께 써야 한다. 아래 시뮬레이터의 사진은 화이트 밸런스는 맞았지만 노출이 조금 모자라고 렌즈 안의 반사(플레어)로 검정이 떠서 전체가 뿌옇다. 히스토그램이 양 끝에 닿지 않고 가운데 몰려 있는 모양이다. 히스토그램 아래의 세 손잡이를 끌어 본다.

SIMULATOR

레벨: 히스토그램 위의 세 손잡이

히스토그램 아래 손잡이 셋을 끈다

잘린 곳 표시(빨강: 255, 파랑: 0)

검정 · 감마 · 흰—

잘린 화소 255 · 0—

종이 RGB—

회색 카드 RGB—

해볼 것: ① 검정 손잡이를 히스토그램이 시작하는 곳까지, 흰 손잡이를 끝나는 곳까지 끌어온다("히스토그램 끝에 맞춤"이 같은 일을 한다). 뿌연 막이 걷히고, 아래 출력 히스토그램이 0~255를 다 쓴다. ② 흰 손잡이를 더 왼쪽, 종이 값 안쪽까지 민다("흰점을 종이 안쪽으로"). 종이가 255가 되면서 "잘린 곳 표시"에 빨강이 퍼진다. 수채 종이의 결과 옅은 붓 자국이 한 덩어리 흰색으로 사라진 것이다. ③ 중간 손잡이만 좌우로 끈다. 양 끝은 그대로 두고 회색 카드 값만 크게 움직인다. (입력은 화이트 밸런스를 맞춘 8비트 sRGB 파일이고, 레벨은 세 채널에 똑같이 적용했다. 히스토그램은 휘도 기준이다.)

"히스토그램을 양 끝에 맞추라"는 요령은 대부분의 풍경 사진에서 잘 통한다. 하지만 작품 사진에서는 위험할 수 있다. 수채화의 가장 밝은 곳은 대개 칠하지 않은 종이이고, 종이는 완전한 흰색이 아니다. 흰점을 종이 값에 정확히 맞추면 종이가 255, 곧 모니터가 낼 수 있는 가장 밝은 빛이 된다. 그 순간 종이의 결과 미묘한 미색은 사라지고, 종이 위에 아주 옅게 깐 물감도 함께 날아간다. 실물의 종이는 255가 아니다. 다음 절의 커브로 "종이를 종이답게" 두는 방법을 본다.

자동 레벨·자동 대비는 종이를 흰색으로 만든다 많은 프로그램의 "자동" 단추는 각 채널의 히스토그램 양 끝에서 아주 적은 비율(예: 0.1%)을 잘라 내고 나머지를 0~255로 늘인다. 채널마다 따로 늘이면 화이트 밸런스까지 바뀐다. 미색 종이나 누렇게 바랜 옛 종이도 "가장 밝은 곳은 흰색"이라는 가정에 따라 새하얗게 된다. 실물이 원래 그런 색이라면 이것은 보정이 아니라 왜곡이다. 작품 사진에서는 자동 단추를 누른 결과를 반드시 실물과 비교한다.

커브: 원하는 밝기에서만 휜다

톤 커브(Tone curve)는 레벨을 일반화한 도구다. 가로축은 입력 값, 세로축은 출력 값이고, 처음에는 대각선(입력 = 출력)이다. 곡선 위에 점을 찍어 끌면 그 밝기 근처만 밝아지거나 어두워진다. 레벨은 사실 커브의 특별한 경우다. 검정점과 흰점은 곡선의 양 끝을 옆으로 옮기는 일이고, 중간 손잡이는 곡선 가운데를 들어 올리는 일이다.

커브를 읽는 요령은 하나다. 곡선이 가파른 구간은 대비가 커지고, 완만한 구간은 대비가 줄어든다. 입력의 작은 차이가 출력에서 크게 벌어지느냐 좁혀지느냐의 문제다. 흔히 쓰는 S자 곡선은 중간톤을 가파르게, 양 끝을 완만하게 만든다. 중간톤의 대비가 살아나는 대신 하이라이트와 그림자의 세부는 눌린다. 대비는 어디선가 빌려 와야 하고, 커브는 어디서 빌릴지를 고르는 도구다.

SIMULATOR

톤 커브: 점을 끌어 밝기를 다시 배치한다

곡선 위의 점을 끈다

왼쪽 절반은 원본

종이 G 입력 → 출력—

회색 카드 G—

중간톤 기울기—

하이라이트(220~250) 기울기—

해볼 것: ① "S자"를 누른다. 중간톤 기울기가 1.36으로 커지고 하이라이트(220~250) 기울기는 0.68로 작아진다. 담과 하늘이 또렷해진다. 이 사진은 노출이 모자라 종이가 아직 190 근처의 가파른 구간에 있지만, 노출이 맞은 사진이라면 종이와 흰 얼룩이 완만한 구간에 들어가 결이 납작해진다. 채도도 함께 올라가는 것에 주목한다. 커브를 세 채널에 똑같이 걸면 채널 사이의 차이도 함께 벌어지기 때문이다. ② "종이 맞추기"를 누른다. 회색 카드 지점(입력 101)을 118로, 종이 지점(입력 190)을 241로 옮기는 곡선이다. 노출 부족과 종이 밝기를 함께 바로잡으면서도 종이는 255에 닿지 않으므로 결이 남는다. ③ "뒤집기"를 누르거나 점을 서로 엇갈리게 끈다. 곡선이 내려가는 구간에서는 밝기 순서가 뒤집혀 사진이 음화처럼 무너진다. (곡선은 다섯 점을 지나는 단조 3차 보간(Fritsch–Carlson 1980)이다. 입력은 앞 시뮬레이터와 같은 파일이다.)

"종이 맞추기"는 이 장의 핵심 동작이다. 커브의 장점은 서로 다른 밝기에 서로 다른 약속을 걸 수 있다는 것이다. 회색 카드는 118에, 종이는 실물과 비슷한 밝기에, 가장 어두운 물감은 원래 어둡기에. 레벨 하나로는 이 세 약속을 동시에 지키기 어렵다. 다만 "실물과 비슷한 밝기"가 정확히 몇인지는 히스토그램이 알려 주지 않는다. 그것은 실물을 보고 정한다. 7절에서 다시 다룬다.

보정은 큰 것에서 작은 것으로 사진 보정을 오래 한 사람들은 대개 같은 순서를 지킨다. 화이트 밸런스, 노출(전체 밝기), 검정점·흰점, 커브, 그다음에야 채도와 부분 보정이다. 앞 단계가 바뀌면 뒤 단계의 판단이 모두 달라지기 때문이다. 화이트 밸런스가 틀린 사진에 채도부터 올리면 틀린 색이 더 진해질 뿐이다. 그리고 손잡이 하나를 움직일 때마다 히스토그램을 한 번 본다. 눈은 몇 분만 화면을 봐도 화면의 색에 순응해서, 조금 누런 사진을 "원래 이랬던 것 같다"고 받아들이기 시작한다. 히스토그램과 회색 카드 숫자는 순응하지 않는다.

채도, 생동감, HSL

밝기 다음은 색의 진하기다. 채도(Saturation) 손잡이는 각 화소의 색을 같은 밝기의 회색에서 더 멀리(또는 가까이) 밀어낸다. 모든 화소를 같은 비율로 밀기 때문에 이미 진한 색은 금방 화면이 낼 수 있는 끝, 곧 색역의 경계에 닿는다. 경계를 넘은 값은 잘리고, 잘린 영역에서는 서로 다른 색들이 같은 색이 되어 꽃잎의 명암과 결이 한 덩어리 원색으로 뭉개진다.

그래서 많은 프로그램에는 생동감(Vibrance)이라는 두 번째 손잡이가 있다. 이미 진한 색은 덜, 흐린 색은 더 미는 방식이다. 구체적인 공식은 프로그램마다 다르고 공개되지 않은 경우가 많지만, "채도가 낮은 화소에 더 큰 몫"이라는 생각은 같다. 마지막으로 HSL 조정(Hue, Saturation, Lightness)은 특정 색상 띠, 예를 들어 빨강만 골라 색상·채도·명도를 따로 바꾼다. ColorBook 3장에서 본 HSL 모형의 한계, 곧 HSL의 "명도"가 실제 명도와 다르다는 문제가 여기서도 그대로 나타난다.

SIMULATOR

채도·생동감·빨강만: 색역 끝에서 생기는 일

가운데 경계선을 끈다(왼쪽이 원본)

양

색역 밖으로 잘린 화소—

빨간 꽃 RGB—

하늘 RGB—

해볼 것: ① "채도"에서 양을 +100까지 올린다. 빨간 꽃의 빨강 값이 255에 붙고, 꽃잎 안의 명암이 납작한 원색 조각이 된다. 잘린 화소의 비율을 본다. ② 같은 +100을 "생동감"으로 본다. 흐린 담과 하늘은 진해지지만 이미 진한 꽃은 덜 변해서 잘린 화소가 훨씬 적다. ③ "빨강만"으로 바꾸고 양을 −100으로 내린다. 꽃만 회색이 되고 하늘과 숲은 그대로다. 꽃 둘레에서 색이 반쯤 빠진 테두리가 보이면, 색상 띠의 경계가 꽃잎 가장자리의 주황빛 화소를 반만 잡은 것이다. (채도는 감마 sRGB에서 같은 휘도의 회색으로부터 밀어내는 단순 모형, 생동감은 화소 채도가 낮을수록 몫을 키운 이 책의 모형, 빨강 띠는 HSV 색상 0°를 중심으로 ±35° 범위에 부드럽게 줄어드는 가중치다.)

잘린 화소는 화면에서는 "더 선명한 색"으로 보이지만 정보로는 손실이다. 원래 서로 달랐던 빨강들이 모두 (255, 낮은 값, 낮은 값)이라는 같은 숫자가 되기 때문이다. 인쇄로 가면 상황은 더 나빠진다. 인쇄 잉크가 낼 수 있는 색의 범위는 화면보다 좁은 곳이 많아서(ColorBook 15장), 화면에서 아슬아슬하게 진한 색은 인쇄에서 다시 한 번 눌린다. 작품 사진에서 채도는 "올리는" 손잡이가 아니라 "실물보다 진하거나 흐린 것을 바로잡는" 손잡이로 쓰는 편이 안전하다.

되돌릴 수 없는 보정

보정 프로그램에는 실행 취소가 있으니 무엇이든 되돌릴 수 있을 것 같다. 하지만 "되돌리기" 단추가 아니라 반대 방향의 보정으로 되돌리려 하면 이야기가 다르다. 사진을 어둡게 저장한 파일을 나중에 다시 밝게 할 때, 또는 너무 밝게 저장한 파일을 다시 어둡게 할 때다. 원인은 두 가지다.

첫째는 클리핑(Clipping)이다. 255를 넘은 값은 모두 255로 저장되므로, 밝게 한 뒤 다시 어둡게 하면 원래 240이던 곳과 250이던 곳이 같은 회색이 되어 돌아온다. 둘째는 양자화(Quantization), 곧 8비트 파일이 밝기를 256단계로만 적는다는 사실이다. 사진을 두 스톱 어둡게 저장하면 원래 256단계에 퍼져 있던 값들이 아래쪽 좁은 범위에 몰려 수십 단계로 줄어든다. 다시 밝게 늘이면 단계 사이가 벌어져 히스토그램이 빗살처럼 듬성듬성해지고, 하늘처럼 고르게 변하던 곳에 띠가 생긴다. 이것을 계단 현상(Posterization, Banding)이라고 부른다.

SIMULATOR

어둡게 저장했다가 다시 밝게: 8비트와 RAW

왕복 보정

초록 채널에 남은 단계 수—

잘린 화소—

원본과의 평균 ΔE2000—

해볼 것: ① 8비트, "어둡게 → 다시 밝게", 2스톱. 겉보기에는 비슷하지만 아래 히스토그램이 빗살이 되고 초록 채널에 남은 단계가 204개에서 115개로 준다. 4스톱이면 64개만 남는다. 경계선을 끌어 하늘의 결을 비교한다. ② "밝게 → 다시 어둡게"로 바꾼다. 이번에는 잘린 화소가 문제다. 밝은 수채화라 2스톱만 밝혀도 화소의 약 87%에서 한 채널 이상이 255에 닿고, 다시 어둡게 하면 하늘과 담과 종이가 색이 빠진 회색 덩어리로 돌아온다. 평균 ΔE는 14를 넘는다. 1스톱으로 줄여 봐도 종이와 흰 얼룩은 돌아오지 않는다. ③ "RAW"로 바꾼다. 두 순서 모두 원본과의 ΔE가 0이 된다. 값을 자르지 않고 소수로 들고 다니면 왕복해도 잃는 것이 없다. (8비트 쪽은 매 단계 결과를 sRGB 8비트로 저장했다고 보고, RAW 쪽은 선형 부동소수로 계산했다. 실제 RAW도 센서가 받을 수 있는 한계에서 이미 잘리며 보통 12~14비트다. 여기서는 보정 과정의 손실만 비교한다.)

교훈은 단순하다. 되돌릴 수 없는 일은 되도록 맨 마지막에, 한 번만 한다. RAW나 16비트 파일에서 보정을 모두 마친 뒤 마지막에 8비트로 내보내면, 8비트의 256단계는 완성된 사진을 적는 데만 쓰인다. 중간 결과를 JPEG로 저장했다가 다시 열어 고치기를 거듭하면 매번 양자화와 압축 손실이 쌓인다(압축 손실은 10장). 보정 프로그램들이 원본 파일은 그대로 두고 "보정 값의 목록"만 따로 저장하는 비파괴 편집(Non-destructive editing)을 기본으로 삼는 것도 이 때문이다.

작품을 찍을 때: 실물과 같게

지금까지의 손잡이를 작품 사진이라는 한 가지 목적에 모아 본다. 작품 사진의 기준은 분명하다. 사진이 실물보다 예쁠 필요도, 극적일 필요도 없다. 실물 옆에 놓았을 때 같아 보여야 한다. 이 기준은 풍경이나 인물 사진의 보정과 몇 군데에서 정반대 방향을 가리킨다.

윈슬로 호머의 수채화 「나소의 담」. 푸른 하늘 아래 연분홍과 회보라색의 낮은 담이 화면 아래 절반을 가로지르고, 담 너머로 빨간 꽃이 핀 나무와 짙은 초록 덤불, 그 뒤로 푸른 바다와 흰 돛배가 보인다. 왼쪽에는 흰 문기둥 둘 사이로 짙은 청록색 문이 열려 있고, 맨 아래 땅은 칠하지 않은 미색 종이가 그대로 드러나 있다. — **그림 3. 윈슬로 호머, 「나소의 담」, 1898.** 담의 흰 얼룩들과 맨 아래 땅은 물감이 아니라 칠하지 않고 남긴 종이다. 그 종이는 완전한 흰색이 아니라 따뜻한 미색이고(이 사진 파일에서 약 R 241, G 233, B 223), 담의 가장 밝은 얼룩보다 아주 조금 밝을 뿐이다. 이 미색을 "흰색으로 바로잡으면" 호머가 남긴 종이의 온기와 담의 밝기 관계가 함께 달라진다. 이 장의 시뮬레이터들은 이 그림을 "촬영할 작품"으로 쓴다.메트로폴리탄 미술관 소장(Amelia B. Lazarus Fund, 1910), 미색 종이에 수채와 흑연. 공공 도메인(The Met Open Access, CC0). 소장처 작품 페이지 · 크레딧

그림 3에서 보듯, 작품의 "가장 밝은 곳"은 흰색이 아니고 "가장 넓은 색"은 회색이 아니다. 앞에서 본 자동 레벨과 자동 화이트 밸런스는 바로 이 두 가정에 기대므로, 작품 사진에서는 둘 다 끄거나 결과를 의심한다. 대신 장면 안에 넣어 둔 회색 카드와, 손에 들고 비교할 실물이 기준이 된다. 정리하면 작품 사진 보정의 순서는 다음과 같다.

단계	손잡이	기준	하지 않는 일
1	화이트 밸런스	회색 카드를 스포이트로(R=G=B)	자동 화이트 밸런스, 종이를 스포이트로 찍기
2	노출	회색 카드가 약 118	히스토그램 끝에 맞추려고 노출 올리기
3	커브(하이라이트)	종이를 실물과 나란히 보며 맞춤, 255 미만	흰점을 종이 값에 맞추기, 자동 레벨
4	채도	실물과 비교해 차이가 날 때만	"선명하게" 올리기
5	비교	실물 옆에서, 같은 조명 아래	보정 화면만 오래 보고 판단하기

다섯째 단계가 가장 쉽게 빠진다. 보정을 마친 화면을 작품 옆에 두고, 작품은 일정한 조명 아래에서 본다. 이때 모니터가 지나치게 푸르거나 밝으면 비교 자체가 틀어지므로, 모니터의 색온도를 낮(약 6500 K)에 맞추고 밝기는 종이가 화면 속 흰 배경보다 눈부시지 않을 정도로 낮춘다. 화면 색은 모니터마다 다르다는 점(ColorBook 1장)이 여기서 가장 크게 작용한다. 정밀한 일이라면 측색기로 모니터를 교정한다.

도경의 필름 시절 요령 필름으로 작품을 찍던 시절에는 보정할 여지가 지금보다 훨씬 적었다. 그래서 작품 사진가들은 작품 귀퉁이에 회색 단계표와 색 막대를 함께 넣어 찍고, 현상소와 인쇄소가 그 막대를 보고 색을 맞추게 했다. 막대는 나중에 잘라 낸다. 디지털에서도 원리는 같다. 기준은 찍을 때 장면 안에 넣는 것이고, 나중에 기억으로 맞추는 것이 아니다. 한 가지 더. 액자 유리나 니스 칠한 표면에 비친 반사광은 색 보정으로 지울 수 없다. 반사광은 그림의 색이 아니라 조명의 색이기 때문이다. 이 문제는 찍을 때 조명 각도로 해결한다(4장).

회색 카드로 보정해 보기 문구점에서 파는 무광 회색 판지나 사진용 회색 카드를 준비한다(없으면 흰 종이를 대신 쓰되, 형광 증백제가 적은 미색 도화지가 낫다). ① 방의 전구 아래에서 휴대폰 자동 모드로 그림 한 장과 카드를 함께 찍는다. ② 같은 자리를 창가 낮빛으로 옮겨 한 번 더 찍는다. ③ 휴대폰 사진 앱의 화이트 밸런스 스포이트(없으면 색온도·틴트 손잡이)로 카드가 무채색이 되게 맞춘다. ④ 두 사진을 화면에 나란히 띄우고 실물 그림을 옆에 든다. 두 사진이 서로 같아졌는지, 실물과도 같은지 본다. 종이 부분만 손가락으로 가리고 봤을 때와 보이게 했을 때 판단이 어떻게 달라지는지도 적어 둔다.

작품 사진 보정 작업대

마지막 시뮬레이터는 앞의 손잡이들을 한자리에 모은 작업대다. 촬영 조건을 고르면 그 빛 아래에서 카메라를 주광(5500 K)에 두고 노출을 조금 모자라게 찍은 사진이 나온다. 스포이트로 기준을 고르고, 노출을 맞추고, 종이의 밝기를 커브로 정하고, 필요하면 채도를 고친다. "실물과 나란히"를 켜면 왼쪽 절반에 실물(원래 그림 파일)이 나타난다. 숫자는 보정 결과가 실물에서 평균 얼마나 벗어났는지 알려 준다.

SIMULATOR

작품 사진 보정 작업대

스포이트를 끌어 기준점을 고른다

노출 보정 종이 밝기(커브) 채도 실물과 나란히(왼쪽 절반)

회색 카드 RGB (목표 118)—

종이 RGB (실물 241·233·223)—

그림 영역 평균 ΔE2000—

255에 닿은 화소—

해볼 것: ① 처음 화면은 스포이트가 크림색 벽에 있어 푸르게 틀어져 있다. 스포이트를 회색 카드로 옮기고, 노출 보정으로 카드의 초록 값을 118 근처에 맞춘다. 평균 ΔE가 크게 떨어진다. ② 카드를 118에 맞추면 종이는 이미 실물(241·233·223) 근처에 온다(전구에서 약 239·233·220). 회색 카드가 노출과 종이를 함께 잡아 준 것이다. 여기서 "종이 밝기"를 끝까지 올려 본다. 흐린 창가라면 ΔE가 0.9에서 4.0으로 다시 오른다. "더 밝은 종이"는 실물에서 멀어지는 일이다. ③ "창가 + 전구"를 고른다. 그림의 왼쪽은 창빛, 오른쪽은 전구 빛을 받는다. 카드를 찍어도 그림 한쪽은 푸르고 다른 쪽은 누렇게 남는다. 회색 카드 하나는 빛 하나만 고친다. 섞인 빛은 보정이 아니라 촬영에서, 한쪽 빛을 막아 해결한다. (카메라는 RAW로 찍었다고 보고 선형 부동소수로 계산한 뒤 마지막에 8비트로 표시한다. 기본 노출은 −0.7스톱, 커브는 카드 지점 118을 고정하고 종이 지점만 들어 올린다. 평균 ΔE는 그림 영역에서 고르게 뽑은 화소로 계산한다.)

작업대에서 ΔE를 가장 크게 줄이는 손잡이는 언제나 첫 번째, 화이트 밸런스다. 노출이 그다음이고, 커브와 채도는 마지막에 조금씩 움직인다. 그리고 섞인 빛 앞에서는 어떤 손잡이도 답이 되지 않는다. 사진 보정은 찍을 때 받아 적은 기록을 고쳐 읽는 일이지, 찍을 때 없던 정보를 만드는 일이 아니다. 한도경의 원칙대로다. 이 작업대의 단계들은 13장 이미지 실험실에서 압축·크롭과 함께 다시 한 번 모인다.

서윤의 겨울 촬영 노트

CASE 서윤촬영 노트 · 9장

같은 조명인데 한 장은 푸르고 한 장은 누렇다

12월 셋째 주, 서윤은 도록에 들어갈 작품을 처음으로 한꺼번에 찍었다. 조명도, 카메라 위치도, 설정도 같았다. 그런데 컴퓨터로 옮기고 보니 「창가의 책」은 푸르스름하고 「비 오는 골목」은 누랬다. 서윤은 조명이 중간에 바뀌었나 의심했지만, 사진 정보를 열어 보니 화이트 밸런스가 "자동"이었다. 「창가의 책」은 황토와 갈색이 화면을 채운 그림이고, 「비 오는 골목」은 회청색 그림이다.

서윤은 이 장의 회색 세계 모델로 두 장면을 계산해 보았다. 작품이 프레임의 60%를 채우고 나머지는 흰 벽과 작은 회색 카드라고 두면, 「창가의 책」(평균 #c49a64)을 찍은 사진에서 회색 카드는 RGB (105, 118, 133), CIELAB b* −10.2로 푸르게 나온다. 자동 화이트 밸런스가 그림의 황토색을 "빛의 색"으로 오해해 빨강 채널에 0.78, 파랑 채널에 1.31을 곱했기 때문이다. 「비 오는 골목」(평균 #7d93a6)에서는 반대로 카드가 (124, 118, 112), b* +4.0으로 누렇다. 빛은 하나인데 그림마다 다른 답이 나온 것이다.

한도경은 "카메라가 그림을 보고 빛을 짐작하게 두지 말고, 빛을 직접 알려 줘라"라고 했다. 둘은 촬영 절차를 다시 정했다. 조명을 켤 때마다 첫 장에 회색 카드를 작품 옆에 넣어 찍고, 보정 프로그램에서 그 카드를 스포이트로 찍어 얻은 화이트 밸런스를 같은 조명으로 찍은 모든 사진에 복사한다. 다음은 종이였다. 카드를 118에 맞추자 서윤의 수채 종이는 사진에서 약 237(L* 약 94)이 되었다. 화면에서는 조금 회색빛으로 보여 흰점을 당겨 255로 만들고 싶었지만, 도경이 실물 그림을 모니터 옆에 세웠다. 255로 민 종이는 실물보다 눈에 띄게 밝고 차가웠고, 하늘에 옅게 깐 첫 물감이 사라져 있었다. 서윤은 커브로 종이 지점만 241(L* 약 95) 근처로 올리고 거기서 멈췄다.

자동: 「창가의 책」의 카드105,118,133 자동: 「비 오는 골목」의 카드124,118,112 회색 카드 목표118,118,118 종이 목표(실물 비교로)약 241 · L*95

이 장에서 정한 것작품 사진 보정 절차: ① 조명마다 첫 장에 회색 카드, 자동 화이트 밸런스는 쓰지 않는다. ② RAW에서 카드를 스포이트로 찍어 화이트 밸런스, 같은 조명의 사진에 일괄 적용. ③ 노출로 카드 초록 값을 118±3에. ④ 커브로 종이를 실물에 맞추되 255에 닿지 않게(이번 종이는 약 241). 자동 레벨·자동 대비 금지. ⑤ 채도는 실물과 다를 때만. ⑥ 마지막 판단은 언제나 "실물 옆에 두고 비교", 같은 조명 아래에서.

아직 남은 문제보정을 마친 RAW 파일을 도록 인쇄용과 웹용으로 어떤 크기, 어떤 형식으로 내보낼 것인가. 8비트로 줄이는 순간은 언제여야 하는가.

다음 단계10장: 해상도와 ppi, 리샘플링과 압축. 용도별로 내보낼 파일을 정한다.

핵심 정리

사진에 색이 끼는 것은 광원의 색온도와 카메라의 화이트 밸런스 설정이 어긋났기 때문이다. 설정이 광원보다 높으면 누렇고, 낮으면 푸르다. 어긋남의 크기는 켈빈보다 미레드(100만 ÷ K)로 재는 편이 고르다.
자동 화이트 밸런스는 장면의 색에서 빛의 색을 추측한다. 회색 세계 가정은 한쪽 색이 가득한 그림 앞에서 그 색을 빛 탓으로 오해한다.
회색 카드는 모든 파장을 고르게 약 18% 반사하므로 어떤 빛의 색도 그대로 보여 준다. 카드를 스포이트로 찍어 얻은 채널 배율은 같은 조명의 모든 사진에 통한다. 조명이 바뀌면 다시 찍는다.
레벨은 검정점·흰점·감마로, 커브는 원하는 밝기마다 따로 출력 값을 정한다. 곡선이 가파른 곳은 대비가 커지고 완만한 곳은 줄어든다. 작품 사진에서 종이를 255로 밀면 결과 옅은 물감이 함께 사라진다.
채도는 모든 색을 같은 비율로 밀어 진한 색부터 색역 끝에서 잘리고, 생동감은 흐린 색에 더 큰 몫을 준다. HSL은 색상 띠 하나만 고친다.
8비트 파일에서는 클리핑과 양자화가 쌓여 반대 방향의 보정으로 되돌릴 수 없다. RAW나 16비트에서 보정을 마치고 8비트 변환은 맨 마지막에 한 번만 한다.
작품 사진의 기준은 실물이다. 회색 카드로 색을 맞추고, 실물 옆에서 같은 조명으로 비교한다. 섞인 빛과 반사광은 보정이 아니라 촬영에서 해결한다.

확인 퀴즈

1. 카메라의 화이트 밸런스를 주광(5500 K)에 두고 3000 K 전구 아래에서 흰 종이를 찍었다. 사진 속 종이의 색과 그 이유로 가장 알맞은 것은?

색온도가 낮은 빛일수록 붉고 따뜻하다. 카메라 설정(5500 K)은 실제 빛(3000 K)보다 높으므로 덜어 내야 할 붉은 기를 다 덜어 내지 못해 사진이 누렇게 남는다. 차이는 약 152 미레드다. 카메라는 사람처럼 저절로 순응하지 않는다. 색온도는 주로 파랑–노랑 축의 변화이고, 초록–자홍 축은 "틴트"로 따로 맞춘다.

2. 조명과 설정을 그대로 두고 황토색이 가득한 그림과 푸른 바다 그림을 자동 화이트 밸런스로 찍었더니, 황토색 그림 사진은 푸르스름하고 바다 그림 사진은 누렇게 나왔다. 가장 그럴듯한 원인은?

회색 세계 가정처럼 장면의 평균에서 빛을 추측하는 방식은, 장면 자체가 한쪽 색으로 기울어 있으면 그 기울기를 빛 탓으로 돌려 지운다. 그래서 따뜻한 그림은 차갑게, 차가운 그림은 따뜻하게 틀어진다. 조건이 같다고 했으므로 조명 변화는 원인이 아니고, 양자화는 색을 한 방향으로 체계적으로 틀지 않는다.

3. 수채화 사진에서 레벨의 흰점을 칠하지 않은 종이의 값(예: 237)에 정확히 맞췄다. 가장 가능성 높은 결과는?

흰점 $w$보다 밝은 값은 모두 255로 잘리고, 그 아래 값들은 0~$w$ 범위를 0~255로 늘이므로 사진 전체가 밝아진다. 종이는 실물에서도 완전한 흰색이 아니다(호머의 종이는 약 241·233·223). 그래서 작품 사진에서는 커브로 종이를 실물과 비교해 255 미만에 둔다.

4. 사진을 두 스톱 어둡게 JPEG로 저장한 뒤, 다시 열어 두 스톱 밝게 했다. 히스토그램이 빗살처럼 듬성듬성해지고 하늘에 띠가 생겼다. 같은 일을 RAW에서 했다면?

8비트 파일은 어둡게 저장하는 순간 값이 좁은 범위의 몇십 단계로 몰리고, 다시 늘이면 단계 사이가 벌어져 계단 현상이 생긴다. RAW 현상 프로그램은 높은 비트 깊이(또는 부동소수)로 계산하고 중간 결과를 8비트로 자르지 않으므로 왕복 손실이 거의 없다. 그래서 8비트 변환은 맨 마지막에 한 번만 한다.