f-number 와 디포커스 내성의 트레이드오프 - MTF 계산으로 증명하기.

MTF와 DOF의 상관관계
포커스가 살짝 벗어나면 화질은 얼마나 떨어질까?

피사계심도(DOF) 공식이 알려주지 않는 것 — 디포커스량과 MTF 저하를 직접 계산으로 연결합니다

DOF 공식은 "어디까지가 합격"인지만 알려준다

이전 글에서 다룬 피사계심도(DOF) 공식을 다시 떠올려 보겠습니다.

전통적 DOF 공식

DOF = 2 × N × c × (1 + m) / m²

N = f-number, c = 허용착란원(Circle of Confusion), m = 배율

이 공식은 "이 범위 안에 있으면 합격, 벗어나면 불합격"이라는 이진법적인 경계선을 그려줍니다. 하지만 실제 현장에서는 훨씬 중요한 질문이 남습니다.

현장에서 진짜 궁금한 것 "DOF 범위를 10um 벗어났다고 정말 못 쓰는 영상이 되는 걸까? 아니면 살짝만 나빠지는 걸까?"

"DOF 안에 있다고 다 똑같이 선명한 걸까? DOF 경계 바로 안쪽과 초점 정중앙은 화질이 같을까?"

이 질문에 답하려면 DOF의 "착란원" 기준이 아니라, MTF(Modulation Transfer Function)로 디포커스 영향을 직접 계산해야 합니다. DOF는 합격선이고, MTF는 그 합격선 안팎에서 화질이 연속적으로 어떻게 변하는지 보여주는 그래프입니다.

왜 두 시리즈를 교차 연결해야 할까

• MTF 시리즈에서는 "공간주파수에 따라 콘트라스트가 어떻게 떨어지는가"를 다뤘습니다 (핀포커스 기준)
• DOF 시리즈에서는 "초점이 맞는 것으로 간주되는 범위가 어디까지인가"를 다뤘습니다
• 이 둘을 합치면 "초점에서 X um 벗어났을 때 MTF가 정확히 몇 %로 떨어지는가"를 숫자로 답할 수 있습니다

디포커스가 MTF에 미치는 영향 — 계산식

디포커스는 점 하나의 상이 선명한 점이 아니라 작은 원반(Blur Disk)으로 퍼지는 현상입니다. 이 블러 원반의 지름은 다음과 같이 결정됩니다.

블러 서클 지름 (근축 근사)

b = Δz / N

Δz = 초점면에서 벗어난 거리, N = f-number
※ f-number가 클수록(조리개를 닫을수록) 같은 디포커스에도 블러가 작아집니다

이 블러 원반이 만드는 MTF 저하는 핀포커스 상태의 회절한계 MTF에 추가로 곱해지는 형태로 근사됩니다 (Hopkins 근사식, Born & Wolf 광학 이론 기반).

디포커스 MTF 종합식

MTF(ν, Δz) ≈ |2J₁(x)/x| × MTF_diff(ν)

x = π·ν·b·(1 − ν/ν_c), J₁ = 1차 베셀함수, ν_c = 회절한계 공간주파수(1/λN)

읽는 법 이 식이 말해주는 건 간단합니다 — 디포커스가 커질수록(Δz↑) 블러 원반(b)이 커지고, b가 커질수록 베셀함수 항이 빠르게 0에 가까워지면서 MTF가 떨어집니다. 그리고 f-number가 클수록 같은 Δz에도 b가 작게 유지되어 디포커스에 더 강해집니다 (단, 회절한계 자체는 낮아지는 트레이드오프 존재).

계산에 사용한 조건

항목	값
파장 (λ)	550nm (가시광 중심)
센서 픽셀피치	3.45um
나이퀴스트 주파수	144.9 lp/mm
평가 주파수	센서 나이퀴스트 기준

실무에서 "이 정도면 충분히 선명하다"의 기준은 보통 센서가 표현 가능한 최대 디테일, 즉 나이퀴스트 주파수에서의 MTF로 판단합니다.

f-number별 디포커스 민감도 비교

같은 디포커스 거리(가로축)에 대해, f-number가 다른 세 가지 렌즈 설정에서 나이퀴스트 주파수의 MTF(세로축)가 어떻게 떨어지는지 직접 계산했습니다.

f/4

f/5.6

f/8

조건: 550nm, 픽셀피치 3.45um, 나이퀴스트 144.9lp/mm 기준 계산

그래프가 보여주는 핵심 f/4(빨강)는 핀포커스에서 가장 높은 MTF(60.1%)로 시작하지만, 디포커스에 가장 민감하게 반응해 30um만 벗어나도 f/8보다 낮아집니다. 반면 f/8(초록)은 핀포커스 MTF가 낮지만(24.7%) 디포커스에 거의 영향을 받지 않는 "평평한" 곡선을 보입니다. 조리개를 더 닫을수록 디포커스 내성은 커지지만, 그 대가로 회절에 의한 기본 화질 손실을 감수해야 합니다 — 이것이 머신비전 렌즈 설계에서 f-number를 정할 때의 본질적인 트레이드오프입니다.

핀포커스 대비 MTF 50% 저하 지점

f-number	핀포커스 MTF	50% 저하 디포커스
f/4	60.1%	±28.6um
f/5.6	45.1%	±49.3um
f/8	24.7%	±107.5um

f/2.8 이하 — 제로크로싱 주의 f/2.8처럼 조리개를 더 개방하면 디포커스 ±29um 부근에서 MTF가 거의 0까지 떨어진 뒤, 더 벗어나면 위상이 반전되어 다시 살짝 올라가는 현상이 나타납니다. 이는 콘트라스트의 흑백이 뒤바뀐 상태(스퓨리어스 리졸루션)로, 실제로는 화질이 좋아진 게 아니라 패턴이 왜곡된 것입니다. 저조도 환경에서 조리개를 많이 개방해야 할 때 특히 주의가 필요합니다.

직접 계산해보기

f-number와 디포커스 거리를 조절하면서 MTF가 어떻게 변하는지 직접 확인해보세요. (550nm, 픽셀피치 3.45um, 나이퀴스트 기준 계산)

f-number (N)

디포커스 (Δz) 15 um

핀포커스 MTF

-

현재 MTF

-

저하율

-

막대 길이 = MTF(%) — 두 막대를 비교하며 디포커스가 실제 콘트라스트를 얼마나 깎아먹는지 체감해보세요.

실무 적용 가이드

1. DOF 안에 있다고 "다 같은 화질"이 아니다

DOF 공식이 정한 경계는 허용착란원이라는 다소 보수적이거나 느슨한 기준 하나로 그린 단일 경계선입니다. 실제로는 그 경계 안에서도 초점 중앙부와 경계 부근의 MTF는 상당히 차이가 납니다. 검사 항목이 미세 결함, 문자 인식처럼 고주파 디테일을 요구한다면 DOF 경계 근처보다 중앙 1/3 구간에서 검사하는 것이 안전합니다.

2. f-number 선택은 "트레이드오프"의 문제다

• 조리개를 닫을수록(f-number↑) → DOF 확보, 디포커스 내성↑, 그러나 회절에 의한 핀포커스 MTF 자체는 낮아짐 + 조도 손실
• 조리개를 열수록(f-number↓) → 핀포커스 MTF↑, 빛은 많이 들어오지만 디포커스에 매우 민감 + 제로크로싱 리스크
• 대상물의 평탄도, 컨베이어 진동, 워킹 디스턴스 변동폭을 고려해 "실제 디포커스가 얼마나 발생할지"부터 추정하고 f-number를 선택해야 합니다

3. 진동·서보 정밀도가 곧 화질 정밀도다

이번 계산에서 f/4 기준으로 핀포커스 대비 MTF 50% 저하가 일어나는 디포커스는 단 ±28.6um였습니다. 이는 일반 서보모터 기반 Z축 스테이지의 반복정밀도(보통 ±10~50um)와 비슷한 수준입니다. 즉, 기계적 위치 반복성 자체가 광학적 화질의 한계를 결정할 수 있다는 의미입니다.

함께 보면 좋은 글
이 글의 계산 근거가 된 기초 이론은 다음 글들에서 다뤘습니다.
· MTF 곡선 읽는 법 — 에드몬드옵틱스 기반 해설
· 피사계심도 개념과 공식
· 같은 렌즈도 조건에 따라 성능이 달라진다
· 렌즈 왜곡과 캘리브레이션 기초