코드 디스크 용어 해설
오차 통계량: 피크 투 피크, ± 값, RMS와 2σ의 환산

같은 오차 곡선이라도 피크 투 피크, ± 값, RMS, 2σ 중 무엇으로 보고하느냐에 따라 수치가 2–4배 달라질 수 있습니다. 이 글은 사인파의 PV = 2√2·RMS, 균일 분포의 PV = 2√3·σ를 유도하고, 가우스 오차의 피크 투 피크가 샘플 수에 따라 커지는 d₂(n) 표를 제시하며, 제곱합 제곱근은 RMS 계열 양에만 적용됨을 설명하고, 흔한 다섯 가지 오판을 정리합니다.
공급자 보고서에는 ‘오차 RMS 3.5″’, 수요자 사양은 ‘±5″’로 여유가 충분해 보입니다. 그런데 수요자가 재측정해 피크 투 피크 9.9″를 얻고 규격 초과로 판정합니다. 양쪽 데이터 모두 틀리지 않았고, 잘못은 서로 다른 통계량을 그대로 비교한 데 있습니다. 오차 곡선의 피크 투 피크, ± 값, RMS, 2σ 사이에는 고정된 비율이 없으며, 비율은 곡선 형상과 샘플 수에 따라 정해집니다. 이 글은 이 양들 사이의 환산 관계와, 합성·비교할 때 어느 것을 써야 하는지를 제시합니다.

정의: 각 양은 무엇을 재는가
오차 기록 e_1 … e_n에 대해:
- 피크 투 피크 PV = max e − min e로, 영점 선택과 무관합니다.
- ± 값은 두 가지로 계산합니다. ±PV/2(최댓값과 최솟값의 중점을 영점으로 함), 또는 지정한 영점에 대한 최대 절대 편차 max|e − e_0|입니다. 곡선이 비대칭이거나 영점이 중점에 있지 않으면 후자가 더 큽니다(영점 선택의 영향은 이 문서 라이브러리의 눈금 오차 글 참조).
- RMS = √(Σe²/n)은 영을 기준으로 하고, 표준편차 σ = √(Σ(e − ē)²/n)는 평균을 기준으로 합니다. 둘은 RMS² = ē² + σ²를 만족합니다. 각도 오차의 영점은 원래 약속이므로, RMS를 보고하기 전에 평균을 뺐는지 밝혀야 합니다. 그렇지 않으면 RMS가 영점에 따라 변합니다.
- 2σ는 표준편차의 두 배로, 보통 ± 구간의 반폭, 즉 ±2σ로 쓰이며 전폭은 4σ입니다. 그런데 ±σ 구간의 전폭을 ‘2σ’라고 쓰는 사람도 있어, 두 해석은 두 배 차이 납니다.
형상 계수: 결정론적 곡선과 무작위 오차
먼저 모든 양을 σ로 환산합니다(평균이 영이면 σ = RMS).
사인파 e = A·sinθ: σ = A/√2, PV = 2A이므로
PV = 2√2·σ ≈ 2.83σ, 2σ = √2·A ≈ 0.71·PV
사인파의 값은 양 끝에 몰려 있습니다(역사인 분포). ±2σ = ±1.41A는 이미 곡선의 최댓값을 넘으므로 모든 샘플이 구간 안에 들어갑니다. 95% 구간은 ±0.997A, 약 ±1.41σ로, 가우스 분포의 ±1.96σ보다 훨씬 좁습니다.
삼각파 또는 균일 분포(반폭 a): σ = a/√3, PV = 2a이므로 PV = 2√3·σ ≈ 3.46σ입니다. 삼각파는 한 주기 안에서 각 값이 나올 확률이 같으므로 균일 분포와 계수가 같습니다. B형 불확도 평가의 ‘반폭을 √3으로 나눈다’가 바로 이 관계입니다. 구형파가 가장 작아 PV = 2σ입니다.
가우스 무작위 오차에는 고정된 피크 투 피크가 없습니다. n개 독립 샘플의 범위 기댓값은 d₂(n)·σ입니다.
| 샘플 수 n | 10 | 100 | 1000 | 10⁴ | 10⁵ |
|---|---|---|---|---|---|
| E[PV]/σ | 3.08 | 5.02 | 6.48 | 7.70 | 8.77 |
단일 기록도 흩어집니다. 시뮬레이션에서 n = 1000일 때 PV의 5%–95% 분위는 5.7σ–7.4σ입니다(그림 2 참조). 즉 같은 무작위 오차원이라도 100점으로 잰 것과 1만 점으로 잰 것의 피크 투 피크는 약 50% 차이 납니다.

혼합 곡선은 더 분명하게 보여줍니다. 진폭 1인 사인파에 σ = 0.1의 노이즈를 더하고 주기당 3600점으로 하면, RMS는 0.707에서 0.714(+1%)로만 오르지만 피크 투 피크의 평균은 2.00에서 약 2.57(+28%)로 오릅니다. 피크 투 피크는 꼬리의 소수 점으로 정해져 노이즈와 샘플 점수에 민감하고, RMS는 모든 점으로 정해져 훨씬 안정적입니다.
합성: 제곱합 제곱근은 RMS 계열 양에만 성립
서로 상관없는 여러 오차를 더하면 분산이 더해집니다.
σ_총² = Σσ_i² + 2·Σρ_ij·σ_i·σ_j
ρ_ij는 상관 계수이며, 상관이 없으면 둘째 항이 사라져 제곱합 제곱근이 됩니다. 서로 다른 차수의 사인파는 한 주기 전체에서 직교하므로, 위상에 관계없이 RMS는 제곱합 제곱근을 정확히 만족합니다. 피크 투 피크에는 이런 성질이 없어 제곱합 제곱근으로 합성하면 작게 나옵니다(고조파 피크 합성의 통계적 성질은 이 문서 라이브러리의 오차 예산 글 참조).
계산 예(예시): 일차 고조파 진폭 10″(PV 20″), 2048선 보간 오차 진폭 2″(PV 4″), 노이즈 σ = 0.5″, 회전당 65 536 점 샘플링.
| 합성 방법 | 결과 |
|---|---|
| RMS 제곱합 제곱근 √(7.07² + 1.41² + 0.5²) | 7.23″, 실제 RMS 7.23″와 일치 |
| PV 제곱합 제곱근 √(20² + 4²) | 20.4″ |
| PV 단순 합 | 24.0″ |
| 실제 PV(노이즈 포함, 시뮬레이션) | 26.9″ |

천천히 변하는 일차 고조파가 꼭대기 근처에 머무는 동안 빠르게 변하는 보간 오차는 수십 주기를 지나므로, 피크가 같은 부호인 주기가 반드시 있습니다. 따라서 결정론적 성분의 피크 투 피크는 그대로 더하고, 노이즈는 샘플 수에 따라 d₂(n)으로 더해야 합니다. 올바른 절차는 각 성분을 형상 계수로 σ로 환산하고 제곱합 제곱근으로 총 RMS를 구한 뒤, 피크 투 피크가 필요하면 합성 곡선의 실제 형상이나 시뮬레이션으로 다시 환산하는 것입니다.
기준 불일치로 인한 오판
| 공급자 보고 | 수요자 이해 | 실제 상황 |
|---|---|---|
| RMS 3.5″(일차 고조파 위주) | ±3.5″ | ±4.95″, PV 9.9″ |
| 2σ = 5″(노이즈 위주) | ±5″, PV 10″ | 1만 점 기록에서 PV 약 19.3″ |
| 반복 정밀도 2σ = 1″(±σ 전폭을 의미) | ±2σ = ±1″ | 실제 ±2σ는 ±2″ |
| 100점으로 측정한 PV 5.0σ | 1만 점으로 재측정해 PV 7.7σ, ‘나빠짐’으로 판정 | 제품은 그대로, 샘플 수가 바뀜 |
| 각 항 PV를 제곱합 제곱근으로 20.4″에 배분 | PV ≤ 22″ 충족 | 실측 PV 약 26.9″로 규격 초과 |
엔지니어링 요점
- 사양에는 네 가지를 밝힙니다: 통계량(PV, ±PV/2, max|e|, RMS, σ), 영점(평균, 중점 또는 특정 눈금선), 샘플 수와 샘플링 범위, 노이즈 포함 여부.
- 두 데이터를 비교하기 전에 같은 양으로 환산합니다. 사인파 위주이면 PV ≈ 2.83σ, 삼각파나 균일 분포 위주이면 약 3.46σ, 노이즈 위주이면 d₂(n)에 따릅니다.
- 오차 예산은 반드시 σ나 RMS의 제곱합 제곱근으로 세우고, 상한이 필요하면 포함 계수를 곱하거나 시뮬레이션을 합니다. 피크 투 피크에 제곱합 제곱근을 적용하지 마십시오.
- 노이즈 위주 지표는 σ로 보고하는 것을 우선하고 샘플 점수와 측정 대역폭을 밝힙니다. 피크 투 피크를 보고할 때는 샘플 수도 함께 적어야 측정 간 비교가 가능합니다.
- ‘2σ’라고 쓸 때는 ±2σ의 반폭임을 밝힙니다. 약 95%를 포함한다고 말할 수 있는 것은 가우스에 가까운 오차뿐이며, 사인파와 균일 분포에서는 ±2σ 구간이 모든 샘플을 포함합니다.
요약
피크 투 피크는 극단점을, RMS와 σ는 전체를 보는 양이며, 둘의 비는 곡선 형상으로 정해집니다: 구형파 2, 사인파 2.83, 삼각파 또는 균일 분포 3.46, 가우스 무작위는 샘플 수에 따라 커집니다. 제곱합 제곱근 합성은 RMS 계열 양에만 할 수 있으며, 사양을 비교하기 전에 상대방의 숫자를 자신의 기준으로 환산해야 합니다.
중국어 원문 기사 번역 (0272). ENC7 코드 디스크 제조사 (문의) · 기술 자료 · https://enc7.com
© Langfang Jingzheng Optoelectronic Technology Co., Ltd. 무단 전재를 금합니다. 이 글은 AI의 도움을 받아 작성되었습니다.