코드 디스크 용어 해설

오차 통계량: 피크 투 피크, ± 값, RMS와 2σ의 환산

오차 통계량: 피크 투 피크, ± 값, RMS와 2σ의 환산

같은 오차 곡선이라도 피크 투 피크, ± 값, RMS, 2σ 중 무엇으로 보고하느냐에 따라 수치가 2–4배 달라질 수 있습니다. 이 글은 사인파의 PV = 2√2·RMS, 균일 분포의 PV = 2√3·σ를 유도하고, 가우스 오차의 피크 투 피크가 샘플 수에 따라 커지는 d₂(n) 표를 제시하며, 제곱합 제곱근은 RMS 계열 양에만 적용됨을 설명하고, 흔한 다섯 가지 오판을 정리합니다.

공급자 보고서에는 ‘오차 RMS 3.5″’, 수요자 사양은 ‘±5″’로 여유가 충분해 보입니다. 그런데 수요자가 재측정해 피크 투 피크 9.9″를 얻고 규격 초과로 판정합니다. 양쪽 데이터 모두 틀리지 않았고, 잘못은 서로 다른 통계량을 그대로 비교한 데 있습니다. 오차 곡선의 피크 투 피크, ± 값, RMS, 2σ 사이에는 고정된 비율이 없으며, 비율은 곡선 형상과 샘플 수에 따라 정해집니다. 이 글은 이 양들 사이의 환산 관계와, 합성·비교할 때 어느 것을 써야 하는지를 제시합니다.

표준편차를 모두 1로 둔 네 가지 오차 곡선: 사인파와 삼각파의 피크 투 피크는 샘플 수와 무관하게 각각 2.83과 3.46; 균일 무작위는 3.46에 수렴; 가우스 무작위의 피크 투 피크는 샘플 수에 따라 계속 커져 4096점에서 이미 약 7.6에 이름
그림 1 – 표준편차를 모두 1로 둔 네 가지 오차 곡선: 사인파와 삼각파의 피크 투 피크는 샘플 수와 무관하게 각각 2.83과 3.46; 균일 무작위는 3.46에 수렴; 가우스 무작위의 피크 투 피크는 샘플 수에 따라 계속 커져 4096점에서 이미 약 7.6에 이름

정의: 각 양은 무엇을 재는가

오차 기록 e_1 … e_n에 대해:

  • 피크 투 피크 PV = max e − min e로, 영점 선택과 무관합니다.
  • ± 값은 두 가지로 계산합니다. ±PV/2(최댓값과 최솟값의 중점을 영점으로 함), 또는 지정한 영점에 대한 최대 절대 편차 max|e − e_0|입니다. 곡선이 비대칭이거나 영점이 중점에 있지 않으면 후자가 더 큽니다(영점 선택의 영향은 이 문서 라이브러리의 눈금 오차 글 참조).
  • RMS = √(Σe²/n)은 영을 기준으로 하고, 표준편차 σ = √(Σ(e − ē)²/n)는 평균을 기준으로 합니다. 둘은 RMS² = ē² + σ²를 만족합니다. 각도 오차의 영점은 원래 약속이므로, RMS를 보고하기 전에 평균을 뺐는지 밝혀야 합니다. 그렇지 않으면 RMS가 영점에 따라 변합니다.
  • 2σ는 표준편차의 두 배로, 보통 ± 구간의 반폭, 즉 ±2σ로 쓰이며 전폭은 4σ입니다. 그런데 ±σ 구간의 전폭을 ‘2σ’라고 쓰는 사람도 있어, 두 해석은 두 배 차이 납니다.

형상 계수: 결정론적 곡선과 무작위 오차

먼저 모든 양을 σ로 환산합니다(평균이 영이면 σ = RMS).

사인파 e = A·sinθ: σ = A/√2, PV = 2A이므로

PV = 2√2·σ ≈ 2.83σ, 2σ = √2·A ≈ 0.71·PV

사인파의 값은 양 끝에 몰려 있습니다(역사인 분포). ±2σ = ±1.41A는 이미 곡선의 최댓값을 넘으므로 모든 샘플이 구간 안에 들어갑니다. 95% 구간은 ±0.997A, 약 ±1.41σ로, 가우스 분포의 ±1.96σ보다 훨씬 좁습니다.

삼각파 또는 균일 분포(반폭 a): σ = a/√3, PV = 2a이므로 PV = 2√3·σ ≈ 3.46σ입니다. 삼각파는 한 주기 안에서 각 값이 나올 확률이 같으므로 균일 분포와 계수가 같습니다. B형 불확도 평가의 ‘반폭을 √3으로 나눈다’가 바로 이 관계입니다. 구형파가 가장 작아 PV = 2σ입니다.

가우스 무작위 오차에는 고정된 피크 투 피크가 없습니다. n개 독립 샘플의 범위 기댓값은 d₂(n)·σ입니다.

샘플 수 n10100100010⁴10⁵
E[PV]/σ3.085.026.487.708.77

단일 기록도 흩어집니다. 시뮬레이션에서 n = 1000일 때 PV의 5%–95% 분위는 5.7σ–7.4σ입니다(그림 2 참조). 즉 같은 무작위 오차원이라도 100점으로 잰 것과 1만 점으로 잰 것의 피크 투 피크는 약 50% 차이 납니다.

피크 투 피크와 표준편차의 비: 구형파, 사인파, 삼각파 또는 균일 분포는 상수, 가우스 무작위 오차는 샘플 수에 따라 d₂(n)으로 커지며 상당한 산포가 있음; 오른쪽 표는 ±2σ 구간의 포함률
그림 2 – 피크 투 피크와 표준편차의 비: 구형파, 사인파, 삼각파 또는 균일 분포는 상수, 가우스 무작위 오차는 샘플 수에 따라 d₂(n)으로 커지며 상당한 산포가 있음; 오른쪽 표는 ±2σ 구간의 포함률

혼합 곡선은 더 분명하게 보여줍니다. 진폭 1인 사인파에 σ = 0.1의 노이즈를 더하고 주기당 3600점으로 하면, RMS는 0.707에서 0.714(+1%)로만 오르지만 피크 투 피크의 평균은 2.00에서 약 2.57(+28%)로 오릅니다. 피크 투 피크는 꼬리의 소수 점으로 정해져 노이즈와 샘플 점수에 민감하고, RMS는 모든 점으로 정해져 훨씬 안정적입니다.

합성: 제곱합 제곱근은 RMS 계열 양에만 성립

서로 상관없는 여러 오차를 더하면 분산이 더해집니다.

σ_총² = Σσ_i² + 2·Σρ_ij·σ_i·σ_j

ρ_ij는 상관 계수이며, 상관이 없으면 둘째 항이 사라져 제곱합 제곱근이 됩니다. 서로 다른 차수의 사인파는 한 주기 전체에서 직교하므로, 위상에 관계없이 RMS는 제곱합 제곱근을 정확히 만족합니다. 피크 투 피크에는 이런 성질이 없어 제곱합 제곱근으로 합성하면 작게 나옵니다(고조파 피크 합성의 통계적 성질은 이 문서 라이브러리의 오차 예산 글 참조).

계산 예(예시): 일차 고조파 진폭 10″(PV 20″), 2048선 보간 오차 진폭 2″(PV 4″), 노이즈 σ = 0.5″, 회전당 65 536 점 샘플링.

합성 방법결과
RMS 제곱합 제곱근 √(7.07² + 1.41² + 0.5²)7.23″, 실제 RMS 7.23″와 일치
PV 제곱합 제곱근 √(20² + 4²)20.4″
PV 단순 합24.0″
실제 PV(노이즈 포함, 시뮬레이션)26.9″
오차 합성 계산 예: RMS 제곱합 제곱근은 실제 값과 완전히 일치; 피크 투 피크 제곱합 제곱근은 실제보다 약 사분의 일 작음. 일차 고조파의 꼭대기 근처에서는 보간 오차와 노이즈의 피크가 반드시 같은 부호로 겹치기 때문
그림 3 – 오차 합성 계산 예: RMS 제곱합 제곱근은 실제 값과 완전히 일치; 피크 투 피크 제곱합 제곱근은 실제보다 약 사분의 일 작음. 일차 고조파의 꼭대기 근처에서는 보간 오차와 노이즈의 피크가 반드시 같은 부호로 겹치기 때문

천천히 변하는 일차 고조파가 꼭대기 근처에 머무는 동안 빠르게 변하는 보간 오차는 수십 주기를 지나므로, 피크가 같은 부호인 주기가 반드시 있습니다. 따라서 결정론적 성분의 피크 투 피크는 그대로 더하고, 노이즈는 샘플 수에 따라 d₂(n)으로 더해야 합니다. 올바른 절차는 각 성분을 형상 계수로 σ로 환산하고 제곱합 제곱근으로 총 RMS를 구한 뒤, 피크 투 피크가 필요하면 합성 곡선의 실제 형상이나 시뮬레이션으로 다시 환산하는 것입니다.

기준 불일치로 인한 오판

공급자 보고수요자 이해실제 상황
RMS 3.5″(일차 고조파 위주)±3.5″±4.95″, PV 9.9″
2σ = 5″(노이즈 위주)±5″, PV 10″1만 점 기록에서 PV 약 19.3″
반복 정밀도 2σ = 1″(±σ 전폭을 의미)±2σ = ±1″실제 ±2σ는 ±2″
100점으로 측정한 PV 5.0σ1만 점으로 재측정해 PV 7.7σ, ‘나빠짐’으로 판정제품은 그대로, 샘플 수가 바뀜
각 항 PV를 제곱합 제곱근으로 20.4″에 배분PV ≤ 22″ 충족실측 PV 약 26.9″로 규격 초과

엔지니어링 요점

  • 사양에는 네 가지를 밝힙니다: 통계량(PV, ±PV/2, max|e|, RMS, σ), 영점(평균, 중점 또는 특정 눈금선), 샘플 수와 샘플링 범위, 노이즈 포함 여부.
  • 두 데이터를 비교하기 전에 같은 양으로 환산합니다. 사인파 위주이면 PV ≈ 2.83σ, 삼각파나 균일 분포 위주이면 약 3.46σ, 노이즈 위주이면 d₂(n)에 따릅니다.
  • 오차 예산은 반드시 σ나 RMS의 제곱합 제곱근으로 세우고, 상한이 필요하면 포함 계수를 곱하거나 시뮬레이션을 합니다. 피크 투 피크에 제곱합 제곱근을 적용하지 마십시오.
  • 노이즈 위주 지표는 σ로 보고하는 것을 우선하고 샘플 점수와 측정 대역폭을 밝힙니다. 피크 투 피크를 보고할 때는 샘플 수도 함께 적어야 측정 간 비교가 가능합니다.
  • ‘2σ’라고 쓸 때는 ±2σ의 반폭임을 밝힙니다. 약 95%를 포함한다고 말할 수 있는 것은 가우스에 가까운 오차뿐이며, 사인파와 균일 분포에서는 ±2σ 구간이 모든 샘플을 포함합니다.

요약

피크 투 피크는 극단점을, RMS와 σ는 전체를 보는 양이며, 둘의 비는 곡선 형상으로 정해집니다: 구형파 2, 사인파 2.83, 삼각파 또는 균일 분포 3.46, 가우스 무작위는 샘플 수에 따라 커집니다. 제곱합 제곱근 합성은 RMS 계열 양에만 할 수 있으며, 사양을 비교하기 전에 상대방의 숫자를 자신의 기준으로 환산해야 합니다.


중국어 원문 기사 번역 (0272). ENC7 코드 디스크 제조사 (문의) · 기술 자료 · https://enc7.com

© Langfang Jingzheng Optoelectronic Technology Co., Ltd. 무단 전재를 금합니다. 이 글은 AI의 도움을 받아 작성되었습니다.

Have a drawing? Get an engineer's review.

Send your outer diameter, bore, line count or bit count, substrate and readhead wavelength. Our engineers check manufacturability and reply with a quotation and sample lead time.

WhatsApp