표준 오차 개념과 공식, 그리고 계산 방법

Last Updated on 2024-07-06 by BallPen

표준 오차의 도입 배경과 개념이 궁금합니다. 또한 표준 오차 계산은 어떻게 할까요?

표준 오차 개념을 이해하는 것은 측정값의 정확도를 올바르게 표기하는데 있어 아주 중요합니다.

계산은 비록 어렵지 않으나 그 개념을 이해하기는 쉽지 않아요. 그럼 이제부터 표준 오차의 도입 배경과 개념, 그리고 계산 방법을 함께 알아봐요.

목차는 다음과 같습니다.

1. 정확도와 정밀도 복습

이전 포스트에서 측정 결과의 정확도와 정밀도에 대한 개념, 계산, 표기 방법에 대해 설명드린 바 있습니다. 간단히 복습해봐요.

각각의 구체적인 계산법은 이전 포스트를 참고하세요.

1-1. 정확도

정확도는 참값에서 측정값이 얼마나 떨어져 있는가를 나타내는 척도이며, 표기 방법은 아래 네가지 방법 중 하나를 적용하면 됩니다.

– 평균값과 참값의 백분율

측정값들의 평균값을 \mu, 참값을 X라 할때 정확도는 다음과 같습니다.

\tag{1} 정확도(\%) = {{\mu}\over{X}} \times 100

– 절대오차

측정값(또는 측정값들의 평균값)을 x, 참값을 X라 할 때 절대오차 \epsilon은 다음과 같습니다.

\tag{2} \epsilon = x-X

– 상대오차

상대오차 또는 백분율오차는 다음과 같습니다.

\tag{3} 상대오차(\%) = {{|\epsilon|}\over{X}} \times 100

– 표준오차 SEM

바로 이 글에서 다룰 내용입니다.

1-2 정밀도

정밀도는 측정값들의 퍼짐 정도를 나타내며, 표기 방법은 아래 네가지 방법 중 하나를 적용하면 됩니다.

– 상대표준편차

측정값의 표준편차를 \sigma, 평균값을 \mu라 했을 때 상대표준편차 \% \mathrm{RSD}는 다음과 같습니다.

\tag{4} \% \mathrm{RSD} = {{\sigma}\over{\mu}} \times 100

– 측정값의 범위

측정값의 최대값인 x(max)과 최소값인 x(min)으로 range를 구합니다.

\tag{5} Range = x(\mathrm{max})-x(\mathrm{min})

– 평균편차

측정값을 x, 측정값의 평균을 \mu라 했을 때, 평균편차 \bar d는 아래 식으로 계산합니다.

\tag{6} \bar d = {{\Sigma |x-\mu|}\over{n}}

– 표준편차

모집단 표준편차 \sigma 또는 표본 표준편차 s는 아래 식으로 계산합니다.

\begin{align}
\tag{7}
\sigma = \sqrt{{\Sigma (x-\mu)^2}\over{n}}= \sqrt{Var[x]} ~ (모집단 표준편차) \\
\end{align}

\tag{8} s = \sqrt{{\Sigma (x-\mu)^2}\over{n-1}}  ~ (표본 표준편차)

(7)식에서 Var[x]는 모집단의 분산을 뜻합니다.

2. 표준 오차 도입 배경

앞에서 이미 이해하셨겠지만 정확도는 오차로 평가되고, 정밀도는 편차로 평가됩니다.

그런데 여기서 한가지 궁금한 사항이 있어요. 정확도에서 오차를 구하기 위해서는 참값이 필요한데 현실적으로 참값을 모르는 경우가 많아요.

예를 들어 어느 물체가 있다고 하겠습니다. 그 물체의 질량을 알고 싶어 저울을 이용해 측정했다고 생각해봐요. 아래와 같이 총 6번 측정했어요.

12.0, 12.3, 11.8, 11.9, 12.4, 12.1 kg

위 측정 결과로부터 정밀도와 관련된 편차는 계산할 수 있습니다. 물론 평균값 \mu도 계산할 수 있어요.

그런데 정확도와 관련된 오차는 어떻게 구할 수 있을까요? (1), (2), (3)식에서와 같이 정확도를 구하기 위해서는 참값을 알아야 하는데 참값을 알지 못하는 거죠.

이러한 문제 상황에서 출발한 것이 표준오차입니다.

즉, 표준오차 개념을 이해하면 참값, 그리고 참값이 존재할 범위와 확률을 구할 수 있어요.

3. 표준 오차 개념

어느 물체의 질량을 측정하기 위해 저울을 이용합니다. 이때 A라는 사람이 자신이 갖고 있는 저울을 이용해 물체의 질량값을 6번 측정했고, 그 측정한 값들의 세트인 X_1이 아래에 주어져 있습니다.

X_1 = {12.0, 12.3, 11.8, 11.9, 12.4, 12.1 kg}

이 값의 평균은 12.1 kg 인데요. 이 값이 참값일까요? 아닙니다.

12.1 kg이라는 값에는 계통오차가 포함되어 있기 때문에 엄밀하게 참값이라고 할 수 없습니다. 그렇다면 계통오차를 제거하여 참값을 도출하는 방법은 무엇일까요? 바로 아래에서 설명할 표본 평균의 평균이라는 개념을 이용하면 계통오차를 제거할 수 있어요.

우선 단계적으로 표본 평균의 평균을 구하는 방법을 설명드리고 표준오차를 구체적으로 설명드립니다.

3-1. 표본 평균의 평균

• (1단계) n명의 사람들이 자신의 저울을 이용해 각각 물체의 질량을 n번 측정한다고 생각하세요. 그러면 n개의 측정값 세트인 표본 X_1, X_2, X_3, \cdots, X_n이 얻어지겠죠. 이때 주의할 것은 n명의 사람들은 자신의 저울을 갖고 있는 것이고, 동일한 물체를 돌려가며 각각 n회 측정했다고 생각해야 합니다. 절대로 동일한 저울 하나를 두고 사람들이 줄서서 각각 n회 측정한 개념이 아니에요. 그래야만 논리적으로 각각이 갖는 계통오차가 서로 상쇄됩니다.
  
• (2단계) 각 측정값 세트, 즉 표본의 평균을 내세요. 그러면 \bar{X}_1, \bar{X}_2, \bar{X}_3, \cdots, \bar{X}_n들이 구해질 것입니다. 이것이 표본 평균입니다.
  
• (3단계) 2단계에서 구한 표본 평균들의 평균을 구하세요. 그 값을 k라고 할께요. 이 값이 표본 평균의 평균값입니다.

(3단계)에서 구한 표본 평균의 평균 k는 n개의 표본 평균으로부터 구한 평균값이기 때문에 각 표본이 갖는 계통오차들이 서로 상쇄되어 제거된 것으로 볼 수 있습니다.

즉 어느 표본에서 양의 계통오차가 발생했다면 다른 표본에서는 같은 크기의 음의 계통오차가 발생되어 서로 상쇄되어 제거되고 결국 참값만 남게 되는 원리이죠. 물론 많은 표본을 운영할 수록 참값에 가까워집니다.

그러므로 표본 평균의 평균 k를 개념적으로 참값으로 간주합니다.

3-2. 표준 오차 정의

표준 오차 SEM은 표본 평균의 표준편차로 정의됩니다. 즉 참값 k로부터 표본 평균들이 얼마나 흩어져 있는가를 평가하는 척도인 거죠.

그러므로 (7)식의 모집단 표준편차 공식을 그대로 사용하는데요. 다만 변수 x 대신에 표본 평균 \bar{X}_1, \bar{X}_2, \bar{X}_3, \cdots, \bar{X}_n가 적용되고, 평균값 \mu 대신에 표본 평균의 평균 k가 적용됩니다.

이를 식으로 표현하면 다음과 같습니다.

\begin{align}
\tag{9} SEM &= \sqrt{{\Sigma (\bar{X} - k)^2}\over{n}} \\[10pt]
&=\sqrt{Var{\bar{\big[ X \big]}}}
\end{align}

(9)식에서 Var\big[ \bar{X} \big]를 표본 평균의 분산이라고 합니다.

4. 표준 오차 공식과 모집단 표준 편차 추청

(9)식을 이용하면 표준 오차 SEM을 구할 수 있습니다. 물론 수많은 반복 실험을 통해 표본 평균 \bar{X}를 구한 후 참값 k를 구해야 겠죠.

그러나 현실에서는 그렇게 수많은 표본들을 구하는 것이 쉽지 않아요.

예를 들어 어떤 실험을 통해 단지 하나의 실험값 세트만 있을 때에는 표준 오차를 어떻게 구할 수 있을까요?

이럴 때는 바로 측정값으로부터 모집단의 표준 오차 \sigma를 추정하는 방법을 사용합니다. 구체적인 내용은 아래에 계속 설명드립니다.

4-1. 표준 오차 공식의 일반화

일단 통계학적인 수식 처리과정을 거쳐 보겠습니다. 흐름은 위에서 개념 설명할 때와 같습니다.

n명의 사람들이 각각 n회씩 측정합니다. 그러면 i번째 측정세트는 표본 X_i이고 이러한 표본들이 n개가 있는 것이죠.

한 표본에서의 평균인 표본 평균 \bar{X}는 아래와 같이 구해집니다.

\tag{10} \bar{X}={{1} \over {n}} \sum_{i=1}^{n} X_i

표준 오차의 정의 식인 (9)식에서 근호안에 있는 분산을 우선 표현하면 다음과 같습니다.

\begin{align}
\tag{11} Var \big[ \bar{X} \big] &= Var \Big[ {{1}\over{n}} \sum_{i=1}^n X_i \Big]\\[10pt]
&= Var \Big[ {{1}\over{n}} (X_1 + \ldots + X_n) \Big] \\[10pt]
&= {{1}\over{n^2}} Var[X_1 + \ldots + X_n] \\[10pt]
&= {{1}\over{n^2}} \times \big( n \times Var[X] \big) \\[10pt]
&= {{1}\over{n}} Var[X]
\end{align}

(11)식 전개 과정에서 다음의 성질이 이용되었습니다.

\tag{12} Var[aX+b] = a^2 Var[X]

\begin{align}
\tag{13} Var[X_1 + \ldots + X_n ] &= Var[X_1] + \ldots + Var[X_n] \\[10pt]
&= n \times Var[X]
\end{align}

이때 (13)식에서 Var[X]는 모집단의 분산을 뜻합니다. 이것은 n이 크다면 모집단에서 추출되는 각 표본의 분산은 모집단의 분산과 같다는 통계학적 의미가 반영된 것입니다.

(11)식을 이용하여 (9)식의 표준 오차 SEM을 정리하면 아래와 같습니다.

\begin{align*}
SEM &= \sqrt{Var[\bar{X}]} = \sqrt{{{1}\over{n}} Var[{X}]} \\[10pt]
&= \sqrt{{\Sigma({x} - \mu)^2}\over{n\times n}} \\[10pt]
&= {{\sigma}\over{\sqrt{n}}} 
\end{align*}

결국 표준 오차 SEM은 모집단의 표준편차 \sigma를 \sqrt{n}으로 나누면 간단히 구해집니다.

그런데 문제는 모집단의 표준편차 \sigma를 어떻게 구하느냐인데요.

보통은 모집단의 표준편차를 구하지 못하니 측정값들의 표준편차 s를 구하고 이것을 모집단의 표준편차 \sigma의 추정치로 활용하게 됩니다.

결국 실험세트가 단지 하나인 경우에 SEM은 아래와 같이 구합니다.

\tag{14} SEM = {{s}\over{\sqrt{n}}}

4-2. 표준 오차 SEM을 이용한 측정값의 표기

(9)식 또는 (14)식으로 구한 표준오차 SEM을 이용해 측정값들의 대표값을 표기하는데요.

바로 아래 (15)식과 같이 “평균값\pm(Z-score \times SEM)”의 형식을 사용합니다.

\tag{15} \bar{X} \pm Z{{s}\over{\sqrt{n}}}

이 식에서 Z는 90% 신뢰수준의 경우 1.65, 95% 신뢰수준의 경우 1.96, 99% 신뢰수준의 경우 2.58을 적용합니다. 연구에서는 보통 95% 신뢰수준을 적용합니다.

정규분포표의 Z값을 적용하는 것은 실험세트의 측정값이 100개 이상인 경우에 보통 적용합니다. 만일 측정값이 100개 미만인 경우에는 (15)식에서 Z대신에 t분포값이 들어갑니다.

예를 들어 95% 신뢰수준에서 측정값이 5개 뿐인 경우에는 아래 (16)식과 같이 표기합니다. t분포표 보는 방법은 아래 예제를 참고하시기 바랍니다.

\tag{16} \bar{X} \pm 2.776 {{s}\over{\sqrt{n}}}

5. 계산 방법 예제

• 표준 오차 계산 방법을 예제로 알아보아요.

6. 표준 오차 개념, 공식, 계산 방법의 정리

• 표준 오차란 표본 평균의 표준편차이다.
• 오차 용어를 사용하는 이유는 표준 오차 공식에서, 표본 평균의 평균값 k를 참값으로 간주하고 표본 평균과의 차이인 오차 개념이 적용되기 때문이다.
• 표준오차는 측정값의 표준편차를 구한 후 그 값을 \sqrt{n}으로 나누면 간단히 구할 수 있다.
• 반복실험에 의해 측정값이 100회 이상인 경우에는 정규분포의 신뢰수준에 따른 측정값 표기방식을 따르고 100회 미만인 경우에는 t-분포표에 따른 표기방식을 따른다.
• 만일 측정값이 단지 5개 미만이라면 무리해서 표준 오차를 구하는 것보다는 평균치와 표준편차를 그대로 보여주는 것이 좋다.

Related posts.

측정 – 정확도와 정밀도의 개념, 계산, 표기 방법 표준 오차 계산 예제 자동차 사양서 – 토크, 등급, CO2, 정부 공인 표준 연비 등의 제원 설명 자동차 배기량(displacement)의 정의와 어떻게 계산하는지를 알아볼까요? 자동차의 최고출력 개념과 이 값이 크면 무엇이 좋은가? 인공지능 기술 분야. 중소기업은 머신러닝 중심, 그럼 대기업은? 밀도 정의와 활용 사례 단위 표기 오류가 있는 도쿄 올림픽 중계방송이 불편한 이유