10주차

가설 검정의 논리와 오류

개요

• 유형: 강의
• 가설 검정의 기본 구조와 영가설·대립가설, 중심극한정리, 표준오차, 제1종·제2종 오류를 설명했다.
• 수업에서는 법정의 무죄추정 원칙과 음료 용량 사례를 비유로 활용해, 통계적 판단이 진실을 직접 확인하는 과정이 아니라 증거를 바탕으로 오류 가능성을 관리하는 의사결정임을 강조했다.
• 강의 일정과 관련해 시험은 12월 15일 예정, 남은 수업은 오늘을 포함해 5회이며, 시험 범위는 진도에 따라 10장까지도 어려울 수 있다고 안내했다.

핵심 개념

가설 검정의 구조

• 영가설(H₀, 귀무가설): 기본적으로 참이라고 놓고 검토하는 가설.
• 대립가설(Hₐ 또는 H₁): 영가설과 대립하는 가설. 연구자가 확인하고자 하는 주장인 경우가 많다.
• 검정의 핵심은 대립가설을 직접 증명하는 것이 아니라, 증거를 바탕으로 영가설을 기각할 수 있는지 판단하는 것이다.
• 판단은 확정적 진실의 선언이 아니다. 가설 중 하나를 선택해야 하는 상황에서 오류 가능성을 감수하며 결론을 내린다.

증거와 중심극한정리

• 통계적 판단에서 법정의 증거에 해당하는 것은 표본에서 얻은 값, 즉 통계량이다.
• 한 번 수집한 표본만으로 표본평균의 분포를 다룰 수 있는 근거로 중심극한정리를 소개했다.
• 표본에서 계산하는 분산은 표본의 값이므로, 표본분산을 구할 때는 일반적으로 자유도 $n-1$로 나눈다.
• 표본평균의 표준오차는 다음과 같이 계산한다.

$$\text{표준오차}=\frac{s}{\sqrt{n}}$$

여기서 $s$는 표본 표준편차, $n$은 표본 크기다. 표준오차는 표본평균이 표본추출에 따라 얼마나 변동하는지를 나타낸다.

오류와 유의수준

• 제1종 오류($\alpha$): 영가설이 참인데도 영가설을 기각하는 오류.
• 제2종 오류($\beta$): 영가설이 거짓인데도 영가설을 기각하지 못하는 오류.
• 영가설이 참일 때 이를 올바르게 유지할 확률은 $1-\alpha$, 영가설이 거짓일 때 이를 올바르게 기각할 확률은 $1-\beta$로 표현한다.
• 강의에서는 관습적으로 자주 사용하는 **유의수준 5%**를 예로 들며, $\alpha$를 제한해 성급한 기각을 통제하는 방식을 설명했다.
• 실제 판정은 검정통계량의 분포에서 관측값이 얼마나 이례적인지 평가해 이뤄진다. 필요에 따라 Z분포나 t분포를 사용한다.

상세 노트

법정 비유: 영가설을 기각하는 방식

• 무죄추정의 원칙을 비유로 들어, 기본 상태를 영가설로 설정하는 구조를 설명했다.
• 검사는 피고가 유죄라고 단순히 주장하는 것이 아니라, 무죄라는 영가설을 기각할 만한 증거를 제시해야 한다.
• 통계에서도 마찬가지로, 연구자의 주장이 맞다고 바로 선언하기보다 영가설이 참이라고 가정했을 때 관측된 자료가 얼마나 그럴듯한지 살핀다.

음료 용량 사례

• 제품에 표시된 용량이 750mL라고 할 때, 일부 표본이 표시량보다 적게 나왔다는 사실만으로 제품이 표시량을 지키지 않았다고 단정할 수는 없다.
• 개별 제품의 측정값에는 오차가 있을 수 있으므로, 표본의 변동과 표본평균의 불확실성을 함께 고려해야 한다.
• 중심극한정리와 표준오차를 이용하면 표본평균의 분포를 구성해 관측된 차이가 우연한 변동으로 설명될 수 있는지 평가할 수 있다.

증거의 강도와 판단

• 증거가 영가설 아래에서 매우 드물게 나타나는 결과라면 영가설을 기각할 근거가 강해진다.
• 강의의 연쇄살인범 비유에서는 일상적으로도 일어날 수 있는 행동만으로는 의심을 확정하기 어렵지만, 점점 더 설명하기 어려운 증거가 쌓이면 영가설을 유지하기 어려워진다고 설명했다.
• 이 비유의 요점은 개인의 변명이나 직감만으로 판단하는 것이 아니라, 관측된 증거가 영가설 아래에서 얼마나 가능한지를 따져야 한다는 것이다.

통계적 판단의 한계와 윤리적 함의

• 가설 검정은 현실의 진실을 직접 알려주는 절차가 아니라, 정해진 오류 기준 아래에서 결론을 내리는 방법이다.
• 따라서 실제로 옳은 결론을 항상 보장하지 않으며, 유의수준을 정해도 잘못된 판단의 가능성이 남는다.
• 강의에서는 특히 제1종 오류를 제한하는 데 초점을 두는 검정 구조가 현실의 진실이나 피해를 모두 반영하지는 않는다는 점을 강조했다.
• 통계적 결과를 해석할 때에는 결론만 제시하기보다, 어떤 가정과 기준으로 판단했는지 함께 고려해야 한다.