PE Notes · 확률통계
베이즈 정리(Bayes' Theorem)
베이즈 정리(Bayes' Theorem): 새로운 증거(데이터)가 주어졌을 때 사전 확률을 사후 확률로 갱신하는 조건부 확률 공식 — 토머스 베이즈(18세기)
베이즈 정리(Bayes' Theorem): 새로운 증거(데이터)가 주어졌을 때 을 로 갱신하는 조건부 확률 공식 — 토머스 베이즈(18세기). P(H | E) = P(E | H) × P(H) ÷ P(E).
구조와 칸
사전 지식 반영: 도메인 지식을 사전 확률로 명시. 순차 갱신: 오늘의 사후 확률이 내일의 사전 확률. 확률적 해석: 모수 자체를 확률변수로 취급 → 신용구간(모수가 구간에 있을 확률). 한계: 사전 확률 선택의 주관성, 고차원 사후분포 계산 어려움(MCMC·변분 추론 필요).
| 기준 | 빈도주의 | 베이즈주의 |
|---|---|---|
| 확률 의미 | 장기 반복 시 빈도 | 믿음의 정도 |
| 모수 | 고정된 미지값 | 확률변수(분포) |
| 사전 정보 | 사용 안 함 | 사전 확률로 반영 |
| 결과 | p-값·신뢰구간 | 사후분포·신용구간 |
| 추정 | MLE | ·사후 평균 |
| 해석 | "반복 시 구간 95%가 모수 포함" | "모수가 구간에 있을 확률 95%" |
조건부 확률 정의: P(H ∩ E) = P(H | E)P(E) = P(E | H)P(H). 따라서 P(H | E) = P(E | H)P(H) ÷ P(E). 전확률 정리: P(E) = P(E | H)P(H) + P(E | ¬H)P(¬H). 사후 오즈 = 사전 오즈 × 가능도비(Likelihood Ratio).
빈도주의 vs 베이즈주의
| 기준 | 사전 P(H) | 가능도 P(E\ | H) | 사후 P(H\ | E) | | --- | --- | --- | --- | | 시점 | 증거 전 | 가설 기준 증거 확률 | 증거 후 | | 진단 예 | 유병률 1% | 민감도 99% | 양성 시 유병 16.7% |
의료 진단: 검사 결과 해석, 유병률에 따른 양성 예측도(PPV). 스팸·문서 분류: — 빠르고 소량 데이터에도 강함. A/B 테스트(베이즈 방식): "B가 A보다 나을 확률" 직접 제시.
답안은 베이즈 정리(Bayes' Theorem)의 정의, 칸, 비교 축을 한 장에 닫습니다.