PE Notes · 확률통계
등분산성(Homoscedasticity)/다중공선성(Multicollinearity)
등분산성(Homoscedasticity): 회귀분석에서 독립변수 값과 관계없이 오차(잔차)의 분산이 일정하다는 가정 — 반대는 이분산성(Heteroscedasticity)
등분산성(Homoscedasticity): 에서 독립변수 값과 관계없이 오차(잔차)의 분산이 일정하다는 가정 — 반대는 (Heteroscedasticity). 집단 비교(t-검정·ANOVA)에서는 비교하는 집단들의 분산이 같다는 가정.
구조와 칸
| 방법 | 내용 |
|---|---|
| 잔차 대 적합값 그림 | 잔차가 0 주변에 고르게 띠 모양이면 등분산, 깔때기(부채꼴) 모양이면 이분산 |
| 검정 | 잔차 제곱을 독립변수로 회귀 → 유의하면 이분산 |
| White 검정 | 제곱항·교차항 포함, 형태 가정 적음 |
| Goldfeld-Quandt 검정 | 표본을 나눠 두 구간 잔차 분산 비교(F) |
| Levene·Bartlett 검정 | 집단 간 분산 동일성(t-검정·ANOVA 전) — Levene은 정규성에 덜 민감 |
변수 변환: 종속변수 로그·제곱근·Box-Cox 변환. 가중 최소제곱(): 분산이 큰 관측치에 작은 가중치. 강건 표준오차(Robust SE, White·HC3): 계수는 OLS 그대로, 표준오차만 보정. 일반화 선형모형(GLM): 분산 구조를 모형화(포아송·감마).
등분산성 vs 다중공선성
| 방법 | 내용 |
|---|---|
| 변수 제거 | 높은 변수 중 하나 제거(도메인 지식 기준) |
| 변수 결합 | 상관 높은 변수를 평균·지수로 합침 |
| PCA(주성분 분석)로 직교 성분 사용 — 해석력 감소 | |
| 정규화 회귀 | 릿지(L2): 계수 축소로 분산 감소, 라쏘(L1): 일부 계수를 0으로(변수 선택), 엘라스틱넷 |
| 표본 확대 | 데이터 추가로 추정 분산 감소 |
| 중심화 | 교호작용·다항항 사용 시 평균 중심화로 구조적 공선성 감소 |
| 기준 | 등분산성(위반: 이분산성) | 다중공선성 |
|---|---|---|
| 대상 | 오차항 분산 | 독립변수 간 상관 |
| 영향 | 표준오차 왜곡 → 검정·구간 오류 | 계수 분산 증가·불안정·해석 곤란 |
| 진단 | 잔차 그림·BP·White·Levene | 상관행렬·VIF·공차·조건수 |
| 대처 | 변환·WLS·강건 SE·Welch 검정 | 변수 제거·결합·PCA· |
| 단순 회귀 | 발생 가능 | 발생 불가(독립변수 1개) |
부동산 가격 모형: 면적·방 수·화장실 수 간 공선성 → VIF 진단 후 변수 정리, 가격 로그 변환으로 이분산 완화. 소득-지출 분석: 소득이 클수록 지출 분산 증가(전형적 이분산) → 로그 변환·강건 표준오차. 마케팅 믹스 모형: 동시 집행 채널 광고비 간 공선성 → 릿지 회귀.
답안은 등분산성(Homoscedasticity)/다중공선성(Multicollinearity)의 정의, 칸, 비교 축을 한 장에 닫습니다.
기술사 답안 포인트
관련 용어
관련 토픽
확률통계
통계적 가설검정과 유의수준
통계적 가설검정(Statistical Hypothesis Test): 모집단에 대한 주장(가설)이 맞는지를 표본 자료로 확률적으로 판단하는 절차
확률통계
독립표본 t-검정 vs 대응표본 t-검정
서로 다른 두 집단의 독립표본 t와 같은 대상의 전후를 보는 대응표본 t를 가르고, 합동분산·자유도· Welch와 비모수 대안을 정리합니다.
AI
편향, 과적합 해결, 최적화 알고리즘, 차원축소
공정성 관점의 편향 유형, 과적합을 데이터·모델·학습 단계에서 줄이는 기법, GD에서 Adam까지의 옵티마이저, 선형·비선형 차원축소를 구분합니다.