모델 선택

1 개요

model selection

모델 선택, 모형 선택

• 후보 모델 집합에서 통계 모델을 선택하는 작업
• 유사한 설명력의 후보 모델이 주어지면 가장 단순한 모델이 최선의 선택일 가능성이 높다 (오컴의 면도날).

2 기준

• 정보 기준(information criterion)
  • 아카이케 정보 기준 Akaike information criterion (AIC)
  • 베이즈 정보 기준 Bayesian information criterion (BIC)
  • 이탈 정보 기준 Deviance information criterion (DIC)
  • 포커스 정보 기준 Focused information criterion (FIC)
  • 해넌-퀸 정보 기준 Hannan–Quinn information criterion
  • 카시압 정보 기준 Kashyap information criterion (KIC)
  • 와타나베-아카이케 정보 기준 Watanabe–Akaike information criterion (WAIC)
  • 확장 베이즈 정보 기준 Extended Bayesian Information Criterion (EBIC)
  • 확장 피셔 정보 기준 Extended Fisher Information Criterion (EFIC)
• 베이즈 팩터(Bayes factor)
• 교차-검증(cross-validation)
• False discovery rate
• 우도비 검정(Likelihood-ratio test)
• Mallows의 C_p
• 최소 설명 길이 minimum description length (MDL)
• 최소 메시지 길이 minimum message length (MML)
• PRESS 통계량(PRESS statistic)
• 구조적 위험 최소화(structural risk minimization)
• 단계적 회귀분석(stepwise regression)

3 같이 보기

• 특성 선택
• 그리드 탐색
• 오컴의 면도날
• 과학적 모델링
• 통계 모형 확인
• 로그-선형 분석(log-linear analysis)
• 자동화 머신러닝(AutoML)
• 단계적 회귀분석
• 탐색적 자료 분석(EDA)
• 편향-분산 트레이드오프
• Freedman's paradox
• Identifiability Analysis
• All models are wrong
• Analysis of competing hypotheses

4 참고

• 영어 위키백과 "Model selection"