가우시안 혼합모형

1 개요[ | ]

Gaussian mixture model (GMM)
가우시안 혼합모형, 가우스 혼합모형, 가우시안 혼합 모델

모델 기반 클러스터링 기법 중 하나

2 비(非)베이지안 혼합모델[ | ]

plate notation을 사용하여 나타낸 비(非)베이지안 혼합모델. 작은 사각형들은 고정된 파라미터들을 나타낸다. 큰 사각형들은 확률변수를 나타낸다. 색이 채워진 도형들은 알려진 값을 나타낸다. [K]는 사이즈 K인 벡터를 의미한다.

대표적인 비(非)베이지안 혼합모델은 다음과 같다.

[math]\displaystyle{ K,N = }[/math] 위와 같음
[math]\displaystyle{ \phi_{i=1 \dots K}, \boldsymbol\phi = }[/math] 위와 같음
[math]\displaystyle{ z_{i=1 \dots N}, x_{i=1 \dots N} = }[/math] 위와 같음
[math]\displaystyle{ \mu_{i=1 \dots K} = }[/math] 구성 요소 i의 평균
[math]\displaystyle{ \sigma^2_{i=1 \dots K} = }[/math] 구성 요소 i의 분산

[math]\displaystyle{ \begin{array}{lcl} z_{i=1 \dots N} &\sim& \operatorname{Categorical}(\boldsymbol\phi) \\ x_{i=1 \dots N} &\sim& \mathcal{N}(\mu_{z_i}, \sigma^2_{z_i}) \end{array} }[/math]

3 베이지안 혼합모델[ | ]

plate notation을 사용하여 나타낸 베이지안 가우시안 혼합 모델. 작은 사각형은 고정된 파라미터를 뜻한다. 큰 원들은 확률 변수를 의미한다. 색이 채워진 도형들은 알려진 값을 나타낸다. [K]는 사이즈 K인 벡터를 의미한다.

베이지안 버전의 가우시안 혼합 모델은 다음과 같다.

[math]\displaystyle{ K,N = }[/math] 위와 같음
[math]\displaystyle{ \phi_{i=1 \dots K}, \boldsymbol\phi = }[/math] 위와 같음
[math]\displaystyle{ z_{i=1 \dots N}, x_{i=1 \dots N} = }[/math] 위와 같음
[math]\displaystyle{ \mu_{i=1 \dots K} = }[/math] 구성 요소 i의 평균
[math]\displaystyle{ \sigma^2_{i=1 \dots K} = }[/math] 구성 요소 i의 분산
[math]\displaystyle{ \mu_0, \lambda, \nu, \sigma_0^2 = }[/math] 공유되는 하이퍼 매개변수

[math]\displaystyle{ \begin{array}{lcl} \sigma_{i=1 \dots K}^2 &\sim& \operatorname{Inverse-Gamma}(\nu, \sigma_0^2) \\ \boldsymbol\phi &\sim& \operatorname{Symmetric-Dirichlet}_K(\beta) \\ z_{i=1 \dots N} &\sim& \operatorname{Categorical}(\boldsymbol\phi) \\ x_{i=1 \dots N} &\sim& \mathcal{N}(\mu_{z_i}, \sigma^2_{z_i}) \end{array} }[/math]

4 같이 보기[ | ]

5 참고[ | ]