"가우시안 혼합모형"의 두 판 사이의 차이

2020년 6월 3일 (수) 20:55 판

1 개요

Gaussian mixture model (GMM)
가우시안 혼합 모델

2 비(非)베이지안 혼합모델

plate notation을 사용하여 나타낸 비(非)베이지안 혼합모델. 작은 사각형들은 고정된 파라미터들을 나타낸다. 큰 사각형들은 확률변수를 나타낸다. 색이 채워진 도형들은 알려진 값을 나타낸다. [K]는 사이즈 K인 벡터를 의미한다.

대표적인 비(非)베이지안 혼합모델은 다음과 같다.

[math]\displaystyle{ K,N = }[/math] 위와 같음
[math]\displaystyle{ \phi_{i=1 \dots K}, \boldsymbol\phi = }[/math] 위와 같음
[math]\displaystyle{ z_{i=1 \dots N}, x_{i=1 \dots N} = }[/math] 위와 같음
[math]\displaystyle{ \mu_{i=1 \dots K} = }[/math] 구성 요소 i의 평균
[math]\displaystyle{ \sigma^2_{i=1 \dots K} = }[/math] 구성 요소 i의 분산

[math]\displaystyle{ \begin{array}{lcl} z_{i=1 \dots N} &\sim& \operatorname{Categorical}(\boldsymbol\phi) \\ x_{i=1 \dots N} &\sim& \mathcal{N}(\mu_{z_i}, \sigma^2_{z_i}) \end{array} }[/math]

3 베이지안 혼합모델

plate notation을 사용하여 나타낸 베이지안 가우시안 혼합 모델. 작은 사각형은 고정된 파라미터를 뜻한다. 큰 원들은 확률 변수를 의미한다. 색이 채워진 도형들은 알려진 값을 나타낸다. [K]는 사이즈 K인 벡터를 의미한다.

베이지안 버전의 가우시안 혼합 모델은 다음과 같다.

[math]\displaystyle{ K,N = }[/math] 위와 같음
[math]\displaystyle{ \phi_{i=1 \dots K}, \boldsymbol\phi = }[/math] 위와 같음
[math]\displaystyle{ z_{i=1 \dots N}, x_{i=1 \dots N} = }[/math] 위와 같음
[math]\displaystyle{ \mu_{i=1 \dots K} = }[/math] 구성 요소 i의 평균
[math]\displaystyle{ \sigma^2_{i=1 \dots K} = }[/math] 구성 요소 i의 분산
[math]\displaystyle{ \mu_0, \lambda, \nu, \sigma_0^2 = }[/math] 공유되는 하이퍼 매개변수

[math]\displaystyle{ \begin{array}{lcl} \sigma_{i=1 \dots K}^2 &\sim& \operatorname{Inverse-Gamma}(\nu, \sigma_0^2) \\ \boldsymbol\phi &\sim& \operatorname{Symmetric-Dirichlet}_K(\beta) \\ z_{i=1 \dots N} &\sim& \operatorname{Categorical}(\boldsymbol\phi) \\ x_{i=1 \dots N} &\sim& \mathcal{N}(\mu_{z_i}, \sigma^2_{z_i}) \end{array} }[/math]

4 같이 보기

혼합 모델

5 참고

@@ 3번째 줄: / 3번째 줄: @@
 ;가우시안 혼합 모델
-[[File:bayesian-gaussian-mixture.svg|right|300px|thumb|Bayesian Gaussian mixture model using [[plate notation]].  Smaller squares indicate fixed parameters; larger circles indicate random variables.  Filled-in shapes indicate known values.  The indication [K] means a vector of size ''K''.]]
+==비(非)베이지안 혼합모델==
+[[파일:nonbayesian-gaussian-mixture.svg|250px|섬네일|[[plate notation]]을 사용하여 나타낸 비(非)베이지안 혼합모델. 작은 사각형들은 고정된 파라미터들을 나타낸다. 큰 사각형들은 확률변수를 나타낸다. 색이 채워진 도형들은 알려진 값을 나타낸다. [K]는 사이즈 ''K''인 벡터를 의미한다.]]
+대표적인 비(非)베이지안 혼합모델은 다음과 같다.
-A Bayesian version of a [[Gaussian distribution|Gaussian]] mixture model is as follows:
+:
+*<math> K,N = </math> 위와 같음
+*<math>\phi_{i=1 \dots K}, \boldsymbol\phi = </math> 위와 같음
+*<math>z_{i=1 \dots N}, x_{i=1 \dots N} =</math> 위와 같음
+*<math>\mu_{i=1 \dots K} =</math> 구성 요소 i의 평균
+*<math>\sigma^2_{i=1 \dots K} =</math> 구성 요소 i의 분산
+:<math>
+\begin{array}{lcl}
+z_{i=1 \dots N} &\sim& \operatorname{Categorical}(\boldsymbol\phi) \\
+x_{i=1 \dots N} &\sim& \mathcal{N}(\mu_{z_i}, \sigma^2_{z_i})
+\end{array}
+</math>
+==베이지안 혼합모델==
+[[파일:bayesian-gaussian-mixture.svg|right|250px|섬네일|[[plate notation]]을 사용하여 나타낸 베이지안 가우시안 혼합 모델.  작은 사각형은 고정된 파라미터를 뜻한다. 큰 원들은 확률 변수를 의미한다. 색이 채워진 도형들은 알려진 값을 나타낸다. [K]는 사이즈 ''K''인 벡터를 의미한다.]]
+베이지안 버전의 가우시안 혼합 모델은 다음과 같다.
+*<math> K,N = </math> 위와 같음
+*<math>\phi_{i=1 \dots K}, \boldsymbol\phi = </math> 위와 같음
+*<math>z_{i=1 \dots N}, x_{i=1 \dots N} =</math> 위와 같음
+*<math>\mu_{i=1 \dots K} =</math> 구성 요소 i의 평균
+*<math>\sigma^2_{i=1 \dots K} =</math> 구성 요소 i의 분산
+*<math>\mu_0, \lambda, \nu, \sigma_0^2 =</math> 공유되는 하이퍼 매개변수
 :<math>
 \begin{array}{lcl}
-K,N &=& \text{as above} \\
-\phi_{i=1 \dots K}, \boldsymbol\phi &=& \text{as above} \\
-z_{i=1 \dots N}, x_{i=1 \dots N} &=& \text{as above} \\
-\theta_{i=1 \dots K} &=& \{ \mu_{i=1 \dots K}, \sigma^2_{i=1 \dots K} \}  \\
-\mu_{i=1 \dots K} &=& \text{mean of component } i \\
-\sigma^2_{i=1 \dots K} &=& \text{variance of component } i \\
-\mu_0, \lambda, \nu, \sigma_0^2 &=& \text{shared hyperparameters} \\
-\mu_{i=1 \dots K} &\sim& \mathcal{N}(\mu_0, \lambda\sigma_i^2) \\
 \sigma_{i=1 \dots K}^2 &\sim& \operatorname{Inverse-Gamma}(\nu, \sigma_0^2) \\
 \boldsymbol\phi &\sim& \operatorname{Symmetric-Dirichlet}_K(\beta) \\