역전파

1 개요

backward propagation of errors; backpropagation

逆傳播

역전파, 백프로퍼게이션, 오차역전법, 오차역전파법, 오류역전파 알고리즘

• 다층 퍼셉트론 학습에 사용되는 통계적 기법
• 신경망에서 경사하강법을 수행하는 기본 알고리즘
• 오차를 후방으로 전파하는 방식
• 가중치 W를 재계산할 때, 출력값에서 얻은 오차를 뒤로 전파한다.
• 우선, 정방향 단계에서 각 노드의 출력 값을 계산하고 캐시한다.

그런 다음 역방향 단계에서 그래프를 통과하며 각 매개변수를 기준으로 오차의 편미분을 계산한다.

• 동일 입력층에 대해 원하는 값이 출력되도록 개개의 weight를 조정하는 방법으로 사용된다.
• 속도는 느리지만, 안정적인 결과를 얻을 수 있는 장점이 있어 머신러닝에 널리 사용된다.

2 같이 보기

• 전파(傳播)
• 신경망
• 오버피팅
• 경사하강법
• 인공신경망
• 활성화 함수
• 에이다부스트
• 앙상블 학습법
• 다층 퍼셉트론

3 참고

• 위키백과 "역전파"
• 다음백과 "역전파"
• 네이버백과 "역전파"