후보 표집

1 개요

candidate sampling

候補 標集, 候補 sampling

후보 표집, 후보 샘플링

• 학습 도중 소프트맥스 등을 사용하여 모든 긍정 레이블에 대한 확률을 계산하는 최적화
• 부정 레이블의 경우 무작위 샘플에 대해서만 계산한다.
• 예를 들어 레이블이 beagle 및 dog인 예가 있으면 후보 샘플링에서 beagle 및 dog 클래스 출력에 대해 예측되는 확률과 해당 손실 항을 계산하고 나머지 클래스(cat, lollipop, fence)의 무작위 부분집합에 대해서도 계산한다.
• 이 방식이 성립하는 이유는 포지티브 클래스가 항상 적절한 긍정 강화를 받는 한 네거티브 클래스는 빈도가 적은 부정 강화로부터 학습할 수 있기 때문이며, 이는 실제로 경험적으로 관찰되는 사실입니다.
• 장점: 모든 부정에 대한 예측을 일일이 계산하지 않으므로 연산 효율이 높다.
• 전체 소프트맥스와 대비되는 개념이다.

2 같이 보기

• 후보
• 표집
• 소프트맥스
• 슬라이스 샘플링

3 참고

• https://developers.google.com/machine-learning/glossary?hl=ko#%ED%9B%84%EB%B3%B4-%EC%83%98%ED%94%8C%EB%A7%81candidate-sampling