Jmnote bot (토론 | 기여) 잔글 (봇: 신경망(을)를 인공신경망(으)로 분류 대체함) |
(→개요) |
||
| (사용자 3명의 중간 판 12개는 보이지 않습니다) | |||
| 1번째 줄: | 1번째 줄: | ||
==개요== | ==개요== | ||
;dropout | ;dilution, dropout, dropout regularization | ||
;드롭아웃, 드랍아웃 | ;드롭아웃, 드랍아웃, 드롭아웃 정규화, 드롭아웃 정칙화 | ||
* 신경망에서 [[오버피팅]]을 방지하기 위한 regularization 기법 | * 신경망을 학습시키는 데 유용한 정칙화 | ||
* 매개변수 수를 | * 신경망에서 [[오버피팅]]을 방지하기 위한 [[정칙화]](regularization) 기법 | ||
* 노드를 삭제하여 입력과 출력 사이의 연결을 | * 단일 경사 스텝이 일어날 때마다 특정 네트워크 레이어의 유닛을 고정된 개수만큼 무작위로 선택하여 삭제한다. | ||
* 드롭아웃하는 유닛이 많을수록 정규화가 강력해진다. | |||
* 이 방식은 네트워크를 학습시켜 더 작은 네트워크로 이루어진 대규모 앙상블을 모방하도록 하는 방식과 비슷하다. | |||
* 매개변수 수를 줄인다. | |||
* 노드를 삭제하여 입력과 출력 사이의 연결을 제거한다. | |||
==같이 보기== | ==같이 보기== | ||
* [[정칙화]](regularization) | |||
* [[오버피팅]] | |||
* [[컨볼루션 신경망]](CNN) | * [[컨볼루션 신경망]](CNN) | ||
==참고 | ==참고== | ||
* https:// | * {{영어위키백과|Dropout (neural networks)}} | ||
* https://developers.google.com/machine-learning/glossary?hl=ko#드롭아웃-정규화dropout-regularization | |||
* https://jmlr.org/papers/volume15/srivastava14a.old/srivastava14a.pdf 드롭아웃: 신경망의 과적합을 방지하는 간단한 방법 | |||
[[분류: 정칙화]] | |||
[[분류:인공신경망]] | [[분류:인공신경망]] | ||
2021년 5월 28일 (금) 02:33 기준 최신판
1 개요[ | ]
- dilution, dropout, dropout regularization
- 드롭아웃, 드랍아웃, 드롭아웃 정규화, 드롭아웃 정칙화
- 신경망을 학습시키는 데 유용한 정칙화
- 신경망에서 오버피팅을 방지하기 위한 정칙화(regularization) 기법
- 단일 경사 스텝이 일어날 때마다 특정 네트워크 레이어의 유닛을 고정된 개수만큼 무작위로 선택하여 삭제한다.
- 드롭아웃하는 유닛이 많을수록 정규화가 강력해진다.
- 이 방식은 네트워크를 학습시켜 더 작은 네트워크로 이루어진 대규모 앙상블을 모방하도록 하는 방식과 비슷하다.
- 매개변수 수를 줄인다.
- 노드를 삭제하여 입력과 출력 사이의 연결을 제거한다.
2 같이 보기[ | ]
3 참고[ | ]
로그인하시면 댓글을 쓸 수 있습니다.
{{ comment.name }}
{{ comment.created | snstime }}
-
{{comment.page_title}} ―{{comment.name}}