dropout
-
[pytorch] Dropout 알아보기AI-ML 2023. 8. 17. 07:05
- 목차 키워드.- Regularization- Dropout 들어가며.Deep Learning 에서 Dropout 은 Regularization 의 한가지 방식입니다.Dropout 은 Input Tensor 의 일부 값을 0으로 변경시킵니다.이는 뉴럴 네트워크에서 일부 뉴런을 무효화시키는 결과를 만들어내는데요.예를 들어, 아래의 이미지처럼 뉴럴 네트워크의 일부 뉴런이 제외됩니다. 그럼 전체 네트워크에서 일부 뉴런이 제외됨으로써 얻을 수 있는 효과는 무엇일까요 ?이는 Overfitting & Regularization 과 관련됩니다. Overfitting.Overfitting 은 모델이 학습데이터를 학습할 때에 학습 데이터에 너무 과적합되는 상태를 의미합니다.아래 이미지가 Overfitting 을 잘 설..