AI-ML
-
[pytorch] Dropout 알아보기AI-ML 2023. 8. 17. 07:05
- 목차 키워드.- Regularization- Dropout 들어가며.Deep Learning 에서 Dropout 은 Regularization 의 한가지 방식입니다.Dropout 은 Input Tensor 의 일부 값을 0으로 변경시킵니다.이는 뉴럴 네트워크에서 일부 뉴런을 무효화시키는 결과를 만들어내는데요.예를 들어, 아래의 이미지처럼 뉴럴 네트워크의 일부 뉴런이 제외됩니다. 그럼 전체 네트워크에서 일부 뉴런이 제외됨으로써 얻을 수 있는 효과는 무엇일까요 ?이는 Overfitting & Regularization 과 관련됩니다. Overfitting.Overfitting 은 모델이 학습데이터를 학습할 때에 학습 데이터에 너무 과적합되는 상태를 의미합니다.아래 이미지가 Overfitting 을 잘 설..
-
Association Rules (연관규칙) 이해하기AI-ML 2023. 5. 16. 20:51
- 목차 소개 * Association Rules (연관 규칙) 은 큰 규모의 데이터셋에서 어떠한 규칙을 찾는 데이터 마이닝 기법입니다. 동일한 카테고리에 속하는 여러 아이템들은 서로 연관이 있다는 보편적인 방식으로 관계를 규정하는 것이 아니라 아이템들의 소비/사용되는 패턴으로 아이템들을 연관짓습니다. "카테고리 -> 아이템" 으로 이어지는 Top-Down 방식이 아니라 "아이템 -> 연관 관계 규칙" 으로 이러지는 Bottom-Up 방식으로 연관 규칙을 찾아갑니다. 예를 들어, - 기저귀를 산 고객들에게 유아 용품을 판매 - 신발을 장바구니에 담은 고객들에게 양말이나 의류를 판매 더 나아가서 월마트의 기저귀-맥주 케이스처럼 기저귀를 구매하는 고객들에게 맥주를 추천할 수 있습니다. 즉, 아이템들의 연관 ..
-
[ pytorch ] MaxPool2d, AvgPool2d 알아보기 ( Pooling Layer )AI-ML 2023. 3. 27. 12:21
- 목차 키워드.- Pooling Layer- MaxPool2d- AvgPool2d 들어가며.이번 글에서는 CNN 의 Pooling Layer 를 구성하는 MaxPool2d 와 AvgPool2d 모듈에 대해서 알아보도록 하겠습니다. 함께 보면 좋은 글.https://westlife0615.tistory.com/749 pytorch - Conv2D 알아보기 ( CNN )- 목차 키워드.- CNN- Convolution- conv2d 들어가며.CNN 을 구성하기 위해서 사용되는 nn.Conv2d 의 구체적인 동작 방식에 대해서 알아보려고 합니다. 함께 보면 좋은 글.https://westlife0615.tistory.com/765 Crosswestlife0615.tistory.com Pooling Laye..
-
[pytorch] torch.cat 알아보기AI-ML 2023. 3. 12. 21:08
- 목차 키워드.- pytorch- concatenate 들어가며.numpy 의 concatenate 와 Pandas 의 concat 함수처럼 pytorch 에도 cat 이라는 함수가 제공됩니다.위 함수들은 공통적으로 두 객체를 병합하는 기능을 제공합니다.예를 들어, 아래의 예시 코드는 numpy, pandas, pytorch 에서 두 객체들을 병합하는 예시입니다.import numpy as npimport pandas as pdimport torcha_value = [ [1, 2, 3, 4]]b_value = [ [5, 6, 7, 8]]print(np.concatenate([ np.array(a), np.array(b) ], axis=0))print(pd.concat([ pd..
-
[pytorch] nn.Linear 알아보기AI-ML 2023. 2. 20. 06:52
- 목차 키워드.- pytorch- Linear- Dot Product 들어가며.pytorch 는 Neural Network 상에서 Linear Layer 를 구성할 수 있도록 관련 모듈을 제공합니다.torch.nn 모듈 내부의 Linear 클래스가 존재하며, 통상적으로 nn.Linear 와 같은 형식으로 사용됩니다.nn.Linear 모듈은 Input Tensor 와 nn.Linear 의 weight 를 Dot Product 한 결과를 출력합니다.그래서 nn.Linear 는 곧 Dot Product 를 수행하는 수학적인 함수라고 생각하셔도 무방합니다.한번 예를 들어볼까요 ?아래 예시는 A 행렬과 B 행렬의 Dot Product 와 Linear Transformation 을 적용한 결과들입니다.A 와 B ..
-
[pytorch] DataLoader 알아보기AI-ML 2022. 7. 18. 03:48
- 목차 키워드.- DataLoader- Dataset- Iteration 들어가며.pytorch 는 학습할 데이터의 관리를 위해서 Dataset 와 DataLoader 클래스를 제공합니다.Dataset 클래스는 학습 또는 테스트를 위한 데이터를 수월하게 관리하기 위한 인터페이스를 제공합니다.예를 들어서 데이터의 총 갯수를 알려주는 len 함수, Iteration 을 위해 개별 데이터를 획득할 수 있는 getitem 함수 등이 제공됩니다.즉, 데이터 관리를 손쉽게 하기 위한 유틸리티 함수들이 첨가된 클래스라고 생각하시면 됩니다.이러한 Dataset 과 더불어 DataLoader 는 Iteration 을 위한 인터페이스가 제공됩니다.흔히 epoch, batch 등과 같이 용어들이 사용되죠 ?이는 학습 과정..