본문 바로가기

딥러닝5

[PyTorch] Tensor Manipulation 🌱 TensorTensor(텐서)는 Ndarray와 유사하게 행렬이나 배열로 나타낼 수 있는 데이터의 표현 방법입니다. Tensor(텐서)에서 차원(Dimension, D)의 개수를 랭크(Rank)라고 합니다.import torchimport numpy as npdata = [[1,2,4],[3,5,9]]x_data = torch.tensor(data, dtype=torch.int64)print(x_data.dim(), x_data.shape, x_data.size())# 2 torch.Size([2, 3]) torch.Size([2, 3]) torch.LongTensorTensor는 기본적으로 데이터 타입과 크기를 지정할 수 있습니다. 여기서는 `LongTypeTensor`입니다.위 그림과 같이 Te.. 2020. 10. 7.
[CS231N] Convolution Neural Network(CNN) Convolution Neural Network(CNN)CNN은 사람의 시신경👁️을 모방한 딥러닝 구조로 2012년 이미지넷 분류 경진대회에서 AlexNet 덕분에 주목을 받기 시작했습니다.  AlexNet 논문을 자세히 보면  CNN의 특징으로 Stationarity of Statistics와 Locality of pixel dependencies가 짧게 언급됩니다.  여기서, Stationarity는 위치가 상관 없이 반복되는 특징을 말합니다. 시계열 데이터에서 시간 관계 없이 변하지 않는 특성을 말하기도 합니다. Stationarity가 왜 중요한 특징을 가지게 되냐면, 사진에서 같은 특징의 객체를 뽑아낸다고 하면 위치와 상관없이 같은 특징을 뽑아내야할 것입니다. 이때 모두 다른 특징이라고 인식해.. 2020. 9. 29.
[CS231n] Loss Functions and Optimization loss function(손실 함수) : 딥러닝을 통해 최적의 오차를 찾아야 하는데 손실함수는 예측값과 실체 레이블과의 차이를 구하는 함수입니다. 손실함수를 최소화하는 방향으로 Weight를 계산합니다.Optimizer :  손실함수를 최소화 시킬 수 있는 파라미터를 찾는 방법이다. 손실함수의 간격을 Optimizer를 통해 줄일 수 있습니다.Weight의 수정 방향을 결정하는 것을 말합니다.딥러닝에서는 Loss Function을 최소화하기 위해 Loss function을 미분하여 Gradient을 구하고 경사 하강 방향으로 파라미터 값을 찾기 위해 사용합니다.Loss Function이전, 사전적 정의에서도 보았듯이, Loss function(손실 함수)는 W값에 대해 좋은지 나쁜지를 정량화할 수 있는 .. 2020. 9. 8.
[CS231n] Image Classification Data-Driven Approach데이터 기반 접근 방법(Data-Driven Approach)는 "이것은 고양이 입니다"를 위해 엄청 많은 데이터를 수집하는 것을 의미합니다. 특정 이미지를 분류하기 위해 수많은 이미지 데이터가 필요로 합니다. 그 이유는 고양이 사진이 우리가 보는 방향, 조명에 따라 달라지기 떄문이죠. 그럼에도 이것이 고양이라는 레이블을 맞출 수 있어여 합니다. 이러한 과정은 데이터 기반 접근 방식으로 통해 해결할 수 있습니다. 데이터 기반 접근 방법은 다음과 같습니다.많은 이미지데이터와 레이블을 수집하게 되면 이것을 training a classifier(learning a model)로 학습시킨 후 새로운 이미지가 들어왔을 때 비교를 통해 인식하는 과정입니다.  데이터 기반 접근 .. 2020. 9. 7.
[CS231n] Introduction *해당 포스팅은 Standford Universiy의 CS231n: Deep Learning for Computer Vision을 참고하며 작성한 내용입니다. Computer Vision?Computer Vision은 Visual Data(시각적 데이터)에 대한 연구입니다.Computer Vision이라는 영역은 단순 컴퓨터 공학에만 있는 분야가 아니라 물리학, 엔지니어링, 생물학, 수학 등 다양한 영역에도 관련이 있는 학문입니다. 비전의 대한 역사로 60년부터 80년대까지 컴퓨터 비전에 관한 연구가 지속되었지만 단순한 수준(toy example)에 불과했고 많이 진보하지 못했다고 합니다. 객체 인식이 너무 어렵기 때문에 먼저 객체 분할(Object Segementation)에 접근하게 됩니다. Obj.. 2020. 9. 7.