Deep Learning 9

cs231n Lecture 11 - Detection and Segmentation

Stanford cs231n: Deep Learning for Computer Vision 강의 정리 시리즈챕터 11 - Detection and Segmentation강의 링크: YouTube#cs231n #딥러닝 #컴퓨터비전 #ObjectDetection #Segmentation #RCNN #MaskRCNN #YOLO목차CV Task 종류Semantic SegmentationClassification + LocalizationObject Detection: R-CNN 계열Object Detection: Single-Stage 방법Instance Segmentation: Mask R-CNN• • •1. CV Task 종류지금까지 강의에서는 주로 Image Classification만 다뤘다. 이..

cs231n Lecture 10 - Recurrent Neural Networks (RNN)

Stanford cs231n: Deep Learning for Computer Vision 강의 정리 시리즈챕터 10 - Recurrent Neural Networks강의 링크: YouTube#cs231n #딥러닝 #RNN #LSTM #시퀀스모델링 #순환신경망목차왜 RNN이 필요한가Vanilla RNN의 작동 원리Character-level Language ModelBackpropagation Through TimeImage Captioning: CNN과 RNN의 만남Vanishing / Exploding Gradient 문제LSTM: 게이트로 기억을 제어하다GRU와 Multilayer RNN• • •1. 왜 RNN이 필요한가지금까지 다룬 Vanilla NN이나 CNN은 구조 자체가 고정 크기 입..

cs231n Lecture 9 - CNN Architectures

Stanford cs231n: Deep Learning for Computer Vision 강의 정리 시리즈챕터 9 - CNN Architectures강의 링크: YouTube#cs231n #딥러닝 #CNN #컴퓨터비전 #AlexNet #VGGNet #GoogLeNet #ResNet목차ILSVRC라는 무대LeNet-5: CNN의 원형AlexNet: 딥러닝의 빅뱅ZFNet: AlexNet을 해부하다VGGNet: 깊이만이 답이다GoogLeNet: 효율적으로 깊게ResNet: 깊이의 한계를 허물다아키텍처 비교• • •1. ILSVRC라는 무대CNN 아키텍처의 역사를 이야기할 때 빠질 수 없는 게 바로 ILSVRC(ImageNet Large Scale Visual Recognition Challenge)..

cs231n Lecture 7 - Training Neural Networks II

Stanford cs231n: Deep Learning for Computer Vision 강의 정리 시리즈 챕터 7 - Training Neural Networks, Part II 강의 링크: YouTube #cs231n #딥러닝 #최적화 #Optimizer #SGD #Adam #Regularization #Dropout #TransferLearning 목차 SGD의 한계 Fancier Optimization: SGD를 넘어서 Learning Rate Schedule Regularization Model Ensembles Transfer Learning • • •1. SGD의 한계6강에서 SGD를 최적화의 기본으로 다뤘는데, 7강은 거기..

cs231n Lecture 6 - Training Neural Networks I

강의: Stanford CS231n - Deep Learning for Computer Vision 챕터: Lecture 6 - Training Neural Networks I 영상: YouTube 바로가기 #cs231n #딥러닝 #활성화함수 #가중치초기화 #배치정규화 #BatchNormalization #ReLU #Xavier초기화 목차 활성화 함수 (Activation Functions) 데이터 전처리 (Data Preprocessing) 가중치 초기화 (Weight Initialization) 배치 정규화 (Batch Normalization) 학습 과정 모니터링 (Babys..

cs231n Lecture 5 - Convolutional Neural Networks

Stanford cs231n: Deep Learning for Computer Vision 강의 정리 시리즈 챕터 5 - Convolutional Neural Networks #cs231n #딥러닝 #CNN #ConvolutionalLayer #PoolingLayer #ParameterSharing 목차 왜 FC로는 안 되나 CNN의 역사 Convolutional Layer Output Size 계산 Parameter Sharing과 Local Connectivity Pooling Layer ConvNet 전체 구조 1. 왜 FC로는 안 되나지금까지 다룬 Neural Network는 전부 FC(Fully-Connected) 레이어 기반이었다. 입력..

cs231n Lecture 4 - Backpropagation and Neural Networks

Stanford cs231n: Deep Learning for Computer Vision 강의 정리 시리즈챕터 4 - Backpropagation and Neural Networks#cs231n#딥러닝#Backpropagation#역전파#ComputationalGraph#NeuralNetwork목차지금까지의 흐름Computational GraphBackpropagation & Chain Rule계산 예시: (x+y)×z각 게이트의 gradient 패턴Sigmoid 예시벡터에서의 BackpropagationNeural Networks1. 지금까지의 흐름3강까지 배운 걸 한 줄로 요약하면 이렇다. score function으로 클래스 점수를 계산하고, loss function으로 W가 얼마나 나쁜지를 수치..

cs231n Lecture 3 - Loss Functions and Optimization

Stanford cs231n: Deep Learning for Computer Vision 강의 정리 시리즈챕터 3 - Loss Functions and Optimization#cs231n#딥러닝#LossFunction#Optimization#SVM#Softmax#GradientDescent목차Loss Function이란?Multiclass SVM Loss (Hinge Loss)RegularizationSoftmax Classifier (Cross-Entropy Loss)SVM vs SoftmaxOptimizationGradient Descent & SGD1. Loss Function이란?Lecture 2에서 Linear Classifier \(f(x, W) = Wx + b\)를 배웠는데, 남은 문제가 ..

cs231n Lecture 2 - Image Classification

Stanford cs231n: Deep Learning for Computer Vision 강의 정리 시리즈챕터 2 - Image Classification#cs231n#딥러닝#ImageClassification#KNN#컴퓨터비전 목차Image Classification이란?컴퓨터가 이미지를 보는 방식 (Semantic Gap)ChallengesData-Driven ApproachNearest Neighbor ClassifierK-Nearest Neighbors (KNN)Distance Metrics: L1 vs L2Hyperparameter Tuning & Validation SetKNN의 한계Linear Classification 맛보기1. Image Classification이란?말 그대로 이미지를..