[LG Aimers 교육] Module.2 지도학습 -Part5. Advanced Classification

Support Vector Machine

가장 큰 margin 값을 가지는 hyper plane을 찾아 설정

= 가장 가까운 positive sample ~ negative sample

 

Optimization

적합한 margin 값을 찾기 위한 최적화 방식

 Hard margin SVM : margin 사이에 아무것도 없음( 좁은 마진)

 Soft margin SVM : Hyperplane에 걸려있는 에러를 용인(넓은 마진)

 

Problem of SVM

데이터가 선형으로 분리되지 않는 경우에는?

 → Kernel transfrom이용 : 차수를 높여 linearly sepable하게 만드는 과정을 통해 non-linear data도 분류 가능!

 

Artificial Neural Network(ANN)

- non-linear classification model

   : signal space에서의 복잡한 신호 패턴을 정확히 분류할 수 있음

     복잡한 형태로 분포하는 신호를 효과적으로 분류하기 위해 여러개 계층을 쌓아가며 연산하여 잘 분류할 수 있음

- deep neural network의 기본

http://www.deeplearningbook.org

Deep Learning

 

Activation function : 앞서 취득한 linear combination의 score값 입력

Sigmoid neurons : gradient값이 0이되어버려 학습량이 점점 줄어드는 단점이 있음

→ ReLU : gradient값이 1로 일정함

 

Multilayer Perceptron(MLP)

 : neural network를 여러 층으로 쌓은 것

Gradient Vanishing Problem : 계층값이 많아질수록 gradient값이 적어지는 문제 = Back propagation

→ Convolutional Neural Network 를 통해 해결 가능

      CNN도 결국은 supervised learning 의 기본 원리와 같은 원리로 작동