머신러닝 :: 머신러닝 모델(SVM, KNN, 의사결정 나무, 랜덤 포레스트)

머신러닝 모델(SVM, KNN, 의사결정나무, 랜덤 포레스트)

---

1. SVM(Support Vector Machine)

 · 아래 그림의 오른쪽 그래프처럼 각 서포트 벡터를 구분할 수 있는 축을 그리고 margin을 계산한다.

   SVM에서는 margin이 최대가 되도록 모델을 학습시킨다.

※ 출처 : https://m.blog.naver.com/PostView.naver?isHttpsRedirect=true&blogId=samsjang&logNo=220969601609

· 위의 그림에서는 x1, x2 두가지의 특징으로 구분했을 경우이지만, 두개의 특징으로도 구분이 되지않는 경우가 생길 수 있다. 이 때에는 x3, x4, ...의 특징을 추가하여 feature(특성)를 3차원 이상으로 만들어줄 수 있다. Feature가 늘어날 수록 classifier의 성능은 높아진다.

 

2. KNN(k-Nearest Neighbors)

 · 가까운 거리 내의 개체를 보고 비슷한 특성을 가진 개체끼리 군집화하는 알고리즘

※ 출처 : https://www.jcchouinard.com/k-nearest-neighbors/

3. 의사결정나무(Decision Tree)

 · 각 조건을 지나면서 Yes/No를 판별하고, 결과에 따라 추론하는 알고리즘을 말한다.

4. 랜덤 포레스트(Random Forest)

 · 위에서 본 의사결정나무를 여러개 합친 모델을 말한다. 여러 의사결정나무들이 결정하고 마지막에 최종 투표(Majority-Voting)를 통해 결론을 낸다.

※ 출처: http://www.joics.org/gallery/ics-1467.pdf