[머신러닝4] Support Vector Machine

서포트 벡터 머신

 

서포트 벡터머신이란

데이터를 분류하는 선중에 마진을 최대화 하는 경계면을 찾아서 나눠준다

마진이란 데이터를 분류해서 나눴을때 그 분류에서 가장 먼 데이터끼리의 사이를 의미함

가장 분류가 잘 나타나는 것들끼리 선에서 멀어지고 구분하기 힘든 데이터는 클래서파이어에 가까워짐

마진을 최대화 하여 분류하기 때문에 특이한것 까지 비슷한 부류로 묶는데에 많이 사용

 

데이터를 분류하는 수많은 데이터

 

최대 마진을 찾음

 

 

---

동일하게 연봉과 나이 성별, 구매여부가 있는 데이터

이데이터를 KNN 머신러닝을 통해

새로운데이터가 나타났을때  어느쪽으로 분류를 할지 정하기

 

 

---

트레이닝 기본

1. nan확인

2.x와y분리

3.문자열이 있다면 숫자로 바궈주기

4.피셔츠케일링을 통해 값 맞춰주기

5.트레이닝 / 테스트 셋으로 분리시키기

 

[머신러닝0] 머신러닝의 기초(총정리) (tistory.com)

[머신러닝0] 머신러닝의 기초(총정리)

 

---

모델링

 

from sklearn.svm import SVC
classifier = SVC( kernel = '' )
classifier.fit(X_train, y_train)

SVC 의 커널 파라미터 종류에는 

linear’, ‘poly’, ‘rbf’, ‘sigmoid’, ‘precomputed’ 이 있다.

기본 값은 'rbf'로 설정.

이렇게 생긴 데이터를 분류할때

RBF 커널

데이터 모양에따라 커널함수를 활용해서 분류를 해주면 됨

y_pred = classifier.predict(X_test)

 

 

성능평가

from sklearn.metrics import confusion_matrix, accuracy_score

confusion_matrix(y_test, y_pred)
accuracy_score(y_test , y_pred)

커널을 라이너로 했음

실제 정확도 자체는 저번 KNN으로 했을때 보다 안좋게 나왔음

이처럼 같은 자료라도 여러 인공지능으로 하나하나 해보면서 데이터에 맞는 가장높은 인공지능을 찾아내는게 중요하다

 

커널을 RBF로 했을때

심지어 커널에 따라서도 정확도 차이가 많이나는 편이니 커널도 여러개를 해봐야 한다

 

라이너

RBF

 

서포트벡터머신 마진을 최대화 하여 분류하기 때문에 특이한것 까지 비슷한 부류로 묶는데에 많이 사용 모델링 from sklearn.svm import SVC classifier = SVC( kernel = '' ) linear’, ‘poly’, ‘rbf’, ‘sigmoid’, ‘precomputed’ classifier.fit(X_train, y_train) y_pred = classifier.predict(X_test) 성능평가 from sklearn.metrics import confusion_matrix, accuracy_score confusion_matrix(y_test, y_pred) accuracy_score(y_test , y_pred) from matplotlib.colors import ListedColormap X_set, y_set = X_test, y_test X1, X2 = np.meshgrid(np.arange(start = X_set[:, 0].min() - 1, stop = X_set[:, 0].max() + 1, step = 0.01),                      np.arange(start = X_set[:, 1].min() - 1, stop = X_set[:, 1].max() + 1, step = 0.01)) plt.contourf(X1, X2, classifier.predict(np.array([X1.ravel(), X2.ravel()]).T).reshape(X1.shape),              alpha = 0.75, cmap = ListedColormap(('red', 'green'))) plt.xlim(X1.min(), X1.max()) plt.ylim(X2.min(), X2.max()) for i, j in enumerate(np.unique(y_set)):     plt.scatter(X_set[y_set == j, 0], X_set[y_set == j, 1],                 c = ListedColormap(('red', 'green'))(i), label = j) plt.title('K-NN (Test set)') plt.xlabel('Age') plt.ylabel('Estimated Salary') plt.legend() plt.show()