서포트 벡터 머신(SVM)

서포트 벡터 머신(SVM)서포트 벡터 머신(Support Vector Machine, SVM)은 선형, 비선형, 분류, 회귀 등 다목적으로 사용할 수 있는 머신러닝 모델이다. 복잡한 분류문제에 특히 잘 맞으며 작거나 중간크기의 데이터셋에 적합하다. 1. 선형 SVM 분류선형 SVM 분류기는 클래스들 사이에 결정경계선을 긋되, 그 선이 모든 클래스로부터 최대

로지스틱 회귀와 소프트맥스 회귀

로지스틱 회귀와 소프트맥스 회귀1. 로지스틱 회귀회귀 알고리즘을 이진 분류에 적용하는 것이 로지스틱 회귀이다. 선형 회귀문제와 같이 입력 특성에 가중치를 곱하고 편향을 더해주지만, 그대로 출력하지 않고 그 값에 로지스틱 함수를 적용한 값을 출력한다. 로지스틱 함수에 속하는 함수들 중 가장 많이 쓰이는 시그모이드 함수의 식은 아래와 같으며, \sigma (

선형 모델의 과대적합(Overfitting) 감소시키기 - 규제(Regularization)

선형 모델의 과대적합(Overfitting) 감소시키기: 규제(Regularization)모델의 자유도를 줄이면 훈련데이터에 과대적합되는 것을 방지할 수 있다. 예를 들어 다항회귀 모델에서는 다항식의 차수를 감소시키는 것이다. 선형회귀 모델에서는 보통 모델의 가중치를 제한하는 방법을 사용한다. 이 방법으로는 크게 다음 세 가지가 있다. 1. 릿지(Ridge

인공지능을 위한 수학

파이썬 라이브러리를 활용한 머신러닝

텐서플로와 머신러닝으로 시작하는 자연어 처리

케라스 창시자에게 배우는 딥러닝

핸즈온 머신러닝(Hands on ㄴachine Learning with Scikit-Learn & TensorFlow)

선형회귀 비용함수(MSE)를 최소화하는 하이퍼파라미터 탐색(모델 훈련) 방법

선형회귀 - 비용함수(MSE)를 최소화하는 하이퍼파라미터 탐색(모델 훈련) 방법1. 정규방정식 \hat{\theta} = \big(\bold{X}^T\cdot \bold{X}\big)^{-1}\cdot \bold{X}^T\cdot \bold{y} 장점 단점 샘플 개수 $m$에 대해 계산복잡도가 낮다. $O(m)$ 특성 개수 $n$에 대해 계