Machine Learning (5) 썸네일형 리스트형 [Machine Learning] Bias-Variance Tradeoff Underfitting and Overfitting 모델을 학습시키다보면 여러 문제들을 직면하게 됩니다.언더피팅과 오버피팅은 모델에 있어서 중요한 현상이라고 볼 수 있습니다. 언더피팅(과소적합)은 지나치게 단순한 모델로 인해 학습데이터에서도 성능이 떨어지는 현상을 말합니다.모의고사와 수능 전부 형편없는 성적을 받는 경우입니다 학습 반복횟수가 너무 적은 경우모델이 너무 단순한 경우 발생할 수 있습니다. 오버피팅(과대적합)은 학습데이터에서는 뛰어난 성능을 보이지만,테스트 데이터에서는 성능이 떨어지는 현상을 말합니다.모의고사는 잘 봤는데, 수능에서는 성적이 형편없는 경우입니다. 모델이 너무 복잡한 경우학습데이터가 부족한 경우발생할 수 있습니다. 각 모델의 최고차수에 따른 데이터 적합도입니다.degree 0의 .. [Machine Learning] Logistic Regression 회귀모델은 연속적인 값(집값예측과 같은)을 예측하는데 사용되곤 합니다. 하지만 어떤 종양이 암인지 아닌지를 예측해야되는 상황도 우리 주변에 있습니다.이때 사용되는것이 로지스틱 회귀입니다. 로지스틱 회귀는 데이터가 어떤 범주(category)에 속할 확률을 0에서 1사이의 값으로 예측하는 모델입니다.확률에 따라 가능성이 더 높은 범주에 속하는 것으로 분류 해주는 것이죠 선형회귀의 출력값은 -∞ ~ +∞ 사이에 있지만분류 문제의 출력은 0 또는 1입니다. 분류 문제에서는 값이 아니라 맞거나 틀릴 확률을 예측해야합니다. LogOddsOdds 는 사건이 발생할 확률을 발생하지 않을 확률로 나눈 것입니다.LogOdds는 Odds에 Log를 취한 값입니다.우리가 구하는 값은 사건이 발생할 확률로, 위 식을 P(y .. [Machine Learning] Gradient Descent Gradient Descent 회귀모델은 가중치(w)와 편향(b)를 찾는 것이 중요하다고 했습니다.이를 찾는 방법 중 하나가 Gradient Descent(경사하강법)입니다. 경사하강법은함수의 값이 낮아지는 방향으로 각 독립변수들의 값을 변형시키면서함수가 최솟값을 갖도록 하는 탐색 방법입니다.위는 비용함수를 미분한 그래프로, 그래프의 최소점이 모델에 가장 적절한 값이 됩니다.우리는 이 그래프의 기울기가 0이 되는 지점을 찾아 비용이 최소가 되는 지점을 찾아야 합니다. 경사하강법은 아래와 같은 수식을 사용합니다. x_k : 현재 step에서의 x 값x_k+1 : 다음 step에서의 x값dy/dx(x_k) : 현재 x값에서의 기울기alpha : step size를 결정하는 파라미터 alpha를 통해 수렴속도.. [Machine Learning] Regression 앞서 우리는 머신러닝이 무엇인지에 대해 알아봤습니다.이중 지도학습 방법에서 사용되는 회귀모델에 대해 이야기 해보겠습니다. 회귀(Regression)는 주어진 입력변수(독립)와 추력변수(종속, 예측하려는 값) 사이의 관계를 모델링하는 방법입니다.보통 독립변수와 종속변수 사이의 수학적 함수로 표현됩니다. 선형회귀(Linear Regression)는 독립 변수들과 종속 변수 간의 관계를 예측할 때, 즉 x와 y의 관계를 예측할 때, 그 사이 관계를 선형관계라고 가정을 하고 모델링하는 방법입니다. 보통 인자와 결과 간의 대략적인 관계 해석이나 예측에 활용됩니다. y = wx + b 형태로 독립변수가 1개일 경우, 단순선형회귀,y = w_1x_1 + w_2x_2 + ... + w_nx_n + b 형태로 독립변수가.. [Machine Learning] Machine Learning? 우리는 챗 지피티, 제미나이 등 다양한 AI 도구를 볼 수 있습니다.직접 찾아보지 않아도 무언가 궁금한게 있다면 사용자들에게 정리해서 알려주기도 하고, 필요한 코드를 작성해주기도 합니다. 머신러닝은 이러한 인공지능의 하위 개념으로, 컴퓨터가 명시적으로 프로그래밍 되지 않고도 학습할 수 있는 능력을 이야기 합니다. 데이터의 패턴을 스스로 학습해 예측값을 도출해 내는 것이죠. 머신러닝은 크게 지도학습[Supervised Learning], 비지도학습[Unsupervised Learning], 강화학습[Reinforce Learning]으로 나눌 수 있습니다. 지도학습은 정답이 있는 데이터를 활용해 데이터를 학습하는 방법으로, 모델에게 정답지를 준 후, 이를 바탕으로 일련의 패턴을 찾아 학습되지 않은 inpu.. 이전 1 다음
