머신러닝 모델은 데이터에서 최적의 정답을 맞히기 위해 수많은 수치(파라미터)를 학습합니다. 머신러닝 모델의 학습을 위한 기본 방법으로 경사하강법(Gradient Descent) 과 역전파(Backpropagation) 라는 두 개의 강력한 알고리즘이 있습니다. 하지만 실제 데이터와 복잡한 모델에서는 단순한 경사하강법만으로는 충분하지 않습니다. 그래서 더 빠르고 안정적으로 학습을 돕는 다양한 최적화 기법들이 개발되었습니다.🏔️ 경사하강법이란?경사하강법은 모델이 예측한 값과 실제 값의 차이(오차)를 줄이기 위해 모델 파라미터를 조금씩 수정하는 방법입니다.📌 핵심 개념손실 함수(Loss Function): 얼마나 틀렸는지를 수치로 나타냄예: 평균제곱오차(MSE), 교차 엔트로피 등파라미터(Parameter..
