1. 최적화란 무엇인가? 🤔최적화(Optimization)란 주어진 제약 조건 하에서 어떤 문제에 대해 ‘가장 좋은(best)’ 해답을 찾는 수학적 기법입니다.공식적으로는 의사결정 변수(우리가 조정할 수 있는 수치), 목적 함수(최대화 혹은 최소화하고자 하는 성능 지표), 그리고 제약 조건(허용 가능한 해를 제한하는 조건)으로 구성됩니다.예를 들어, 딥러닝 모델의 학습은 손실 함수를 최소화하는 비선형 최적화 문제이며, 생산 공정의 수익을 자원 제약 하에 최대화하는 문제는 선형 계획법 문제로 볼 수 있습니다.1.1 최적해와 볼록성 🔍전역 최적해(Global Optimum): 전체 가능한 해 중 목적 함수를 최적으로 만족하는 해지역 최적해(Local Optimum): 주변의 해보다 좋지만 전체 중에서는 ..
