[ML] Cost Function Optimization - Regularization
Regularization 정규화는 과적합 위험을 최소화하기 위해 비용 함수의 매개 변수를 제한하는 것을 목표로 한다. 선형 회귀 분석, 로지스틱 회귀 분석 및 딥 러닝에 사용할 수 있습니다. 이번에는 선형 회귀에 사용되는 함수를 보여줄 것이다. 회귀 모형을 개선하는데는 두 가지 방법이 있다. ◼ 분산을 줄임으로써 예측 정확도를 향상시킨다. ◼ 모든 feature를 사용하는 대신 독립 변수(feature)의 관련 부분 집합을 선택하여 모델 해석성을 향상시킨다. 결정 계수 R^2의 값이 높을수록 정확도가 높다. R^2은 회귀 분석(SSR)으로 설명되는 총 변동(SST)의 비율(백분율)로 아래와 같이 구할 수 있다. 하지만 R^2은 문제가 있다. 예측 변수가 추가되면 R^2가 증가하거나 일정하게 유지되지만 ..
machine learning
2022. 12. 17. 08:35
