Backward Elimination

[기계학습] 변수 선택법 ( Feedforward Selection , Backward Elimination , Stepwise)

Machine Learning 기계학습 머신러닝 변수 선택법(모델 선택) 변수가 여러 개 일 때 최선의 변수 조합을 찾아내는 기법 변수의 수가 p개일 때 변수의 총 조합은 2^p 으로 변수 수가 증가함에 따라 변수 조합의 수는 기하급수적으로 증가 총 변수들의 조합 중 최선의 조합을 찾기 위한 차선의 방법 * 변수가 많다고 무조건 좋은 것은 아님 적합성이 높은 중요한 변수를 조합하는 것이 중요하다. 전진선택법 (Feedforward Selection) 변수를 추가해가며 성능지표를 비교해가는 방법 AIC 혹은 BIC 기준으로 성능을 비교해가며 변수를 추가할지 말지 선택하는 방법 AIC가 가장 낮은 모델을 선택한다. x3의 변수를 추가하자 성능이 나빠지기 때문에 x3는 추가하지 않고 x2 까지만 선택한다. 후..