딥러닝 모델 Ensemble 할 때 주의점

딥러닝 모델 ensemble 할 때 주의점이 무엇일까? 

 

그냥 무조건 성능이 나온 모델을 다 때려박을까? 

 

아니다. 모든 모델의 CrossValidation 과정을 통해 해당 validation accuracy 와 경우에따라 F1 Score 을 먼저 얻는다. 

 

이를 통해 상위 모델들을 얻고, 또 복잡한 모델, 간단한 모델들을 섞어줘서 과적합을 방지한다. 

 

뭐 앙상블은 뽑기 운이라고는 하지만, 실험 결과 모델의 숫자가 많아질 수록 성능이 주로 향상하는 것 같다. 

당연히 일정 이하의 모델은 넣을 필요가 없다.