베이지안
-
하이퍼 파라미터 Bayesian OptimizeML, DL & Python/ML optimize 2020. 11. 15. 18:53
1. 들어가며 베이지안 최적화(Bayesian Optimize)를 통한 하이퍼 파라미터 최적화 방법을 소개해드리겠습니다. 요즘 대회들을 많이 참가하면서 모델 선택 및 Feature engineering이 어느정도 마무리 된 후에 하이퍼 파라미터 최적화 단계에서 어떻게 하면 적절한 파라미터를 선택할 수 있을지에 대한 고민을 많이 가지고 있습니다. 그래서 다양한 파라미터 최적화 방법중에 bayesian optimization에 대해서 소개해드리겠습니다. 먼저 하이퍼 파라미터 최적화 방법론에 대해서 알아보겠습니다. RandomGrid Search Manual Search Random Search Grid Search Bayesian Search 위와 같이 다양한 최적화 방법론이 존재하고 있는데 이중에서 어떤것..