지능화된 사이버 공격을 효과적으로 탐지하기 위해 기계학습과 딥러닝 기술을 활용한 네트워크 보안 기술이 중요해지고 있다. 본 논문에서는 침입 탐지 시스템의 성능을 향상시키기 위해 다양한 조건으로 오버샘플링을 수행하여 지도학습 기반의 딥러닝 분류 모델에 대한 연구를 수행하였다. 정상 데이터에 비해 공격 클래스별 샘플 수가 현저히 적은 클래스 불균형 문제를 지닌 데이터셋은 다중 분류 모델의 성능에 큰 영향을 미친다. 본 연구에서는 클래스 불균형 문제를 가진 NSL-KDD 데이터셋에서 세 가지 오버샘플링 기법(VAE, SMOTE, GMM)을 적용하여 DNN과 CNN 분류 모델로 성능 평가했을 때의 차이를 확인했다. 또한 오버샘플링 기법들을 결합하여 성능을 평가하고, 샘플 수가 큰 클래스는 언더샘플링을 적용하여 분류 모델의 성능을 비교하였다.
