윈도우 소프트웨어 퍼징에서 Intel PT 를 활용한 크래시 중복 제거 및 Root Cause 분석 지원 자동화 체계

Abstract

소프트웨어 퍼징(Fuzzing)은 보안 취약점 탐지를 위해 널리 사용되는 자동화 기법으로, 다양한 무작위 입력을 주입하여 타겟 프로그램의 비정상적인 동작을 유발하는 크래시를 식별하는데 활용된다. 그러나 퍼징 과정에서 발생하는 다수의 크래시는 수작업 기반의 분석을 필요로 하며, 이로 인해 중복 크래시 제거 및 원인 분석에 많은 시간과 노력이 소요된다. 본 연구는 Windows 환경에서 Intel Processor Trace(Intel PT)를 활용하여 퍼징 중 발생한 크래시에 대해 자동으로 중복을 제거하고, 원인과 연관된 명령어 집합인 Root Cause Seed를 제공함으로써 분석 효율을 높이는 자동화된 통합 퍼징-분석 체계를 제안한다. 제안 시스템은 WinAFL 프레임워크의 Intel PT 모드를 기반으로 개선되어 구현되었으며, 퍼징 단계에서는 크래시 발생 시점의 실행 컨텍스트, PT 트레이스 데이터, 프로세스 덤프를 자동으로 수집한다. 이후 분석 단계에서는 콜스택 기반의 1차 중복 제거, Intel PT를 활용한 명령어 수준(instruction-level)의 실행 흐름 복원, backward slicing을 통한 Root Cause Seed 추출 및 이를 활용한 2차 중복 제거를 수행한다. 본 논문에서는 제안 시스템의 구조와 구현 과정을 구체적으로 기술하고, 실제 Windows 소프트웨어 퍼징 환경에 적용한 시나리오를 통해 분석 자동화 효과와 실용 가능성을 검증하였다.