[WIP] rePIU 진행 상황: Native AOT 동적 번역 및 성능 향상

그동안 rePIU는 Legacy 모드에서의 기본 구동과 주변 HLE(High-Level Emulation) 환경 구축에 집중해 왔다. 하지만 원본 x86 명령어를 모두 Single-step Trap으로 처리하는 방식은 오버헤드가 매우 크다. 이를 극복하기 위해 최근 진행된 작업 브랜치에서는 Native AOT (Ahead-of-Time) 동적 번역기를 도입하고 고도화하는 데 집중했다.

이번 포스트에서는 지난 포스팅 시점 이후로 main 브랜치에 반영된 AOT 관련 주요 변경 사항과, 이를 통해 얻은 실제 성능 차이를 비교한다.

주요 진행 사항 (Commits Summary)

지난번 이후 누적된 주요 작업들은 다음과 같다.

1. AOT 동적 번역기 도입 및 코드 캐시 구축
   • DOS/4GW 기반 코드를 Win32 네이티브 환경에서 직접 실행할 수 있도록 aot 및 aot-dynamic 백엔드 실행 브리지를 연결했다.
   • 런타임에 호출되는 기본 블록(Basic Block)들을 네이티브 명령어로 변환하여 배치할 수 있는 재배치 가능(relocatable) 코드 캐시 방식을 구현했다.
2. 동적 제어 흐름(Control Flow) 최적화
   • 정적으로 분석되지 않은 Indirect Call 및 Return 처리, 조건부 분기(Conditional Transfer), Fallthrough 링킹 등을 런타임에 Host Worker가 동적으로 추적하여 변환하도록 개선했다.
   • Worker 기반의 인라인 캐시(Inline Caches)를 도입하여 캐시 미스 비용을 최소화했다.
3. 자체 수정 코드(Self-Modifying Code, SMC) 일관성 해결
   • PIU 게임 로직 특성상 발생하는 코드 변조(Import stub 등)를 처리하기 위해, 페이지 단위의 일관성 관리(Page Coherency) 모델을 도입했다.
   • 런타임에 코드가 변경되면 해당 캐시를 즉시 무효화(Retirement)하고, 새로운 상태를 기반으로 라이브 아레나 스냅샷을 생성해 새 기계어를 발행함으로써 버그 없이 실행 흐름을 이어가게 했다.
4. MAME CHD 에셋 마운트 및 MSCDEX CD 오디오 에뮬레이션
   • 개별 파일 추출 없이 MAME CHD 이미지 포맷에서 직접 PIU 에셋을 마운트하고 읽어들일 수 있는 기능을 추가했다.
   • HLE 계층에 MSCDEX(Microsoft CD-ROM Extensions) 에뮬레이션을 구현하여, 마운트된 CHD 이미지로부터 CD 오디오(BGM) 트랙을 직접 재생하고 제어할 수 있게 되었다.

성능 비교 (Performance Comparison)

실제 10초간 게임 루프를 구동(repiu_supervisor_win32.exe)하며 측정한 백엔드별 성능 데이터다. (Win32 x86 Debug 빌드 기준)

분석 결과

• 에뮬레이션 오버헤드 감소: 기존 legacy 방식은 실행 내내 Trap을 유발하여 큰 부하를 발생시켰으나, aot-dynamic 모드 도입 이후에는 캐시에 번역된 코드를 기계어 수준에서 직접 실행(Direct execution)하게 되어 Trap 발생 빈도가 절반 이하로 줄어들었다.
• Warm-up 이후의 가속: aot-dynamic 방식은 첫 실행 시 코드 디코딩과 변환, SMC 감지 처리에 자원을 쓰기 때문에 초기 3초간은 상대적으로 Heartbeat 진행이 더디다. 하지만 캐시가 한 번 채워진 이후에는 가파른 속도로 진행률이 증가하여, 10초를 넘어서는 시점부터는 모든 번역 비용을 상쇄하고 전체 성능을 극적으로 끌어올린다.

이제 본격적인 최적화와 함께 Release 빌드를 적용하면 Native 수준의 실행 성능을 기대할 수 있다.