해당 설정은 가상머신 VirtualBox, 게스트 OS Windows XP, 호스트 OS Windows 10 환경에서 이루어졌습니다.
우선 게스트 OS의 boot.ini 파일을 아래와 같이 수정해준다. 이 파일은 C드라이브 내에 있다.
보이지 않을 경우에는 폴더 옵션을 재설정하면 된다.
/debug 플래그는 커널 디버깅을 활성화 하고,
/debugport=COM1은 운영체제가 어떤 포트를 사용해 디버깅되는 머신이 디버깅 하는 머신으로 접속하는지 지정한다.
baudrate는 접속 속도를 정의한다.
나중에 옵션을 구분하기 쉽게 두 엔트리의 이름을 다르게 지정해주었다.
다음에 이 게스트 OS를 부팅할 때 두 가지 버전의 엔트리를 선택하는 시간이 주어진다.
커널 디버깅을 위해서는 커널 디버깅 설정이 된 운영체제를 선택하여 실행해야 한다.
다음으로는 가상머신에 대한 설정을 변경해야 한다.
커널디버깅에 사용할 가상머신을 선택하고 설정을 선택한다.
그리고 직렬포트 탭에서 위와 같이 설정하고 확인을 누른다.
미리 디버거 사용 모드로 부팅한 뒤,
이제 호스트 OS에서 WinDbg를 실행한다.
WinDbg의 설치 방법은 https://docs.microsoft.com/ko-kr/windows-hardware/drivers/debugger/debugger-download-tools 를 참조하였다.
WinDbg 실행 -> File -> Kernel Debug -> COM 탭에서 위와 같이 설정해준다.
Baud Rate와 Port 모두 위에서 게스트 OS의 Boot.ini 파일에 설정한대로 입력한다.
디버거와 연결되었다.