구조적 예외 처리(SEH, Structured Exception Handling) 기초 이야기

구조적 예외 처리(SEH)란?

구조적 예외 처리(이하 SEH)는 하드웨어와 소프트웨어 예외를 모두 처리하는 Microsoft Windows의 기본 예외 처리 메커니즘입니다. 하드웨어 예외는 예외가 발생한 주체가 CPU와 같은 하드웨어라는 것이고, 소프트웨어 예외는 사용자가 작성한 소프트웨어 및 운영체제가 예외의 주체라는 의미입니다.

좀 더 쉬운 예를 들자면, 어떤 수를 0으로 나누는 연산이나 접근할 수 없는 메모리에 접근을 시도하는 명령어를 실행한다면 하드웨어 예외가 발생하고, 유효하지 않은 인자에 값을 지정할 때 소프트웨어 예외가 발생할 수 있습니다.

이처럼, 하드웨어와 소프트웨어 예외를 모두 처리하는 메커니즘이 SEH입니다.

https://docs.microsoft.com/ko-kr/windows/win32/debug/structured-exception-handling

구조적 예외 처리 - Win32 apps

사실 일반 응용 프로그램 개발자라면 SEH에 대해 깊게 알 필요는 없다고 생각합니다. SEH는 주로 운영체제를 안정적으로 개발하기 위한 예외 처리로, 일반 응용 프로그램 개발자는 언어에서 지원하는 예외 처리를 잘 다뤄야 합니다. 예를 들어, C++ 프로그램은 C++ 문법인 try-catch, throw를 이용하여 예외를 다루면 됩니다. 물론, SEH를 사용해도 무방합니다.

참고로, C++ 예외 처리는 내부적으로 컴파일러와 윈도우가 지원하는 SEH 기능을 이용하여 구현되었습니다.

SEH 기본 문법

SEH는 두 가지 주요 기능으로 구성되어 있습니다. 바로, 종료 처리기와 예외 처리기입니다. 각 처리에 대해 차례대로 알아보겠습니다.

1. 종료 처리기(Termination Handler)

종료 처리기는 __try 블록 내의 제어가 어떻게 빠져나오든 __finally 블록의 코드가 반드시 수행될 것이라는 것을 보장합니다. 아래 예제는 종료 처리기 SEH 구문입니다.

__try
{
	//...
}
__finally
{
	//종료 처리기
	//...
}

운영 체제와 컴파일러는 항상 종료 처리기의 코드가 수행되도록 보장합니다. 단, ExitProcess, ExitThread, TerminateProcess, TerminateThread와 같은 함수를 호출하여 프로세스나 스레드가 종료되는 경우는 제외합니다. 이러한 상황을 제외하곤, __try 블록 내에서 return, goto와 같은 문을 호출하더라도 종료 처리기는 항상 호출됩니다.

그런데, 어떻게 종료 처리기인 __finally 블록이 항상 호출되는 것일까요? 이는, 컴파일러가 __try 블록 내에서 빠져나가기 전에 __finally 블록을 반드시 수행될 수 있도록 추가적인 코드를 생성하기 때문입니다. 이를 로컬 언와인드(Local Unwind)라고 합니다.

로컬 언와인드(Local Unwind)

앞서 설명한 대로, 시스템이 __try 블록을 빠져나가기 전에 __finally 블록을 먼저 수행해야 하는 코드를 추가로 생성하는 것을 의미합니다. 그런데 '코드를 추가로 생성한다'라는 조건이 눈에 띄는데요. 추가적인 코드를 생성한다는 것은 결국 비용이 발생한다는 것입니다. 그리고 발생한 비용은 프로그램 수행 성능에도 좋지 않은 영향을 줄 수 있습니다.

따라서, 로컬 언와인드가 발생하지 않도록 제어의 흐름을 자연스럽게 작성해야 합니다. __try 블록을 수행하고 자연스럽게 __finally 블록을 수행하는 것이 비용을 최소화하는 방법입니다.

또 하나의 주의 사항으로, __try 블록에서는 서둘러서 빠져나가는 코드를 작성하지 않는 것을 권장합니다. 예를 들어, return, goto, continue, break와 같은 문장을 사용하지 않는 것이 가장 좋은 방법입니다. 컴파일러가 로컬 언와인드와 같은 작업을 수행하지 않아도 되기 때문에, 좀 더 작은 코드를 생성할 수 있고 이는 최소한의 비용으로 코드를 좀 더 빠르게 동작하도록 할 수 있기 때문입니다.

__leave 키워드

__try 블록 내에서 __leave 키워드를 사용하면 __try 블록의 가장 마지막으로 이동하게 됩니다. 이렇게 하면 앞에서 설명한 것처럼, 코드 수행 흐름이 자연스럽게 __try 블록에서 __finally 블록으로 이동하기 때문에 어떠한 추가 비용이 발생하지 않습니다.

2. 예외 처리기(Exception Handler)

예외 처리기는 __try 블록의 코드를 수행하던 중 예외가 발생하면 __except 문에서 필터를 평가하여 추가 동작을 수행하게 됩니다. 아래 예제는 예외 처리기 SEH 구문입니다.

__try
{
	//...
}
__except (예외 필터)
	//예외 처리기
	//...
}

예외 처리기의 예외 필터에 대해 설명할 내용이 더 있습니다. 깊게 들어가기 전에, SEH 문법에 대해 잠깐 정리하고 설명을 이어가겠습니다.

SEH 문법 중간 정리

SEH 문법인 __try 블록을 만들면 반드시 종료 처리기인 __finally 블록 또는 예외 처리기인 __except 블록이 따라와야 합니다. __try 블록은 __finally 블록과 __except 블록을 동시에 가질 수 없습니다. 그리고 여러 개의 __except 블록도 가질 수 없습니다.

하지만 __try-__finally 블록 내에 __try-__except 블록을 포함시키거나 또는 그 반대로 구성하는 것은 가능합니다.

3. 예외 필터

계속해서 예외 처리기의 예외 필터에 대해 설명하겠습니다. 예외 필터는 총 세 가지를 제공하며, 각 필터마다 서로 다른 동작을 수행하게 됩니다.

3-1. EXCEPTION_EXECUTE_HANDLER

__try
{
	//...
}
__except(EXCEPTION_EXECUTE_HANDLER)
{
	//예외 처리 수행
    //...
}

글로벌 언와인드(Global Unwind)를 수행한 후 __except 블록을 수행하게 됩니다. __except 블록의 코드가 모두 수행되고 나면 __except 바로 다음의 코드를 수행하게 됩니다.

글로벌 언와인드(Global Unwind)

앞에서 종료 처리기를 설명할 때 로컬 언와인드를 설명했었습니다. 이름이 비슷한 글로벌 언와인드를 왜 지금 언급했냐면, 글로벌 언와인드는 예외 필터가 EXCEPTION_EXECUTE_HANDLER 일 때 동작하기 때문입니다. 예외 필터가 EXCEPTION_EXECUTE_HANDLER로 평가되면 __try-__except 블록 내의 모든 __try-__finally 블록을 수행하는 것을 글로벌 언와인드라고 합니다.

글로벌 언와인드 수행 흐름

3-2. EXCEPTION_CONTINUE_EXECUTION

__try
{
	//...
}
__except(EXCEPTION_CONTINUE_EXECUTION)
{
	//예외 처리 수행
    //...
}

예외 필터가 EXCEPTION_CONTINUE_EXECUTION로 평가되면 예외를 발생했던 코드를 다시 한번 수행하도록 합니다. 만약, 예외 발생 후 적절한 조치가 취해지지 않았다면 다시 문제가 발생하게 되겠죠. 이 경우 또 다른 예외가 발생할 수도 있고 또는 무한 루프에 빠질 가능성도 있습니다. 이는 곧 디버깅이 어려워 문제 해결에 어려움이 발생하겠죠.

3-3. EXCEPTION_CONTINUE_SEARCH

__try
{
	//...
}
__except(EXCEPTION_CONTINUE_SEARCH)
{
	//예외 처리 수행
    //...
}

예외 필터가 EXCEPTION_CONTINUE_SEARCH로 평가되면, 가장 최근에 진입했던 __try 블록 중 __except 블록을 가진 곳으로 이동하여 예외 필터를 평가하게 됩니다. __try 블록이 __finally 블록을 가지고 있는 경우 검색 대상에서 제외됩니다.

예외가 처리되는 전체 흐름

앞에서 언급한 각 예외 필터의 동작 흐름을 한눈에 정리해 보겠습니다.

예외가 처리되는 전체 흐름

참고

Windows via C/C++ Fifth Edition, Jeffrey Richter