N-Queen 문제는 N X N 크기의 체스판에 N개의 퀸(Queen)을 서로 공격할 수 없도록 배치하는 문제이다. 이 때 퀸은 상하좌우, 대각선 방향으로 체스판의 끝까지 공격을 할 수 있다.
따라서 아래 그림처럼 직선, 대각선 상에는 퀸을 배치 할 수 없다.

N-Queen 문제는 N의 크기가 작다면 DFS 방식으로 모든 경우의 수를 탐색하면 답을 찾을 수 있다. 하지만 N의 크기가 커질 수록 탐색해야할 경우의 수가 기하급수적으로 증가한다.
아래 그림을 살펴보자.

상태 공간 트리
위 그림은 4 x 4 퀸 문제에서의 상태 공간 트리(State Space Tree)를 나타낸다.
여기서 상태 공간 트리란 모든 가능한 후보 해결법을 트리로 나타낸 것을 의미한다. 각 노드는 (행의 위치, 열의 위치)를 나타낸다.
예를 들어 (2,3) 은 2행 3열을 의미한다. 위와 같이 모든 경우의 수, 즉 퀸을 모든 위치에 배치해보는 방법은 O(N^N)이 걸린다. 매우 비효율적이다.
하지만 백트래킹을 이용하여 가지치기를 한다면 어떨까?

제일 먼저 (1,1) 에 퀸을 배치하고, 2행에서 퀸을 어디에 배치할 지 결정한다고 하자.
이 때 (2,1)은 직선상이고 (2,2)는 대각선상이라서 유망하지 않으므로(Not Promising) 해당 노드로 경로를 탐색하지 않는다(Pruning).