다중 안테나를 이용한 통신 시스템에서 반복 검출 및 복호 수신기 (iterative detction and decoding)는 비트 오류율은 상당히 줄일 수 있으나, 각 비트마다 연판정 값을 계산하여야 하므로 높은 계산 복잡도를 요구한다. 본 논문에서는 적은 계산 복잡도로 연판정 값을 얻을 수 있는 수신기 구조를 제안한다. 반복 검출 및 복호 수신기는 내부 복호기로 구 복호기 (sphere decoder)를 사용하고 외부 복호기로 저 밀도 패리티 부호 (low density parity check) 복호기를 사용한다. 연판정 값을 얻기 위한 구 복호기의 복잡도를 줄이기 위하여 트리 탐색을 레이어 별로 제한하는 레이어 심볼 탐색 (Layer symbol search, LSS)를 제안한다. 그리고 채널과 잡음 상황에 따라 달라지는 구 복호기의 동작 시간을 제한하기 위하여 반복 복호 횟수를 줄이는 적응적 조기 종료를 제안한다. 제안한 알고리즘은 의 알고리즘 대비 20dB에서 70%정도 낮은 계산 복잡도를 갖으며 유사한 성능을 얻을 수 있다.The iterative detection and decoding (IDD) has been shown to dramatically improve the bit error rate (BER) performance of the multiple-input multiple-output (MIMO) communication systems. However, these techniques require a high computational complexity since it is required to compute the soft decisions for each bit. In this paper, we show IDD comprised of sphere decoder with low-density parity check (LDPC) codes and present the tree search strategy, called a layer symbol search (LSS), to obtain soft decisions with a low computational complexity. In addition, an adaptive early termination is proposed to reduce the computational complexity during an iteration between an inner sphere decoder and an outer LDPC decoder. It is shown that the proposed approach can achieve the performance similar to an existing algorithm with 70% lower computational complexity compared to the conventional algorithms.