공간분할다중접속을 위한 이종 빔포밍 시스템은 하향링크 다중 사용자 multiple-input multiple-output (MIMO) 채널 환경에서 스마트 안테나 기술을 사용하여 시스템 용량을 증가시킬 것으로 기대되는 기술이다. 본 논문에서는 N개의 안테나로 구성된 M개의 송신기가 원형 등간격 어레이 안테나를 구성하는 이종 빔포밍 구조를 고려하였다. 이종 빔포밍 시스템에서 공간 다이버시티와 다중 사용자 다이버시티를 달성하기 위해서는 사용자 선택 기법이 중요하다. 따라서 이종 빔포밍 시스템에서 기지국은 채널 클러스터링 특성을 고려하여서 높은 채널 이득을 가지는 다수의 사용자를 선택함으로써 공간 다이버시티와 다중 사용자 다이버시티를 달성한다. 이를 위해 사용자는 angle-of-departure (AOD)를 고려한 채널 상태 정보를 기지국에게 보고하며, 기지국은 사용자로부터 수신한 채널상태 정보를 바탕으로 서비스하기 위한 사용자를 선택한다. 본 논문은 채널의 클러스터링 특성을 고려한 이종 빔포밍 시스템의 용량을 수학적으로 계산하고, AOD 전송을 위한 비트의 크기, 송신기의 개수 및 송신기당 안테나의 개수에 따른 이종 빔포밍 시스템의 성능을 평가한다.Hybrid beamforming (HBF) for space division multiple access is a promising technique to improve the capacity of the downlink multiuser multiple-input multiple-output system by exploiting the advantages of smart antenna technologies. This paper considers an M (the number of transceivers) by N (the number of antennas per transceiver) HBF structure, where the total M·N antennas are implemented as a uniform circular array antenna. A user selection algorithm in the HBF system is important to achieve spatial and multiuser diversity. To achieve spatial and multiuser diversity, a base station in the HBF system selects multiple users who have high channel gain, taking the channel clustering nature into consideration. Users report the channel state information that was calculated taking the angle-of-departure (AOD) into consideration and the base station selects multiple users to be served on the basis of the received channel state information from users. This paper mathematically derives the capacity of the HBF system and evaluates the performance of the HBF system in terms of the number of AOD representation bits, the number of transceivers, and the number of antennas per transceiver.