본 논문은 통신노드들이 다중 안테나 비재생 릴레이국의 협력으로 서로 데이터를 교환하는 다중방향 릴레이 시스템을 제안한다. 기존의 단방향 릴레이를 적용한 다중방향 통신의 경우 전송 단계가 필요하나 제안하는 다중방향 릴레이 시스템은 단일 다중접속 단계와 방송 단계로 구성된 총 전송 단계만 필요로 한다. 특히 효율적인 방송 단계 전송을 위해 통신노드들을 쌍을 짓고 쌍이 아닌 통신노드들에게 간섭을 주지 않는 새로운 릴레이 빔형성 행렬과 통신노드 자가간섭 소거기를 제안한다. 평균 합 전송률로 성능을 평가한 결과, 제안 기법이 기존 기법의 성능을 향상시키며 그 이득은 릴레이 노드 안테나 수와 통신노드 수가 비슷할 때 더 커짐을 볼 수 있다. 이러한 제안 기법은 여러 선박간의 정보를 공유할 필요가 있는 해양 통신 환경 통신 거리를 확장하는 데 효과적으로 적용할 수 있을 것으로 기대된다.In this paper, we propose a multi-way relaying system, in which communicating nodes interchange their information one another by the help of a multiple-antenna non-regenerative relay station (RS). While the conventional multi-way relaying requires transmission phases to complete the data exchange, the proposed system completes the mission with phases composed of one multiple access phase and broadcast phases. For effective broadcast transmission, the proposed system pairs users for signal transmission with a new RS beamforming matrix not to interfere with the nodes of different pairs and a self-interference canceler at each node. The performance evaluation in terms of the average sum rate shows that the proposed system outperforms the conventional one with more significant gain when the number of RS antennas is comparable to the number of communicating nodes. The proposed schemes can be applicable to marine communications where the ships need to share their information with extended coverage.