본 논문은 셀 간 간섭이 존재하는 다중안테나 채널에서 프로그레시브 이미지의 전송에 관한 연구이다. 프로그레시브 이미지 특성상 채널 오류로부터 차등화된 보호가 필요하기 때문에, 패킷마다 다른 채널 부호 및 변복조를 사용하여 결과적으로 서로 다른 주파수 효율을 할당하게 된다. 또한 다중안테나의 시공간 부호기법을 적용하여, 패킷별로 서로 다른 공간 다중화율을 할당한다. 따라서 패킷 개수가 증가될수록, 최적의 주파수 효율 및 시공간 부호를 할당하는 복잡도는 지수적으로 증가한다. 또한 간섭신호가 존재하는 무선채널에서의 최적의 송신전력 할당까지 고려한다면, 최적화 문제는 더욱 복잡해진다. 본 논문은 간섭신호가 존재하는 다중안테나 채널에서 전송되는 프로그레시브 이미지의 성능을 향상시키기 위해 소스, 채널 및 시공간 부호 (즉, 주파수 효율 및 공간 다중화율)과 송신전력을 최적화하는 방안으로서 인공신경망 기반의 방법을 제안한다.
제안한 신경망 모델은 프로그레시브 이미지의 왜곡-데이터율 특성과 송수신기 사이 채널 특성을 입력층으로 받는다. 출력층에서는 활성화 함수인 소프트맥스 함수가 예측한 주파수 효율과 공간 다중화율의 확률분포를 이용하여, 손실함수의 평균을 취하는 방법을 적용함으로써 이산변수인 주파수 효율 및 공간 다중화율을 최적화한다. 한편, 연속변수인 송신전력의 경우는 출력층에서 활성화 함수로 시그모이드 함수를 사용한다.
소스, 채널 및 시공간 부호와 송신전력을 동시에 최적화하는 기존의 고성능 알고리즘이 존재하지 않기에, 본 논문에서는 제안한 방법의 성능을 다음의 baseline 방법의 성능과 비교한다. Baseline 방법은 먼저 채널 용량을 최대화하도록 송신전력을 최적화하며, 이후 peak-signal-to-noise ratio (PSNR)을 최대화하도록 주파수 효율과 공간 다중화율을 최적화한다. 제안한 인공신경망 기반의 방법은 baseline 방법 대비 연산 복잡도를 낮추면서도, 훨씬 더 우수한 PSNR 성능을 달성한다. 이는 신경망이 셀 간 간섭이 존재하는 다중안테나 채널의 복잡한 페이딩 효과와 함께, 비선형적인 이미지의 특성을 분석하고 학습할 수 있음을 입증한다.