네모 동축선은 동축선과 도파관을 연결하는 대표적인 천이구조이다. 또한 TEM 셀은 DUT의 EMC 측정을 위해 광범위하게 사용되는 소자이다. 네모 동축선과 TEM 셀의 동작을 정확히 예측하기 위해서는 네모 동축선과 TEM 셀의 분산관계 해석이 필수적이다. 본 논문에서는 TEM 모드에 대한 분석을 기반으로 고차 모드인 TE와 TM 모드에 대한 분산관계를 단순하면서도 정확한 방법을 이용해 유도한다. 모드정합법과 그린 함수를 이용하여 네모 동축선과 TEM 셀의 분산관계를 해석적으로 정확히 다룬다. 이를 위해 네모 동축선의 구조를 4개의 L블록으로 나누고 중첩의 원리를 사용하여 전체 전자장 표현식을 쉽게 구한다. 분산관계 수렴성을 파악하기 위해 수치해석을 행하고 FDTD 결과와 비교한다.