이동통신 네트워크가 세대를 거듭하면서 허위 기지국에 대한 대응책 또한 발전되었다. 그 예로 가입자 고유 식별자를 암호화함으로써 허위 기지국에 의해 사용자의 프라이버시가 유출되는 것을 방지하였다. 하지만 이동통신 기술이 발전함에 따라 클라우드 기반 모바일 작업 및 게임 환경, 증강 현실, 자율주행과 같은 새로운 형태의 이동통신 융합 서비스가 등장하고 이에 따른 새로운 보안 위협 및 공격이 등장하고 있다. 특히 초저지연을 요구하는 최신 이동통신 융합 서비스들이 등장하면서, 허위 기지국으로 인한 가용성 보안 위협이 다시 증가하였다. 이에 본 논문에서는 5G 또는 차세대 이동통신 네트워크에서의 허위 기지국 공격에 대응하기 위한 보안 프로토콜과 비정상 행위 탐지 기법을 제안한다.
제안 프로토콜은 기존의 그룹 키 기반 브로드캐스트 메시지 보호 기법의 취약점인 내부자 위협 문제 해결에 초점을 둔다. BMANF(Broadcast Message Authentication Network Function)을 도입하고 사용자 단말인 UE(User Equipment)를 대신하여 브로드캐스트 메시지의 메시지 인증 코드를 검증하도록 함으로써 악의적인 사용자에 의해 그룹 키가 유출되지 않도록 한다. 제안 프로토콜은 초기 단계와 검증 단계로 구성되고, 초기 단계에서는 BMANF가 UE에게 검증 요청 티켓을 발급한다. 검증 단계에서 UE는 수신한 브로드캐스트 메시지 목록과 함께 검증 요청 티켓을 사용하여 BMANF에게 메시지 인증 코드 검증을 요청하고, BMANF는 검증 결과를 UE에게 알린다. 제안 프로토콜의 보안성 검증을 위해 정형화 보안 검증 도구인 BAN-Logic과 AVISPA 도구를 통해 두 단계의 보안 유효성이 검증되었다. 또한, 보안 속성과 연산 및 통신 오버헤드의 관점에서 제안 프로토콜과 기존 기법이 비교 분석되었다. 비교 분석 결과는 제안 프로토콜이 요구하는 보안 속성을 모두 만족하고 그룹 키 기반 기법을 제외한 다른 프로토콜보다 낮은 오버헤드가 필요함을 보였다.
비정상 행위 탐지 기법으로 기계 학습 기반의 허위 기지국 탐지 기법과 명세 기반의 허위 기지국 공격 탐지 기법을 제안한다. 기계 학습 기반의 탐지는 SBA(Service-Based Architecture) 환경과 유기적으로 동작하는 네트워크 기능인 MRVF(Measurement Report Verification Function)를 도입하고, MRVF 내부에서 무선 신호 강도인 RSRP(Reference Signal Received Power)를 지도 학습 알고리즘을 이용하여 훈련된 모델을 바탕으로 비정상적인 RSRP가 수신되는지를 탐지한다. 명세 기반 탐지는 보안 요구사항과 보안 위협을 기반으로 정상적인 기지국의 행위 규칙을 도출하고, 도출된 행위 규칙을 조건문으로 하는 정상과 비정상 상태를 갖는 유한 상태 기계를 실행하여 공격을 탐지한다. 탐지 정확도를 높이기 위해 순응도와 통계적 분석 방법을 적용한다. 각 기법은 5G 무선망 시뮬레이션 도구인 UERANSIM을 개선한 환경에서 실험을 진행하여 생성된 데이터를 사용하여 탐지 성능과 효율성을 측정하였다. 기계 학습 기반의 허위 기지국 탐지 기법은 지도학습 알고리즘 7가지를 사용하여 탐지 성능을 비교하였고 잡음이 10%일 때 XGBoost(Extreme Gradient Boost)가 92%의 탐지 정확도로 가장 우수한 성능을 나타내었다. 명세 기반의 기법은 각 잡음 단계에서 평균 98%의 탐지 정확도로 기계 학습 알고리즘보다 높은 탐지 정확도를 보였다.
제안 보안 프로토콜은 공격 비용을 증가시켜 공격을 예방하고 행위 규칙 명세 기반 탐지 기법을 통해 알려진 공격과 제로데이 공격을 탐지한다. 정의한 행위 규칙으로 대응할 수 없는 공격은 기계 학습 기반의 비정상 행위 탐지를 통해 탐지한다. 이처럼 제안 기법들은 상호보완적으로 동작하여 차세대 이동통신 네트워크에서 허위 기지국으로 인해 발생할 수 있는 거의 모든 보안 위협에 대응한다. 본 논문에서 제안한 연구 결과는 5G 융합 서비스들이 정착되는 과정에서 진행된 허위 기지국 대응 초기 연구이며, 5G 융합 서비스들이 성숙하면서 진행될 후속 연구에 많은 도움이 될 것으로 기대된다.
향후 연구로는 시뮬레이션 데이터가 아닌 실제 이동통신망에서 생성된 데이터를 바탕으로 탐지 성능을 측정하고 기계 학습 기반 탐지 기법의 성능을 향상하기 위해 생성형 인공 지능을 통해 잡음이 제거된 데이터를 생성하는 연구를 진행하고자 한다.