최근 VoIP(Voice over IP)는 인터넷망을 이용하여 단순음성통화는 물론 영상통화, 메시지, 멀티미디어 영상서비스까지 기존 통신보다 저렴하게 제공할 수 있게 되어 점점 사용이 증가되고 있다.
VoIP에서는 다양한 프로토콜이 존재하며, 그 중 세션을 관리하기 위한 시그널링 프로토콜로 설치가 간편하고 확장이 용이한 SIP를 주로 사용하고 있다. SIP는 인터넷을 기반으로 설계되어 인터넷에서 발생하였던 보안에 대한 문제와 SIP 프로토콜 자체의 취약점에 노출되어 있다. 이 중 음성통화에서 가장 심각한 서비스 거부 공격을 탐지하고 대응하기 위해 많은 방법이 제안되었다.
그 중에서 SIP의 등록메시지를 이용하여 정상 사용자들에 대한 화이트리스트를 작성하는 기법이 제안되었고 이를 보완하기 위하여 세션구성이 완료된 사용자에 대해 블룸필터를 이용하여 화이트리스트를 구성하는 보다 효율적이고 빠르게 검색이 가능한 기법이 제안되었다. 하지만 이 또한 악의적 의도로 세션을 성공시키고 화이트리스트에 등록한 후 공격하는 공격자는 막을 수 가 없다.
본 논문에서는 이를 개선하기 위하여 2단계 블룸필터를 기반으로 하여 정상적인 사용자를 보호하며 악의적인 공격자는 차단하고자 한다. 1단계 블룸필터 기반으로 정상사용자용 화이트리스트를 구성하고 2단계 카운팅 블룸필터 기반으로 공격자용 블랙리스트를 구성하여 서비스 거부공격 시 사용하고자 한다. 이를 통하여 서비스 거부 공격 탐지 및 대응이 됨을 확인하였다.