최근 잇따른 보안 사고의 발생으로 보안 의식이 한층 높아지고 있다. 보안 전문가들은 언론 매체를 통해서 운영체제의 최신 업데이트 유지와 함께 보안 프로그램의 설치를 강조하고 있다. 조금이라도 보안에 관심이 있는 사용자라면 운영체제 업데이트는 기본으로 진행 할 것이다. 그리고 무료 보안 프로그램의 급속한 확산으로 보안프로그램 설치도 많이 이루어지고 있다.
그런데 설치된 보안 프로그램의 탐지 능력이 떨어진다면 사용자가 알지도 못하는 사이 해킹을 당할 수 있다. 보안 프로그램의 탐지 능력은 사용자 정보 보호에 꼭 필요한 사항이라고 할 수 있겠다. 보안 사고라고 하면 일반적으로 해킹을 생각하게 된다. 해킹 방법에는 여러 가지가 있겠으나 루트킷 악성코드에 의한 해킹 피해는 날로 증가 추세에 있으며 그 피해도 크다.
그래서 본 논문에서는 루트킷 악성코드를 탐지하는 능력을 알아보는 실험을 실시하고 그 대응 방법을 알아보았다. 먼저 가장 일반적으로 사용되는 기술을 이용하여 사용자모드 루트킷을 제작하였다. 구현은 저수준 메시지 등록 방법과 사용자 DC를 이용한 화면 캡쳐 방식을 사용하였다. 그리고 제작된 루트킷을 국내에서 사용 중인 주요 보안 프로그램에서 탐지해내는지 확인하였다. 추가로 국내 대형 은행 사이트에 접속하여 은행 보안 프로그램의 탐지 능력을 확인하였다. 마지막으로 제작된 루트킷의 탐지 및 대응방안을 제시하였다.