모바일 기기의 급성장으로 많은 사람들이 인스턴트메신저(텔레그램, 위챗, 카카오톡 등)를 활용하여 소통하고 있다. 해커들은 이러한 인스턴트메신저를 대상으로 한 사이버범죄를 계획하고 실행하고 있으며 다양한 매체에서 사이버공격 사례가 확인되고 있다. 특히 최근 연구에서 스테가노그래피 기반 봇넷(stego-botnet)이라는 새로운 형태의 봇넷 구축 가능성이 제안되면서 SNS와 인스턴트메신저 환경에서 봇넷 구축 위협이 증가하고 있다. 이러한 스테가노그래피 기반 봇넷은 다양한 스테가노그래피 기법을 이용하여 봇넷의 모든 C&C(Command&Control) 메시지를 SNS에서 공유되는 멀티미디어 파일(이미 지나 동영상 파일 등)에 비밀리에 숨기는 새로운 유형의 봇넷이다. 이러한 봇넷은 스테가노그래피 기법을 통해 기존의 봇넷 탐지체계를 우회한다. 한편 기존의 연구들이 단순히 스테가노그래피를 탐지하는 데 중점을 두고 있으며 SNS 및 인스턴트메신저를 활용하는 실제 환경에서 이를 자동화하여 탐지하는 방안에 관한 연구는 부족하다. 인터넷에는 수많은 인스턴트메신저 채팅방이 존재하며 이러한 채팅방 속에 수많은 잠재적인 스테가노그래피 이미지가 존재할 수 있음에도 불구하고 이를 방어하기 위한 효과적인 탐지 방법은 연구되지 않고 있다. 따라서 본 논문에서는 대한민국의 대표적인 인스턴트메신저인 카카오톡의 채팅방에서 공유되는 모든 이미지 파일을 자동, 정기적으로 수집 및 검사서버로 이동시키고, 검사서버에서는 오픈소스의 이미지 스테가노그래피 모듈을 사용하여 스테가노그래피 이미지 파일을 탐지하는 자동화된 스테가노그래피 이미지 탐지 시스템을 설계하고 이를 구현한다. 이후 실제 카카오톡 환경에서 시스템 작동을 검증하는 실험을 통해 시스템 동작이 적절히 수행되는지를 증명한다.