악성코드 꼼짝마! 획기적인 융합보안기술 나왔다

세계최고 보안학회중 하나인 USENIX Security에 국내최초 논문 발표

적은 성능부하 유발하는 보안기능...스마트폰 보안강화 큰 역할 기대

[보안뉴스 권 준] 오늘날 그 심각성이 날로 더해가고 있는 스마트폰과 같은 모바일 기기에 대한 악성코드 공격에 대응하는 보안 소프트웨어들의 효율성을 획기적으로 개선해줄 방법 하나가 USENIX Security에서 발표돼 큰 관심을 모으고 있다.

최근 보안 분야 최고 권위의 IEEE S&P와 ACM CCS와 더불어 3대 학회로 꼽히는 USENIX Security에서 국내 최고 연구기관들인 서울대학교와 KAIST 소속 두 연구진들에 의해 공동으로 발표된 것.

USENIX Security 학회 22년 역사 이래 순수 국내 연구진이 연구결과를 발표하는 것은 전례가 없는 일로, 작년 가을 이들 연구진은 역시 3대 학회 중 하나인 ACM CCS에 국내에서는 최초로 논문을 발표한 바 있어 연속으로 국내 보안기술의 위상을 전 세계에 알린 쾌거를 이룬 것이다.

이들 학회 모두 전 세계 보안 분야에서 매년 제출되는 수백편의 논문들끼리 경쟁하여 채택률이 10% 초반 대에 이를 정도로 어려운 것으로 유명하며, 관련 학회 논문들이 지난 수십 년간 세계 보안분야 연구개발에 중요한 이론적 토대를 마련하고 있다.

이번 연구결과는 지난 8월 16일 미국 워싱턴DC에서 발표됐으며, 연구주제는 운영체제에 침입한 악성코드의 탐지를 위해 시스템온칩(SoC) 기반의 전용 하드웨어를 이용한 ‘KI-Mon’이라는 감시기술에 관한 것이다.

최근 스마트폰에 대한 악성코드 문제를 해결하는데 있어 가장 큰 걸림돌은 보안 소프트웨어로 인한 성능 저하 및 배터리 소모의 증가였다. 이러한 문제 때문에 PC에서와 달리 스마트폰에서는 이용자들이 해당 소프트웨어를 은행거래와 같이 일부 제한된 경우에만 사용하는 등 보급이 비교적 더뎌 큰 문제점으로 지적되고 있었다.

이와 같은 문제를 해결하려는 노력의 일환으로 지난해 서울대-KAIST 연구진이 ACM CCS 학회를 통해 발표하여 그 독창성을 인정받은 바 있는 스눕(snoop)이라는 하드웨어 기반 감시 모니터링 기술을 이번 논문을 통해 보다 폭넓은 악성행위에 적용할 수 있도록 한 것이다.

보다 구체적으로는, 기존의 스눕 기반 기술이 운영체제 중요 정보를 관장하는 커널 속의 정적 영역이라는 비교적 단순한 영역에 대한 악성코드의 침입을 탐지했다면, 이번 논문에서는 대부분의 악성코드들이 목표로 하는 커널의 동적 영역에 대한 침입탐지를 가능하게 함으로써 스눕 기반 감시 기술이 보다 폭넓은 형태의 악성코드 탐지에 적용할 수 있게 된 셈이다.

이번 쾌거를 일구어낸 연구의 핵심 하드웨어 기술을 개발한 서울대 보안컴퓨팅센터의 백윤흥 교수는 국내에서 지난 십수 년간 다양한 소프트웨어 및 하드웨어 최적화에 관한 연구를 진행한 전문가로, 100건이 넘는 국내외 논문과 특허 실적을 가지고 있다.

또한, 이번 연구의 중요 보안 소프트웨어 개발을 이끈 KAIST 정보보호대학원 강병훈 교수는 시스템 커널 보안을 비롯한 악성코드 네트워크 봇넷 방어, SDN 제어 서버 검증, 빅데이타 기반 호스트 감시 방어 등 컴퓨터 보안의 다양한 방면에 많은 연구 경험을 가지고 있는 전문가이며, 현재 KAIST 정보보호연구소와 정보통신산업진흥원(NIPA) 사업의 적극적 지원과 협력으로 정보보호대학원에서 학생들을 지도하고 있다.

이 연구는 국내 최고의 연구기관 2곳에서 서로 상이한 연구 분야의 전문가들이 협력하여 최고의 결과물을 만들어낸 융합 연구의 좋은 예라고 볼 수 있다. 이러한 독창적인 연구가 가능했던 것은 시스템 보안과 하드웨어 설계라는 전통적으로 서로 거리가 있는 두 연구 분야 사이의 벽을 헐고, 관련 분야에서 각기 오랜 기간 쌓아온 노하우를 두 연구진이 잘 협력하여 융합했기 때문이라는 평가다.

이러한 보안 분야의 융합연구의 필요성에 따라 서울대학교에서는 2013년 보안컴퓨팅센터를 설립했다. 다양한 연구 경험을 가진 연구진들을 모아 그동안 난제로 여기던 보안문제들을 해결하고, 보안설계 관련 기술들을 융합할 수 있는 보안전문가를 양성하고자 하는 목적으로 설립된 것이다.

또한, KAIST가 2010년 설립한 정보보호대학원은 이론과 실무를 겸비한 세계적으로 경쟁력 있는 보안융합 연구를 할 수 있는 석·박사 전문인력을 양성하고자 현재 50여명의 국비장학생을 갖춘 정규학과로서 운영되고 있으며, 사이버 공격과 방어, 시스템 보안, 네트워크 보안, 암호 기술 등 각종 보안 분야에서 정부와 기업이 후원하는 다양한 연구과제를 수행하고 있다.

이번 논문에 발표된 연구는 단지 이론에 머물지 않고, 이미 상용화 단계에 들어선 상태이다. 현재 전 세계 시장을 장악한 스마트폰 제조업체 한 곳과 관련 기술의 상용화와 특허 출원에 대한 논의를 진행 중인 것으로 알려졌다. 이를 바탕으로 성공적인 상용화 과정이 이루어진다면 관련 기술이 차세대 모바일 기기에 탑재되어 모바일 기기 보안을 한층 향상시켜 줄 것으로 기대된다.

[권 준 기자(editor@boannews.com)]

내년 회사에 꼭 도입하고 싶은 보안 솔루션 또는 플랫폼은 무엇인가요?
	XDR
	EDR
	AI 보안
	제로트러스트
	공급망 보안 체계(SBOM)
	클라우드 보안 솔루션
	기타(댓글로)