.jpg)
.jpg)
인공지능이라는 동일한 툴로 사이버 공격자와 방어자가 맞붙어
지능화한 공격으로 모르픽 멀웨어, 하이브넷, 스웜봇 등장할 것
[보안뉴스 오다인 기자] 기술 산업과 세계 경제는 인공지능(AI)이라는 벼랑 끝에 서 있다. 사이버 범죄자들은 취약점을 효과적으로 알아내고 활용하기 위해, 복잡한 네트워크 환경에 적응하기 위해, 이윤을 극대화하기 위해 AI 기술을 사용하고 있다.
블랙햇 해커들과 화이트햇 해커들이 동일한 툴을 사용하게 된 건 이번이 최초다. 그야말로 AI 군비 경쟁이 현재 벌어지고 있다. 조직들은 지금부터 준비에 착수해야만 한다. 다음은 우리가 앞으로 직면하게 될 일들을 정리한 것이다.
1. 머신 러닝이라는 흐름
지난 1년 동안 보안 업계는 사이버 범죄자들이 수백만 개의 사물인터넷(IoT) 기기들을 무기화한 뒤 일반 이용자의 시스템과 네트워크를 탈취한 사례를 목격해 왔다. 인간이 감독하는 AI 인큐베이터들은 예측 가능한 방식으로 특정 업무를 수행하는 AI 하나를 만들기 위해 수년 간 심혈을 기울인다.
그러나 사이버 범죄자들은 이렇게 천천히 움직이려고 하지 않는다. 그들은 AI 기반 공격을 개발하기 위해 인간이 감독하지 않는 학습 모델을 사용하고자 한다. 예측 가능성보다 개발 속도가 이들에겐 훨씬 더 중요하기 때문이다. 바로 이 부분에서 블랙햇의 AI 사용이 특히 위험하다고 볼 수 있다. 이런 방식은 그 복잡성과 예측 불가능성 때문에 잠재적으로 재앙을 불러올 수도 있다.
공격 방법론이 지능화될수록 침해된 IoT 기기들로 군단이 형성될 위험도 커진다. 이는 무차별적인 대혼란을 만들어낼 수 있다. 아프리카화 꿀벌(Africanized honey bee)을 생각해보라(보안뉴스 주: 일명 ‘살인 벌(killer bee)’로도 알려진 아프리카화 꿀벌은 양봉꿀벌과 아프리카꿀벌의 이종교배 종으로 미국이 1950년대 꿀 생산 증대를 위해 브라질로부터 도입했으나 이후 미주 전역으로 전파, 그 공격성으로 인해 수많은 인명피해를 일으켰다).
사이버 보안 연구 커뮤니티에서 가장 똑똑하고 최고라고 평가받는 사람들이 지금 규제가 필요하다고 외치고 있다면, 이는 그들이 사이버 범죄자 커뮤니티에서 AI 기반의 공격이 진지하게 구축되고 있다는 사실을 실제 목격하고 있기 때문이다. AI 기반의 공격은 인간의 감독 없이 현실화될 가능성이 높다.
2. 차세대 모르픽 멀웨어(Morphic Malware)
자동화한 취약점 탐지 및 데이터 분석에 바탕을 둔 기기들이 빠르면 내년부터 멀웨어를 만들어내기 시작할 것이다. 이른바 ‘모르픽 멀웨어’는 새로운 건 아니지만 AI를 이용해서 등장하는 건 최초가 될 것이다. 탐지를 피하기 위해 기기의 방식으로 기기가 작성한 코드들이 정교하면서도 새로운 형태로 나타나게 될 것이다. 기존 툴의 자연스런 진화와 함께 사이버 범죄자들은 각각의 고유한 취약점에 최적화된 최고의 익스플로잇을 개발할 수 있을 것이다. 멀웨어는 이미 학습 모델을 이용해서 보안 장치를 피해가고 있으며, 단 하루 동안 수백만 개의 바이러스 변종을 생산해낼 수 있다. 그러나 아직까지 이 모든 일은 알고리즘에 기초한 것으로, 그 결과물에서 대단한 정교함이 발견되지는 않았다.
3. 하이브넷(hivenet)과 스웜봇(swarmbot)
AI 기술을 이용해서 예측 가능한 소프트웨어 시스템을 프로그래밍한 사례는 많이 나와 있다. 이런 종류의 툴은 방대한 규모의 전문가 지식 데이터베이스를 활용해서 최근에 더욱 발전했다. 이 데이터베이스는 예측의 정확성을 높이기 위해 작은 데이터들을 수십억 회씩 업데이트해오면서 구축된 것이다. 이렇게 예측 가능한 분석을 통해 우리는 세계를 변화시키는 데 컴퓨팅 자원이 어떻게 쓰일 수 있을지에 대해 새로운 패러다임을 고려해볼 수 있다.
보안 업계가 이미 목격한 것을 기반으로 예측해보건대, 사이버 범죄자들은 침해된 기기들로 지능적인 군단을 구성해서 봇넷(botnet)을 대체할 가능성이 높다. 더 효과적인 공격 매개를 만들기 위해 딥 러닝 기술을 적용할 확률이 높다는 뜻이다. 기존의 봇넷은 단순히 봇 주인으로부터 공격 개시 명령을 기다리는 노예에 불과했다. 그러나 각각의 노드들이 감시를 거의 받지 않고 자체적인 결정을 내릴 수 있게 된다면 무슨 일이 일어날까? 아니면 완전히 자율적으로 공격을 펼치게 된다면? 주인의 명령 없이 공격을 개시하게 된다면 어떤 일이 벌어질까?
이는 봇넷을 대신해 하이브넷의 시대가 올 것이라는 의미다. 하이브넷은 유사 사례 기반의 자가 학습을 통해 유례없는 규모로 취약한 시스템을 공격하게 될 것이다. 하이브넷은 침해된 기기들로 군단을 만들어 움직일 수도 있다. 이는 ‘스웜봇’이라고도 부르는데, 스웜봇은 한 번에 모든 공격 매개를 식별하고 저지할 수 있다. 하이브넷은 기하급수적으로 확대될 수 있으며, 동시다발적으로 여러 타깃을 공격할 수도 있다.
다가오는 것: 인텔리전트 전쟁
핵심 사회기반시설을 포함해 네트워크와 서비스를 보호하는 일에는 체계적인 접근이 필요하다. 네트워크 밖의 의도적인 엔지니어링 취약점들을 검토하는 것에서부터 적절한 네트워크 보안 툴을 적용하는 것까지 아울러서 요구된다. 지금은 대부분의 조직이 별개의, 그리고 각기 분리된 보안 기기들을 갖춘 상태다. 보안을 통합적으로 접근하는 것은 분산 네트워크 전역에 가시성을 확보하는 일이며, 알려지지 않은 위협을 탐지하고, 실시간으로 위협 인텔리전스를 생성할 수 있는 일이다. 또한, 망 분리를 극대화할 수 있고, 침해된 기기 및 시스템을 분리할 수 있으며, 협력해서 공격에 대응할 수 있도록 해주기도 한다.
AI는 굉장한 혜택을 약속하고 있다. 조직들이 저마다의 힘을 최대로 활용할 수 있도록 약속한다. 그러나 AI는 사이버 범죄자들이 악의를 갖고 활용할 때 재앙의 전조가 될 수도 있다. 머신 러닝이나 AI 같은 기술을 활용하는 주체가 누구든지 간에, 그는 점차 확대되는 AI 전쟁에서 살아남기 위해 본질적인 보안과 방어 시스템을 갖춰야만 할 것이다.
글 : 데릭 맨키(Derek Manky)
[국제부 오다인 기자(boan2@boannews.com)]
지능화한 공격으로 모르픽 멀웨어, 하이브넷, 스웜봇 등장할 것
[보안뉴스 오다인 기자] 기술 산업과 세계 경제는 인공지능(AI)이라는 벼랑 끝에 서 있다. 사이버 범죄자들은 취약점을 효과적으로 알아내고 활용하기 위해, 복잡한 네트워크 환경에 적응하기 위해, 이윤을 극대화하기 위해 AI 기술을 사용하고 있다.
블랙햇 해커들과 화이트햇 해커들이 동일한 툴을 사용하게 된 건 이번이 최초다. 그야말로 AI 군비 경쟁이 현재 벌어지고 있다. 조직들은 지금부터 준비에 착수해야만 한다. 다음은 우리가 앞으로 직면하게 될 일들을 정리한 것이다.
[이미지=iclickart]
1. 머신 러닝이라는 흐름
지난 1년 동안 보안 업계는 사이버 범죄자들이 수백만 개의 사물인터넷(IoT) 기기들을 무기화한 뒤 일반 이용자의 시스템과 네트워크를 탈취한 사례를 목격해 왔다. 인간이 감독하는 AI 인큐베이터들은 예측 가능한 방식으로 특정 업무를 수행하는 AI 하나를 만들기 위해 수년 간 심혈을 기울인다.
그러나 사이버 범죄자들은 이렇게 천천히 움직이려고 하지 않는다. 그들은 AI 기반 공격을 개발하기 위해 인간이 감독하지 않는 학습 모델을 사용하고자 한다. 예측 가능성보다 개발 속도가 이들에겐 훨씬 더 중요하기 때문이다. 바로 이 부분에서 블랙햇의 AI 사용이 특히 위험하다고 볼 수 있다. 이런 방식은 그 복잡성과 예측 불가능성 때문에 잠재적으로 재앙을 불러올 수도 있다.
공격 방법론이 지능화될수록 침해된 IoT 기기들로 군단이 형성될 위험도 커진다. 이는 무차별적인 대혼란을 만들어낼 수 있다. 아프리카화 꿀벌(Africanized honey bee)을 생각해보라(보안뉴스 주: 일명 ‘살인 벌(killer bee)’로도 알려진 아프리카화 꿀벌은 양봉꿀벌과 아프리카꿀벌의 이종교배 종으로 미국이 1950년대 꿀 생산 증대를 위해 브라질로부터 도입했으나 이후 미주 전역으로 전파, 그 공격성으로 인해 수많은 인명피해를 일으켰다).
사이버 보안 연구 커뮤니티에서 가장 똑똑하고 최고라고 평가받는 사람들이 지금 규제가 필요하다고 외치고 있다면, 이는 그들이 사이버 범죄자 커뮤니티에서 AI 기반의 공격이 진지하게 구축되고 있다는 사실을 실제 목격하고 있기 때문이다. AI 기반의 공격은 인간의 감독 없이 현실화될 가능성이 높다.
2. 차세대 모르픽 멀웨어(Morphic Malware)
자동화한 취약점 탐지 및 데이터 분석에 바탕을 둔 기기들이 빠르면 내년부터 멀웨어를 만들어내기 시작할 것이다. 이른바 ‘모르픽 멀웨어’는 새로운 건 아니지만 AI를 이용해서 등장하는 건 최초가 될 것이다. 탐지를 피하기 위해 기기의 방식으로 기기가 작성한 코드들이 정교하면서도 새로운 형태로 나타나게 될 것이다. 기존 툴의 자연스런 진화와 함께 사이버 범죄자들은 각각의 고유한 취약점에 최적화된 최고의 익스플로잇을 개발할 수 있을 것이다. 멀웨어는 이미 학습 모델을 이용해서 보안 장치를 피해가고 있으며, 단 하루 동안 수백만 개의 바이러스 변종을 생산해낼 수 있다. 그러나 아직까지 이 모든 일은 알고리즘에 기초한 것으로, 그 결과물에서 대단한 정교함이 발견되지는 않았다.
3. 하이브넷(hivenet)과 스웜봇(swarmbot)
AI 기술을 이용해서 예측 가능한 소프트웨어 시스템을 프로그래밍한 사례는 많이 나와 있다. 이런 종류의 툴은 방대한 규모의 전문가 지식 데이터베이스를 활용해서 최근에 더욱 발전했다. 이 데이터베이스는 예측의 정확성을 높이기 위해 작은 데이터들을 수십억 회씩 업데이트해오면서 구축된 것이다. 이렇게 예측 가능한 분석을 통해 우리는 세계를 변화시키는 데 컴퓨팅 자원이 어떻게 쓰일 수 있을지에 대해 새로운 패러다임을 고려해볼 수 있다.
보안 업계가 이미 목격한 것을 기반으로 예측해보건대, 사이버 범죄자들은 침해된 기기들로 지능적인 군단을 구성해서 봇넷(botnet)을 대체할 가능성이 높다. 더 효과적인 공격 매개를 만들기 위해 딥 러닝 기술을 적용할 확률이 높다는 뜻이다. 기존의 봇넷은 단순히 봇 주인으로부터 공격 개시 명령을 기다리는 노예에 불과했다. 그러나 각각의 노드들이 감시를 거의 받지 않고 자체적인 결정을 내릴 수 있게 된다면 무슨 일이 일어날까? 아니면 완전히 자율적으로 공격을 펼치게 된다면? 주인의 명령 없이 공격을 개시하게 된다면 어떤 일이 벌어질까?
이는 봇넷을 대신해 하이브넷의 시대가 올 것이라는 의미다. 하이브넷은 유사 사례 기반의 자가 학습을 통해 유례없는 규모로 취약한 시스템을 공격하게 될 것이다. 하이브넷은 침해된 기기들로 군단을 만들어 움직일 수도 있다. 이는 ‘스웜봇’이라고도 부르는데, 스웜봇은 한 번에 모든 공격 매개를 식별하고 저지할 수 있다. 하이브넷은 기하급수적으로 확대될 수 있으며, 동시다발적으로 여러 타깃을 공격할 수도 있다.
다가오는 것: 인텔리전트 전쟁
핵심 사회기반시설을 포함해 네트워크와 서비스를 보호하는 일에는 체계적인 접근이 필요하다. 네트워크 밖의 의도적인 엔지니어링 취약점들을 검토하는 것에서부터 적절한 네트워크 보안 툴을 적용하는 것까지 아울러서 요구된다. 지금은 대부분의 조직이 별개의, 그리고 각기 분리된 보안 기기들을 갖춘 상태다. 보안을 통합적으로 접근하는 것은 분산 네트워크 전역에 가시성을 확보하는 일이며, 알려지지 않은 위협을 탐지하고, 실시간으로 위협 인텔리전스를 생성할 수 있는 일이다. 또한, 망 분리를 극대화할 수 있고, 침해된 기기 및 시스템을 분리할 수 있으며, 협력해서 공격에 대응할 수 있도록 해주기도 한다.
AI는 굉장한 혜택을 약속하고 있다. 조직들이 저마다의 힘을 최대로 활용할 수 있도록 약속한다. 그러나 AI는 사이버 범죄자들이 악의를 갖고 활용할 때 재앙의 전조가 될 수도 있다. 머신 러닝이나 AI 같은 기술을 활용하는 주체가 누구든지 간에, 그는 점차 확대되는 AI 전쟁에서 살아남기 위해 본질적인 보안과 방어 시스템을 갖춰야만 할 것이다.
글 : 데릭 맨키(Derek Manky)
[국제부 오다인 기자(boan2@boannews.com)]
Copyrighted 2015. UBM-Tech. 117153:0515BC
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
오다인기자 기사보기
[2024-11-22] 
.jpg)
.jpg)
.jpg)
.jpg)
