.jpg)
.jpg)
인공지능으로 하는 방어가 뜨거운 주제인 가운데, 인공지능 공격 툴 나와
생체 인식 기술과 합쳐져 고도의 표적 공격 실행할 수 있어
[보안뉴스 문가용 기자] 사이버 보안은 공격자와 방어자 간의 ‘번갈아 등 짚고 뛰어넘기’ 게임과 같다. 공격자가 굉장히 우수한 방법을 들고 나와 방어 체계를 무력화시키기 시작하면, 방어자들이 그걸 막아내는 기법을 만들어낸다. 그걸 또 공격자들이 뚫어내고, 방어자들은 다시 한 번 새로운 방어법을 들고 나온다. 그 순환이 지금 어느 시점에 도달했냐면, 바로 방어자들이 ‘인공지능과 머신 러닝으로 공격자들보다 우위에 서 있다’고 주장하는 단계다.
하지만 보안을 조금이라도 겪어본 사람은 누구나 그 주장이 영원히 지속되리라고 믿지 않는다. 언젠가 공격자들은 더 뛰어난 뭔가를 들고 나타날 것이 분명하다. 지난 주 미국에서 열린 세계적인 보안 행사 블랙햇(Black Hat)에서 왓슨(Watson)이라는 인공지능을 보유하고 있는 IBM에서 ‘해커들이 인공지능과 머신 러닝을 사용한 방어법을 뚫어내기 시작했다’는 소식을 가져왔다. 그러면서 제시한 것이 딥락커(DeepLocker)라는 AI 기반 멀웨어다.
IBM 내에서 왓슨을 담당하고 있는 팀인 IBM 리서치(IBM Research)의 마크 스토클린(Marc Stoecklin) 박사는 “인공지능을 사용해 여러 사이버 공격을 막고 보안을 강화하는 것도 중요하지만, 공격자들이 지금 어느 방향으로 가고 있는가도 알고 있어야 한다”고 강조했다. “그래서 저희 팀에서는 위협의 지형도를 이해하기 위해 꽤나 많은 시간을 투자합니다. 공격자들이 어떤 기술을 개발해냈고, 어떤 전략을 주로 사용하는지 알아내기 위한 것입니다.”
그러면서 스토클린은 “인공지능이 보안 업계에서도 뜨거운 주제인 것처럼 공격자들 사이에서도 화제”라고 설명했다. “현재 범죄자들은 현존하는 오픈소스 AI 툴을 사용해 멀웨어를 개발하거나, 아니면 AI 툴을 공격 무기로 활용하는 법을 연구하고 있습니다. 그리고 실제 효율이 높은 공격법이 하나 등장했습니다.” 그것이 바로 딥락커(DeepLocker)다. 누구나 무료로 사용할 수 있는 오픈소스 AI 기술로만 만들어진 것이다. “사이버 공격자들이 새로운 걸 만들어낸 게 아닙니다. 기존 AI 툴을 새롭게 사용하는 법을 알아낸 것뿐입니다.”
쉽게 말해 딥락커는 정상 애플리케이션 안에 멀웨어를 숨기는 인공지능 기술 사용법이다. 그러나 이는 굳이 인공지능 기술을 사용하지 않아도 해커들이 수없이 성공시켜 온 방법이다. 딥락커가 다른 것은 숨어있는 멀웨어를 발동시키기 위해 바이오메트릭스 기법을 활용한다는 것이다. 즉 공격자가 미리 정해준 표적의 생체 정보가 입력되었을 때만 악성 페이로드가 일을 시작하는 건데, 스토클린은 “딥락커가 수억 대의 컴퓨터에 설치되더라도, 정교한 표적 공격을 가할 수 있다는 뜻”이라고 설명한다.
스토클린 박사는 블로그를 통해 이러한 딥락커의 공격 기능을 두고 ‘저격수’에 비유했다. 무차별 살상을 하는 탱크나 미사일이 일반적인 사이버 공격과 비슷하다면, 딥락커는 멀리서 노리는 사람만을 정조준해서 쏘는 저격수라고 한 것. “딥락커는 기본적으로 잠행과 탐지 회피에 특화되어 있습니다. 계속해서 숨어 있다가 진짜로 노리는 표적이 나타났을 때에만 공격을 합니다. 사이버전 부대들이 사용하는 멀웨어나 공격 전략을 생각했을 때 딥락커가 매우 잘 어울린다는 걸 느낄 수 있는데요, 그렇기 때문에 딥락커의 출현에 커다란 상징성이 있습니다. 이제 누구나 정부 지원 공격자들처럼 행동할 수 있고, 누구나 그런 국가적 공격의 피해자가 될 수 있다는 뜻이거든요.”
아직 IBM이나 스토클린 박사는 특정 국가에서 딥락커를 이미 사용 중에 있다는 식의 뉘앙스를 풍기거나 암시하지 않고 있다. 하지만 불가능한 시나리오는 아니다. 이란을 겨냥한 과거의 스턱스넷(Stuxnet) 공격만 하더라도 당시에는 최신 기술이 집약된 것이었다. 하지만 결국에는 스턱스넷도 리버스 엔지니어링 되면서 낱낱이 분석됐다. 그러면서 미국과 이스라엘이 범인이라는 사실도 드러났다.
만약 스턱스넷의 페이로드가 딥락커에 담긴다면 어떻게 될까? 스토클린 박사는 “다른 건 몰라도 절대 리버스 엔지니어링이 되지는 않았을 것”이라고 말한다. 그렇다는 건 공격 배후 세력을 기술적으로 짐작하는 것조차 불가능하게 된다는 뜻이고, 그것만으로도 국가 지원 공격자들에게는 희소식이 아닐 수 없다. 생체 인식 기술을 통해 고도의 표적 공격이 가능하다는 것, 그러면서도 아무런 책임을 질 필요가 없다는 것은 사이버 무기로서 커다란 장점이다. 이런 부담이 없을 때 멀웨어 제작과 공격은 더 활발해진다.
이번 블랙햇에서 IBM은 워너크라이(WannaCry) 페이로드를 딥락커에 엠베드시키는 시연을 감행했다. 딥락커가 ‘숨기 위해’ 사용한 정상 앱은 일반적인 화상 회의용 애플리케이션이었다. 회의 참석자 중 표적이 된 사람이 나타나자 가만히 있던 워너크라이가 움직이기 시작했다. 만약 이 페이로드가 랜섬웨어 아닌 파괴형 멀웨어였다면 어떻게 됐을까? 표적이 된 이의 컴퓨터는 순식간에 벽돌로 변했을 것이라고 스토클린 박사는 설명한다.
“결국 공격자들은 AI를 훈련시켜 특정 인물을 알아보게 만들 수 있습니다. 그래서 그 인물이 포착되었을 때에만 - 화상 회의 환경이라면, 표적이 컴퓨터 앞에 앉아 웹캠으로 얼굴을 비췄을 때에 - 악성 페이로드의 잠금이 해제되는 겁니다. 해제 이후에는 의도된 악성 행위들이 시작되는 것이고요.”
위 경우는 안면 인식이 예로 나왔지만 행동 패턴과 관련된 생체 정보나 특정 애플리케이션의 존재 유무 등 여러 가지 것들을 AI에 학습시켜 표적 공격을 하는 것도 가능하다고 스토클린 박사는 강연장에서 설명을 이어갔다. “기자를 공격한다면 특정 문서 파일이나 단어, 글, 매체 이름 등을 학습시킬 수 있습니다. 위치 정보를 추가시켜 특정 지역에 있는 표적을 노릴 수도 있고, IP 주소를 사용할 수도 있습니다. 표적을 가리키는 모든 정보를 AI는 학습할 수 있습니다.”
공격자들은 어떤 식으로 딥락커를 배포할까? IBM은 씨클리너(CCleaner) 사건과 비슷한 형태를 예상한다. 씨클리너는 공격자들이 본 개발사 서버에 있는 파일을 감염시켜, 수백만 사용자들이 아무런 의심 없이 다운로드 받아 설치하도록 만들었다. 이른바 공급망 공격을 통해 딥락커도 퍼져나갈 수 있다는 것이다. 다만 씨클리너와 다른 건 공격의 진정한 표적이 나타나기 전까지 멀웨어는 발동하지 않고, 따라서 탐지되지 않는다는 것이다. “혹은 표적이 잘 사용하는 콘텐츠 관리 시스템의 애드온 형태로 배포될 수도 있습니다.”
딥락커 공격은 일부 고위급 인사들에게나 국한된 위협인 것일까? 스토클린 박사는 블로그를 통해 “결국 현대의 규칙 기반 보안 툴들을 무용지물로 만든다는 것이 입증된다면 더 많은 사용자(즉 공격자)가 나타날 것”이라고 썼다. “방어를 해야 하는 입장에서는 이러한 점을 인지하고 인공지능의 강력함을 활용하기 시작해야 합니다. 특히 탐지 기술을 개발하는 데 있어서 인공지능을 응용한다면 가능성이 무궁무진하게 열릴 것으로 보입니다. 즉 현재의 규칙 기반 방어법을 뛰어넘어야 한다는 뜻입니다. 인공지능이 공격의 효율을 높인 것처럼, 방어의 효율성을 높이는 문제도 고민해야 합니다. 사이버 기만 전술을 사용해 인공지능 공격이 아예 엉뚱한 곳에 투자되도록 유도하는 것도 좋은 전략이라고 봅니다.”
하지만 딥락커가 탐지와 분석 모두가 불가능한 멀웨어라고 믿지 않는 부류도 있다. 보안 업체 하이테크브리지(High-Tech Bridge)의 CEO인 일리야 콜로첸코(Ilia Kolochenko)는 보안 전문 외신 시큐리티위크와의 인터뷰를 통해 “아직 인공지능 기술을 활용한 공격을 실제로 맞닥트리기에는 멀었다”고 말했다. “더 정확히는, 범죄자들이 가지고 있는 지능을 뛰어넘는 인공지능이 나오기에는 멀었다는 겁니다. 물론 인공지능으로 효율을 높이거나 할 수는 있지만, 완전히 색다른 공격 툴이나 개념이 당장에 나오지는 않을 거라는 뜻이기도 합니다. 보안 업계 내에서도 인공지능을 활용한 유의미한 실험 결과가 나오고 있죠. 아직은 인공지능의 공격을 무서워할 필요가 없어 보입니다.”
3줄 요약
1. 공격 표적의 특징을 인공지능에 학습시키면, 고도의 표적 공격 가능.
2. 이 개념을 실제로 탑재하여 등장한 것이 바로 딥락커라는 멀웨어. 규칙 기반 방어 솔루션으로는 탐지가 불가능하고, 리버스 엔지니어링도 안 됨.
3. 일각에서는 “아직은 범죄자들 머리가 더 좋아서, 인공지능 무서워하기 이르다”고 반박.
[국제부 문가용 기자(globoan@boannews.com)]
생체 인식 기술과 합쳐져 고도의 표적 공격 실행할 수 있어
[보안뉴스 문가용 기자] 사이버 보안은 공격자와 방어자 간의 ‘번갈아 등 짚고 뛰어넘기’ 게임과 같다. 공격자가 굉장히 우수한 방법을 들고 나와 방어 체계를 무력화시키기 시작하면, 방어자들이 그걸 막아내는 기법을 만들어낸다. 그걸 또 공격자들이 뚫어내고, 방어자들은 다시 한 번 새로운 방어법을 들고 나온다. 그 순환이 지금 어느 시점에 도달했냐면, 바로 방어자들이 ‘인공지능과 머신 러닝으로 공격자들보다 우위에 서 있다’고 주장하는 단계다.
[이미지 = iclickart]
하지만 보안을 조금이라도 겪어본 사람은 누구나 그 주장이 영원히 지속되리라고 믿지 않는다. 언젠가 공격자들은 더 뛰어난 뭔가를 들고 나타날 것이 분명하다. 지난 주 미국에서 열린 세계적인 보안 행사 블랙햇(Black Hat)에서 왓슨(Watson)이라는 인공지능을 보유하고 있는 IBM에서 ‘해커들이 인공지능과 머신 러닝을 사용한 방어법을 뚫어내기 시작했다’는 소식을 가져왔다. 그러면서 제시한 것이 딥락커(DeepLocker)라는 AI 기반 멀웨어다.
IBM 내에서 왓슨을 담당하고 있는 팀인 IBM 리서치(IBM Research)의 마크 스토클린(Marc Stoecklin) 박사는 “인공지능을 사용해 여러 사이버 공격을 막고 보안을 강화하는 것도 중요하지만, 공격자들이 지금 어느 방향으로 가고 있는가도 알고 있어야 한다”고 강조했다. “그래서 저희 팀에서는 위협의 지형도를 이해하기 위해 꽤나 많은 시간을 투자합니다. 공격자들이 어떤 기술을 개발해냈고, 어떤 전략을 주로 사용하는지 알아내기 위한 것입니다.”
그러면서 스토클린은 “인공지능이 보안 업계에서도 뜨거운 주제인 것처럼 공격자들 사이에서도 화제”라고 설명했다. “현재 범죄자들은 현존하는 오픈소스 AI 툴을 사용해 멀웨어를 개발하거나, 아니면 AI 툴을 공격 무기로 활용하는 법을 연구하고 있습니다. 그리고 실제 효율이 높은 공격법이 하나 등장했습니다.” 그것이 바로 딥락커(DeepLocker)다. 누구나 무료로 사용할 수 있는 오픈소스 AI 기술로만 만들어진 것이다. “사이버 공격자들이 새로운 걸 만들어낸 게 아닙니다. 기존 AI 툴을 새롭게 사용하는 법을 알아낸 것뿐입니다.”
쉽게 말해 딥락커는 정상 애플리케이션 안에 멀웨어를 숨기는 인공지능 기술 사용법이다. 그러나 이는 굳이 인공지능 기술을 사용하지 않아도 해커들이 수없이 성공시켜 온 방법이다. 딥락커가 다른 것은 숨어있는 멀웨어를 발동시키기 위해 바이오메트릭스 기법을 활용한다는 것이다. 즉 공격자가 미리 정해준 표적의 생체 정보가 입력되었을 때만 악성 페이로드가 일을 시작하는 건데, 스토클린은 “딥락커가 수억 대의 컴퓨터에 설치되더라도, 정교한 표적 공격을 가할 수 있다는 뜻”이라고 설명한다.
스토클린 박사는 블로그를 통해 이러한 딥락커의 공격 기능을 두고 ‘저격수’에 비유했다. 무차별 살상을 하는 탱크나 미사일이 일반적인 사이버 공격과 비슷하다면, 딥락커는 멀리서 노리는 사람만을 정조준해서 쏘는 저격수라고 한 것. “딥락커는 기본적으로 잠행과 탐지 회피에 특화되어 있습니다. 계속해서 숨어 있다가 진짜로 노리는 표적이 나타났을 때에만 공격을 합니다. 사이버전 부대들이 사용하는 멀웨어나 공격 전략을 생각했을 때 딥락커가 매우 잘 어울린다는 걸 느낄 수 있는데요, 그렇기 때문에 딥락커의 출현에 커다란 상징성이 있습니다. 이제 누구나 정부 지원 공격자들처럼 행동할 수 있고, 누구나 그런 국가적 공격의 피해자가 될 수 있다는 뜻이거든요.”
아직 IBM이나 스토클린 박사는 특정 국가에서 딥락커를 이미 사용 중에 있다는 식의 뉘앙스를 풍기거나 암시하지 않고 있다. 하지만 불가능한 시나리오는 아니다. 이란을 겨냥한 과거의 스턱스넷(Stuxnet) 공격만 하더라도 당시에는 최신 기술이 집약된 것이었다. 하지만 결국에는 스턱스넷도 리버스 엔지니어링 되면서 낱낱이 분석됐다. 그러면서 미국과 이스라엘이 범인이라는 사실도 드러났다.
만약 스턱스넷의 페이로드가 딥락커에 담긴다면 어떻게 될까? 스토클린 박사는 “다른 건 몰라도 절대 리버스 엔지니어링이 되지는 않았을 것”이라고 말한다. 그렇다는 건 공격 배후 세력을 기술적으로 짐작하는 것조차 불가능하게 된다는 뜻이고, 그것만으로도 국가 지원 공격자들에게는 희소식이 아닐 수 없다. 생체 인식 기술을 통해 고도의 표적 공격이 가능하다는 것, 그러면서도 아무런 책임을 질 필요가 없다는 것은 사이버 무기로서 커다란 장점이다. 이런 부담이 없을 때 멀웨어 제작과 공격은 더 활발해진다.
이번 블랙햇에서 IBM은 워너크라이(WannaCry) 페이로드를 딥락커에 엠베드시키는 시연을 감행했다. 딥락커가 ‘숨기 위해’ 사용한 정상 앱은 일반적인 화상 회의용 애플리케이션이었다. 회의 참석자 중 표적이 된 사람이 나타나자 가만히 있던 워너크라이가 움직이기 시작했다. 만약 이 페이로드가 랜섬웨어 아닌 파괴형 멀웨어였다면 어떻게 됐을까? 표적이 된 이의 컴퓨터는 순식간에 벽돌로 변했을 것이라고 스토클린 박사는 설명한다.
“결국 공격자들은 AI를 훈련시켜 특정 인물을 알아보게 만들 수 있습니다. 그래서 그 인물이 포착되었을 때에만 - 화상 회의 환경이라면, 표적이 컴퓨터 앞에 앉아 웹캠으로 얼굴을 비췄을 때에 - 악성 페이로드의 잠금이 해제되는 겁니다. 해제 이후에는 의도된 악성 행위들이 시작되는 것이고요.”
위 경우는 안면 인식이 예로 나왔지만 행동 패턴과 관련된 생체 정보나 특정 애플리케이션의 존재 유무 등 여러 가지 것들을 AI에 학습시켜 표적 공격을 하는 것도 가능하다고 스토클린 박사는 강연장에서 설명을 이어갔다. “기자를 공격한다면 특정 문서 파일이나 단어, 글, 매체 이름 등을 학습시킬 수 있습니다. 위치 정보를 추가시켜 특정 지역에 있는 표적을 노릴 수도 있고, IP 주소를 사용할 수도 있습니다. 표적을 가리키는 모든 정보를 AI는 학습할 수 있습니다.”
공격자들은 어떤 식으로 딥락커를 배포할까? IBM은 씨클리너(CCleaner) 사건과 비슷한 형태를 예상한다. 씨클리너는 공격자들이 본 개발사 서버에 있는 파일을 감염시켜, 수백만 사용자들이 아무런 의심 없이 다운로드 받아 설치하도록 만들었다. 이른바 공급망 공격을 통해 딥락커도 퍼져나갈 수 있다는 것이다. 다만 씨클리너와 다른 건 공격의 진정한 표적이 나타나기 전까지 멀웨어는 발동하지 않고, 따라서 탐지되지 않는다는 것이다. “혹은 표적이 잘 사용하는 콘텐츠 관리 시스템의 애드온 형태로 배포될 수도 있습니다.”
딥락커 공격은 일부 고위급 인사들에게나 국한된 위협인 것일까? 스토클린 박사는 블로그를 통해 “결국 현대의 규칙 기반 보안 툴들을 무용지물로 만든다는 것이 입증된다면 더 많은 사용자(즉 공격자)가 나타날 것”이라고 썼다. “방어를 해야 하는 입장에서는 이러한 점을 인지하고 인공지능의 강력함을 활용하기 시작해야 합니다. 특히 탐지 기술을 개발하는 데 있어서 인공지능을 응용한다면 가능성이 무궁무진하게 열릴 것으로 보입니다. 즉 현재의 규칙 기반 방어법을 뛰어넘어야 한다는 뜻입니다. 인공지능이 공격의 효율을 높인 것처럼, 방어의 효율성을 높이는 문제도 고민해야 합니다. 사이버 기만 전술을 사용해 인공지능 공격이 아예 엉뚱한 곳에 투자되도록 유도하는 것도 좋은 전략이라고 봅니다.”
하지만 딥락커가 탐지와 분석 모두가 불가능한 멀웨어라고 믿지 않는 부류도 있다. 보안 업체 하이테크브리지(High-Tech Bridge)의 CEO인 일리야 콜로첸코(Ilia Kolochenko)는 보안 전문 외신 시큐리티위크와의 인터뷰를 통해 “아직 인공지능 기술을 활용한 공격을 실제로 맞닥트리기에는 멀었다”고 말했다. “더 정확히는, 범죄자들이 가지고 있는 지능을 뛰어넘는 인공지능이 나오기에는 멀었다는 겁니다. 물론 인공지능으로 효율을 높이거나 할 수는 있지만, 완전히 색다른 공격 툴이나 개념이 당장에 나오지는 않을 거라는 뜻이기도 합니다. 보안 업계 내에서도 인공지능을 활용한 유의미한 실험 결과가 나오고 있죠. 아직은 인공지능의 공격을 무서워할 필요가 없어 보입니다.”
3줄 요약
1. 공격 표적의 특징을 인공지능에 학습시키면, 고도의 표적 공격 가능.
2. 이 개념을 실제로 탑재하여 등장한 것이 바로 딥락커라는 멀웨어. 규칙 기반 방어 솔루션으로는 탐지가 불가능하고, 리버스 엔지니어링도 안 됨.
3. 일각에서는 “아직은 범죄자들 머리가 더 좋아서, 인공지능 무서워하기 이르다”고 반박.
[국제부 문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-11-22] 
.jpg)
.jpg)
.jpg)
.jpg)
