Home > 전체기사
호주 보안 업체, 사일런스의 인공지능 솔루션 뚫었다고 주장
  |  입력 : 2019-07-19 19:14
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기
블랙베리 사일런스의 솔루션에서 특정 게임과 관련된 편향성 발견해
편향성 이용하니 멀웨어와 해킹 도구가 높은 확률로 무사통과해


[보안뉴스 문가용 기자] 호주의 사이버 보안 업체 스카이라이트(Skylight)의 전문가들이, 블랙베리 사일런스(Blackberry Cylance)의 인공지능 기반 백신 엔진을 속일 수 있는 방법을 발견했다고 주장했다. 이에 블랙베리 사일런스 측은 사실 확인 작업에 착수했다.

[이미지 = iclickart]


최근 몇 년 사이에 새롭게 출시된 사이버 보안 솔루션 치고 ‘인공지능’이나 ‘머신러닝’을 바탕으로 하고 있지 않은 것이 없을 정도로 이 두 가지 기술은 보안 업계에서 각광 받고 있는 상태다. 기존 솔루션으로는 해결할 수 없던 수많은 문제들을 해결할 수 있을 것처럼 광고되는 것은 덤이다. 이는 단지 한두 회사만의 이야기는 아니다.

이런 와중에 스카이라이트는 블랙베리 사일런스가 출시한 인공지능 기반 백신 엔진을 리버스 엔지니어링 하면서, “특정 비디오 게임에 대한 편향성을 알고리즘이 가지고 있”는 것을 발견했다. 스카이라이트는 이 게임의 이름은 밝히지 않고 있지만 인기가 매우 높은 게임이라고 하며, “그 인기 때문에 사일런스 측에서 몇 가지 파일을 특별하게 처리한 것으로 보인다”고 추측했다.

이를 이용했을 때 인공지능을 속이는 게 가능해진다. “해당 게임의 주요 실행파일에 존재하는 특수한 문자열 몇 개를 따서 이미 악성인 것으로 알려진 파일의 끝에 부착하면 솔루션이 악성 파일을 정상 파일로 분류합니다.”

스카이라이트가 블랙베리 사일런스의 제품을 선정한 건 “실리적인 이유” 때문이라고 한다. “모기업인 블랙베리는 보안 업계를 수년 동안 이끌어온 업체 중 하나죠. 사일런스는 인공지능 보안 솔루션 개발이는 측면에서 첫 손에 꼽히고요. 상징성이라는 측면에서 가장 파급력이 클 것이라고 봤습니다. 또한 솔루션이 무료로 배포되고 있다는 것도 중요한 요소였습니다.”

스카이라이트는 사일런스의 솔루션을 속이는 과정을 영상(https://www.youtube.com/watch?time_continue=2&v=NE4kgGjhf1Y)으로 공개했다. 그러면서 “이 과정은 사일런스의 제품만이 아니라 다른 인공지능 기반 솔루션들에도 통할만 한 것이라고 보고 있다”고 덧붙였다.

스카이라이트는 이 실험을 위해 다양한 해킹 툴과 멀웨어를 활용했다. 해킹 툴 중에는 미미캐츠(Mimikatz), 프로세스해커(ProcessHacker), 미터프리터(Meterpreter)가, 멀웨어 중에는 코인마이너(CoinMiner), 드리덱스(Dridex), 에모텟(Emotet), 고스트랫(Gh0stRAT), 코브터(Kovter), 나노봇(Nanobot), 칵봇(Qakbot), 트릭봇(Trickbot), 제우스(Zeus)가 사용됐다. 위 영상에서 나온 방법을 사용했을 때 해킹 도구와 멀웨어의 83%가 사일런스의 보안 엔진을 무사통과했다.

그러면서 스카이라이트는 현실적인 문제도 언급했다. “그렇다고 인공지능 솔루션이 허상이라는 건 아닙니다. 다만 계속해서 지적되어 왔었던, 인공지능의 편향성 문제가 보안 분야에서도 문제를 일으킬 수 있다는 걸 증명하고 싶었습니다. 기존의 백신 시그니처 솔루션을 통과하는 것보다 인공지능의 편향성을 찾아내는 게 더 어려운 일이기도 합니다.”

그렇다면 이 문제를 어떻게 해결해야 할까? “시그니처 기반 솔루션도 그것만 사용되었을 때는 한없이 무력해지고 있습니다. 인공지능도 그것만 사용되었을 때는 저희가 발견한 문제가 있을 수 있습니다. 저희는 이 두 가지가 복합적으로 사용되는 게 가장 이상적이라고 봅니다. 즉 아직 알려지지 않은 문제를 찾아내는 데에는 인공지능과 머신러닝을 활용하되, 그것을 기존 솔루션과 방법론을 가지고 실험하고 확인하는 것이죠. 즉 또 다른 측면의 심층방어를 하자는 것입니다.”

그런데 스카이라이트는 이러한 발표를 하기 전에 블랙베리 사일런스에 미리 알리지 않았다. 패치나 설명의 기회를 주지 않은 것이다. 스카이라이트의 CTO인 샤하르 지니(Shahar Zini)는 “패치로 해결할 수 있는 소프트웨어 취약점과는 다른 유형의 약점이라고 봤다”고 설명한다. 또한 “상세한 기술적 설명을 공개한 것이 아니기 때문에 악용하기 힘들 것”이라고도 말했다. “앞으로도 상세한 내용을 공개하지 않을 생각입니다.”

한편 블랙베리 사일런스는 “현재 조사 팀이 이 문제를 살펴보고 있으며, 정말로 인공지능의 편향성 문제인지, 설정 오류 문제인지 파악하는 중”이라고 외신을 통해 말했다. 하지만 아직 조사 결과는 나오지 않고 있다.

보안 업체 브로미움(Bromium)의 CEO인 그레고리 웹(Gregory Webb)은 “코드는 그냥 코드일뿐”이라며, “이를 좋은 코드냐 나쁜 코드냐 판단하는 건 대단히 어려운 일”이라고 지적했다. “그런데 그 선악을 기계에게 결정하도록 한다? 그러한 발상 자체부터가 인공지능 기반 보안 솔루션의 문제라고 봅니다. 사람도 좋고 나쁜 걸 올바로 판단하지 못합니다. 하물며 기계이겠습니까?”

그러면서 웹은 “인공지능으로 모든 문제를 해결하려고 하니까 생기는 문제”라고도 말한다. “인공지능만 있으면 모든 문제가 사라지고, 미래까지도 예측할 수 있다고 모두가 믿고 있어요. 맹목적인 유행과 잘못된 믿음 - 즉, 광기 - 에는 한계가 없죠. 물론 인공지능이 가지고 있는 좋은 점들이 있는 건 사실입니다. 그러나 거기에 한계나 오류가 하나도 없을 순 없습니다. 과거 데이터를 바탕으로 미래에 있을 일을 예측하는 건, 사실을 서술하는 것과는 다르다는 걸 이해해야 합니다.”

3줄 요약
1. 블랙베리 사일런스의 인공지능 기반 솔루션에서 ‘편향성’과 관련된 문제 발견됨.
2. 블랙베리 사일런스 측은 “현재 조사 중”이라고만 발표. 그도 그럴 것이 발견자들이 미리 알리지 않고 공개해버렸음.
3. 한 보안 전문가는 인공지능을 보안의 신처럼 떠받드는 것 자체가 문제라고 지적.

[국제부 문가용 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기


  •  SNS에서도 보안뉴스를 받아보세요!! 
IBM 파워비즈 배너 2019년2월8일~2020년2월7일까지/7월25일 수정위즈디엔에스 2018파워비즈배너 시작 11월6일 20181105-20200131
설문조사
올해는 4차 산업혁명 시대에 따른 융합보안 이슈가 가장 큰 키워드가 되고 있습니다. 보안과 활발히 접목되고 있는 분야 가운데 가장 큰 관심 분야 한 가지만 꼽는다면?
인공지능(AI)
빅데이터
VR(가상현실)/AR(증강현실)
웨어러블
블록체인
스마트시티
자율주행차
클라우드 컴퓨팅
기타(댓글로)
      

하이크비전
CCTV / IP / NVR

인콘
통합관제 / 소방방재

현대틸스
팬틸트 / 카메라

아이디스
DVR / IP / VMS

시큐인포
CCTV / NVR

한화테크윈
CCTV 카메라 / 영상감시

티제이원
영상 보안 / 출입 통제

대명코퍼레이션
DVR / IP카메라

피엔에이
CCTV / IP 카메라 모듈

하이크비전 코리아
CCTV / IP / NVR

원우이엔지
줌카메라

동양유니텍
IR PTZ 카메라

다후아 코리아
CCTV / DVR

트루엔
IP 카메라

지케이테코
출입통제 / 얼굴인식

아이디스
DVR / IP / VMS

한국하니웰
CCTV / DVR

이화트론
DVR / IP / CCTV

선진인포텍
보안 오디오 장비 / 소프트웨어

테크스피어
손혈관 / 차량하부 검색기

씨게이트
보안감시전용 드라이브

슈프리마
출입통제 / 얼굴인식

아이티엑스엠투엠
DVR / NVR / IP CAMERA

디비시스
CCTV토탈솔루션

비전정보통신
IP카메라 / VMS / 폴

엔토스정보통신
DVR / NVR / CCTV

경인씨엔에스
CCTV / 자동복구장치

도마카바코리아
시큐리티 게이트

씨오피코리아
CCTV 영상 전송장비

다민정보산업
기업형 스토리지

씨엠아이텍
근태관리 소프트웨어 / 홍채 스케너

에스카
CCTV / 영상개선

보쉬시큐리티시스템즈
CCTV / 영상보안

테크어헤드
얼굴인식 소프트웨어

에스에스엔씨
방화벽 정책관리

옵텍스코리아
실내 실외 센서

나우시스템
네트워크 IP 스피커

신우테크
팬틸드 / 하우징

에프에스네트웍스
스피드 돔 카메라

엔클라우드
VMS / 스위치

케이제이테크
지문 / 얼굴 출입 통제기

사라다
지능형 객체 인식 시스템

알에프코리아
무선 브릿지 / AP

일산정밀
CCTV / 부품 / 윈도우

아이엔아이
울타리 침입 감지 시스템

구네보코리아
보안게이트

브이유텍
플랫폼 기반 통합 NVR

진명아이앤씨
CCTV / 카메라

이노뎁
VMS

새눈
CCTV 상태관리 솔루션

케이티앤씨
CCTV / 모듈 / 도어락

이후커뮤니케이션
CCTV / DVR

이스트컨트롤
통합 출입 통제 솔루션

아이유플러스
레이더 / 카메라

창우
폴대

두레옵트로닉스
카메라 렌즈

금성보안
CCTV / 출입통제 / NVR

지에스티엔지니어링
게이트 / 스피드게이트

엘림광통신
광전송링크

티에스아이솔루션
출입 통제 솔루션

대산시큐리티
CCTV 폴 / 함체 / 랙

더케이
투광기 / 차량번호인식

수퍼락
출입통제 시스템

포커스에이치앤에스
지능형 / 카메라

휴컴스
PTZ 카메라 / 줌카메라

세환엠에스
시큐리티 게이트

유진시스템코리아
팬틸트 / 하우징

카티스
출입통제 / 외곽경비

유니온커뮤니티
생체인식 / 출입통제