프랑스의 보안 스타트업 글림스가 파리올림픽으로 한껏 증폭된 자신감을 가지고 한국의 보안 전시회 ISEC 2024를 찾았다. 인공지능이라는 키워드가 이미 일종의 레드오션처럼 여기 저기 외쳐지는 가운데 만난 글림스에서 그 자신감의 근거를 찾는 건 어렵지 않았다.
[보안뉴스 문가용 기자] ISEC 2024 현장을 처음 찾은 신생 보안 기업이 하나 있다. 프랑스에 근거지를 두고 있는 ‘글림스(GLIMPS)’로, 너도 나도 인공지능 보안을 필두로 기술력을 자랑하는 전시회 공간에서 이 회사 역시 인공지능을 외치고 있었다. 흔한 인공지능 업체 중 하나겠거니 했는데, 설명을 들어보니 조금은 독특한 점이 있어 흥미를 끈다. CEO인 시릴 비뇽(Cyrille Vignon)과 잠시 시간을 갖게 됐다.
보안뉴스 : 글림스라는 이름이 생소하다.
시릴 비뇽 : 보안에 인공지능 기술을 접목하여 고급 탐지와 대응을 할 수 있게 해 주는 회사다. 영어 표현 중에 ‘in a glimpse’라는 말이 있다. ‘한 눈에’라는 뜻이다. 고급 인공지능 기술을 활용하면 그 어떤 위협이라도 한 눈에 파악할 수 있다는 믿음으로 우리 회사는 출발했고, 그러한 기술력을 구현해 고객들에게 제공하고 있기도 하다. 그래서 글림스다. 현재 50명 정도의 인력으로 구성되어 있는데, 인공지능 분야와 리버스 엔지니어링 분야 전문가들이 반반쯤 섞여 있다.
보안뉴스 : 위협을 빠르게 탐지한다는 거, 인공지능 기술을 접목시킨 모든 보안 회사들이 하는 말이 정확히 그거다. 그것도 수년 전부터.
시릴 비뇽 : 글림스의 차이점은 방금 말한 것처럼 인공지능 전문가와 리버스 엔지니어링 전문가를 대략 비슷한 비율로 보유하고 있다는 것이다. 그렇기 때문에 우리 인공지능 솔루션인 글림스 멀웨어(GLIMPS Malware)는 리버스 엔지니어링이라는 임무를 수행하는 데에 특화되어 있다고 볼 수 있다. 모든 것을 다 잘 하는 인공지능, 다목적 인공지능을 보안에 접목한 게 아니라 처음부터 보안 전문가를 훈련시키듯 만들어낸 인공지능 모델이 보안 업무에 투입되는 거라고 보면 된다.
보안뉴스 : 보안에 특화된 인공지능은, 다목적 인공지능에 보안 임무를 맡기는 것과 다른가?
시릴 비뇽 : 인공지능이라는 말이 요즘 조금 과하게 사용되는 감이 없지 않다고 본다. 보안 분야만 그런 게 아니라 어디든지 인공지능이라는 키워드를 앞세운다. 그래서 인공지능으로 굳이 하지 않아도 될 것들도 인공지능으로 수행하려 드는 현상도 나타난다. 어떤 느낌이냐면, 파리 한 마리 잡는데 탱크를 동원하는 것과 비슷하다. 인공지능을 자랑하는 모든 경우가 그렇다는 게 아니라, 꽤나 많은 용례가 그렇다는 것이다.
이는 사실 신기술이라는 게 등장할 때마다 나타나는 현상이다. 기술의 발전에 매료된 사람들이 그것을 탐구하는 과정에서 이곳 저곳에 응용하다보니 그럴 수밖에 없다. 그러다가 조금 진정 국면이 찾아오는데, 그러면서 정확한 용처가 개발되거나 발견된다. 인공지능도 지금은 범용성이 강조된 ‘생성형 인공지능’이 각광 받고 있는데, 조금 지나면 각 분야에 특화된 ‘전문가 인공지능’으로 대체될 것으로 예상한다. 글림스 멀웨어는 리버스 엔지니어의 일을 고스란히 구현해낼 수 있는 ‘리버서 인공지능’이라고 할 수 있다.
보안뉴스 : 챗GPT와 같은 기술로 보안 임무를 수행하거나 악성 공격을 하기도 한다던데...
시릴 비뇽 : 어느 정도는 가능할 것이다. 하지만 한계가 있다. 그런 인공지능 기술들이 하는 건 학습 과정 중에 입력된 데이터를 바탕으로 새로운 통찰을 이끌어내 결과를 내는 것인데, 그렇기 때문에 그 결과가 왜 나왔는지는 아무도 설명할 수 없다. 그러니 인공지능이 낸 답을 무조건 신뢰하기가 힘들다는 문제가 발생한다. 참고 자료로서는 쓸 수 있으되, 그것에 보안 임무를 전적으로 맡길 정도로 신뢰하기는 어렵다.
예를 들어 이런 일이 있었다. 예전에 프랑스 국방부에서 일할 때였는데, 당시 인공지능 모델 개발 프로젝트에 참여했었다. 인공지능이 탱크를 알아서 분별할 수 있도록 하려고 수많은 사진들을 입력했다. 그래서 그 인공지능이 탱크를 보고 탱크라는 판단을 내릴 수 있게 했다. 그런데 어느 날 고양이 사진을 보여주었는데, 탱크라고 하는 거다. 그것과 비슷한 오류의 사례들이 꾸준히 나타났다. 하지만 우리는 인공지능 내부를 볼 수 없어서 왜 그런 오류가 발생하는지 알 수 없었다. 그걸 파악하는 데 수개월이 걸렸다.
보안뉴스 : 결국 알아냈는가?
시릴 비뇽 : 알아냈다. 우리가 탱크 데이터를 인공지능 모델에 입력할 때 한 가지 간과한 게 있었다. 모든 탱크 이미지가 화창하고 파란 하늘 아래서 촬영된 것이었다. 모든 배경에 파란 하늘이 있었기 때문에 인공지능 모델은 ‘파란 하늘’을 ‘탱크’와 연관 짓고 있었다. 그러니 같은 파란 하늘이 있다면 고양이도 탱크가 되는 것이었다.
보안뉴스 : 그런 경험들이 글림스 멀웨어에 어떤 영향을 주었는가?
시릴 비뇽 : 앞서 글림스의 인공지능 모델은 인간 리버스 엔지니어처럼 작동한다고 말했었다. 그렇기 때문에 답을 내고 그것을 통보하는 것에 그치는 게 아니라, 그 답이 나오기까지의 근거도 제시한다. 즉 ‘왜’를 설명한다는 것이다. 사용자들은 보고서를 보면서 네트워크 안에 어떤 위협이 있는지 파악할 수 있을 뿐만 아니라, 그 위협이 위협으로 간주되는 이유까지도 알게 된다. 그러므로 어떤 위협에 어느 수위의 대응을 할 것인지 결정하고 맞춤형으로 대응할 수 있다. 인간 분석가가 ‘왜’를 알게 된다는 건 보안 업무를 수행하는 데 있어 큰 힘이 된다. 무엇보다 인공지능 솔루션이라는 것을 신뢰할 수 있게 된다는 게 크다.
보안뉴스 : 어떤 경우 ‘왜’가 그리 중요치 않을 수도 있다. 오히려 귀찮을 수도 있다.
시릴 비뇽 : 맞다. ‘왜’를 알고 세밀하게 대응하고자 하는 사용자도 있지만, 그냥 인공지능이 낸 결과값을 믿고, 자동 대응까지 알아서 되기를 바라는 사용자도 있다. 글림스의 솔루션은 단계별로 제공되는데, ‘왜’가 굳이 필요하지 않다면 그런 옵션을 제하고 솔루션을 구독하면 된다. 구독을 기반으로 한 가격 정책을 유지하고 있기 때문에 필요에 따라 유연하게 선택하면 된다. 한 번에 많은 예산을 내야만 글림스의 보안 기술을 경험할 수 있는 게 아니라는 것도 구독제의 장점이다.
보안뉴스 : 리버스 엔지니어링을 전문으로 하는 인공지능이, 인공지능을 보안에 활용하는 최고의 용례일까?
시릴 비뇽 : 그렇지 않다. 보안은 이제 특정 해킹 기술이나 그룹을 대상으로 방어 기술을 개발하는 데에 집중하지 않는다. 사이버 범죄 산업 전체의 구조를 파악하여 그에 따른 대응을 하는 게 점점 더 중요해지고 있다. 사이버 범죄 산업은 점점 세분화 되고 있다. 자기 역할과 전문 분야에 충실한 자들이 연합하여 하나의 거대 범죄 프로젝트를 꾸리는 경우가 많아지고 있다는 것이다. 최초 침투를 전문으로 하면 그것만 하고, 페이로드를 개발하는 데 전문이면 그것만 한다. 협상 전문가는 피해자들과의 협상에 집중한다. 그런 사람들이 한 데 뭉쳐서 범죄를 수행한다. 즉 점점 더 전문적으로 변해간다는 뜻이다. 전문성이 높아지니 효율성도 높아지고, 그러므로 우리의 방어 체계도 여기에 맞게 최신화 되어야 한다.
하지만 현존하는 솔루션들이나 기존의 방어 기술로는 이런 식의 대처가 어렵다. 고도화 된 자동화 기술로 이들 산업을 모니터링 하고, 데이터를 수집하고, 통찰을 이끌어내며, 그에 맞는 대응을 실시간으로 해야 한다. 그런 기술이 뒷받침 되어 있지 않는 이상 사이버 범죄 산업을 통째로 파악하고 그에 맞게 대응한다는 건 이상론에 그칠 뿐이다. 인공지능 기술은 앞으로 우리가 그런 통체적인 대응을 할 수 있도록 할 것이고, 그런 작업에 특화된 인공지능이 하나 둘 등장할 것이라고 본다.
글림스의 경우 올해 프랑스에서 열린 하계올림픽에서 많은 위협을 사전에 대응한 경험을 가지고 있다. 그 때에도 올림픽 인프라 전반에 걸쳐 들어오는 온갖 공격 시도들을 자동으로 탐지하고 대응했었다. 물론 글림스 혼자 올림픽 전체를 다 보호한 건 아니고, 수많은 보안 업체들과 전문가들이 힘을 합했기에 가능한 일이었다. 다만 우리가 맡은 영역에서 글림스의 인공지능은 뛰어난 성능을 입증했다. 사담이지만 당시 공격자들 중 일부는 하도 사이버 공격 시도가 막히니까 물리 공격으로 전환하기도 했었다. 그것 역시 경찰과의 협조로 막아낼 수는 있었다.
보안뉴스 : 보안 업계에서는 드문 승리의 소식이다.
시릴 비뇽 : 드문가? 사이버 공격 사례가 많긴 해도 보안 업계 역시 굳건히 방어에 성공하고 있다고 본다. 물론 운동장 자체가 기울어져 있어서 사이버 공격자들이 훨씬 유리한 고지에서 온갖 공격을 퍼붓는 게 가능하긴 하다. 보안 업계가 불리한 입장인 건 맞고, 그래서 우리가 늘 지는 것처럼 보이기도 한다. 하지만 그런 여건 자체를 고려하면 오히려 우리가 좀 더 잘 하고 있는 거라고 해석해도 될 것이다. 지금 한창 연구되고 있는 인공지능은 이 ‘기울어진 운동장’을 어느 정도 평평하게 만드는 데 큰 도움이 될 거라고 기대한다. 인공지능이 공격자들에게 도움이 되는 것보다 보안 전문가들에게 더 큰 이로움을 가져다 줄 것이라고 믿는다.
보안뉴스 : 설명 가능한 글림스 멀웨어에 대해 더 알고 싶다면 어떻게 해야 하는가?
시릴 비뇽 : 한국 사용자들을 위한 홈페이지가 이미 마련되어 있으니 참고하시면 되겠다. 메일을 통해 별도의 문의를 넣어주셔도 무방하다. 그 외에 제품 소개서도 열람이 가능하다.
[국제부 문가용 기자(globoan@boannews.com)]
[보안뉴스 문가용 기자] ISEC 2024 현장을 처음 찾은 신생 보안 기업이 하나 있다. 프랑스에 근거지를 두고 있는 ‘글림스(GLIMPS)’로, 너도 나도 인공지능 보안을 필두로 기술력을 자랑하는 전시회 공간에서 이 회사 역시 인공지능을 외치고 있었다. 흔한 인공지능 업체 중 하나겠거니 했는데, 설명을 들어보니 조금은 독특한 점이 있어 흥미를 끈다. CEO인 시릴 비뇽(Cyrille Vignon)과 잠시 시간을 갖게 됐다.
▲글림스 시릴 비뇽 CEO[사진=보안뉴스]
보안뉴스 : 글림스라는 이름이 생소하다.
시릴 비뇽 : 보안에 인공지능 기술을 접목하여 고급 탐지와 대응을 할 수 있게 해 주는 회사다. 영어 표현 중에 ‘in a glimpse’라는 말이 있다. ‘한 눈에’라는 뜻이다. 고급 인공지능 기술을 활용하면 그 어떤 위협이라도 한 눈에 파악할 수 있다는 믿음으로 우리 회사는 출발했고, 그러한 기술력을 구현해 고객들에게 제공하고 있기도 하다. 그래서 글림스다. 현재 50명 정도의 인력으로 구성되어 있는데, 인공지능 분야와 리버스 엔지니어링 분야 전문가들이 반반쯤 섞여 있다.
보안뉴스 : 위협을 빠르게 탐지한다는 거, 인공지능 기술을 접목시킨 모든 보안 회사들이 하는 말이 정확히 그거다. 그것도 수년 전부터.
시릴 비뇽 : 글림스의 차이점은 방금 말한 것처럼 인공지능 전문가와 리버스 엔지니어링 전문가를 대략 비슷한 비율로 보유하고 있다는 것이다. 그렇기 때문에 우리 인공지능 솔루션인 글림스 멀웨어(GLIMPS Malware)는 리버스 엔지니어링이라는 임무를 수행하는 데에 특화되어 있다고 볼 수 있다. 모든 것을 다 잘 하는 인공지능, 다목적 인공지능을 보안에 접목한 게 아니라 처음부터 보안 전문가를 훈련시키듯 만들어낸 인공지능 모델이 보안 업무에 투입되는 거라고 보면 된다.
보안뉴스 : 보안에 특화된 인공지능은, 다목적 인공지능에 보안 임무를 맡기는 것과 다른가?
시릴 비뇽 : 인공지능이라는 말이 요즘 조금 과하게 사용되는 감이 없지 않다고 본다. 보안 분야만 그런 게 아니라 어디든지 인공지능이라는 키워드를 앞세운다. 그래서 인공지능으로 굳이 하지 않아도 될 것들도 인공지능으로 수행하려 드는 현상도 나타난다. 어떤 느낌이냐면, 파리 한 마리 잡는데 탱크를 동원하는 것과 비슷하다. 인공지능을 자랑하는 모든 경우가 그렇다는 게 아니라, 꽤나 많은 용례가 그렇다는 것이다.
이는 사실 신기술이라는 게 등장할 때마다 나타나는 현상이다. 기술의 발전에 매료된 사람들이 그것을 탐구하는 과정에서 이곳 저곳에 응용하다보니 그럴 수밖에 없다. 그러다가 조금 진정 국면이 찾아오는데, 그러면서 정확한 용처가 개발되거나 발견된다. 인공지능도 지금은 범용성이 강조된 ‘생성형 인공지능’이 각광 받고 있는데, 조금 지나면 각 분야에 특화된 ‘전문가 인공지능’으로 대체될 것으로 예상한다. 글림스 멀웨어는 리버스 엔지니어의 일을 고스란히 구현해낼 수 있는 ‘리버서 인공지능’이라고 할 수 있다.
보안뉴스 : 챗GPT와 같은 기술로 보안 임무를 수행하거나 악성 공격을 하기도 한다던데...
시릴 비뇽 : 어느 정도는 가능할 것이다. 하지만 한계가 있다. 그런 인공지능 기술들이 하는 건 학습 과정 중에 입력된 데이터를 바탕으로 새로운 통찰을 이끌어내 결과를 내는 것인데, 그렇기 때문에 그 결과가 왜 나왔는지는 아무도 설명할 수 없다. 그러니 인공지능이 낸 답을 무조건 신뢰하기가 힘들다는 문제가 발생한다. 참고 자료로서는 쓸 수 있으되, 그것에 보안 임무를 전적으로 맡길 정도로 신뢰하기는 어렵다.
예를 들어 이런 일이 있었다. 예전에 프랑스 국방부에서 일할 때였는데, 당시 인공지능 모델 개발 프로젝트에 참여했었다. 인공지능이 탱크를 알아서 분별할 수 있도록 하려고 수많은 사진들을 입력했다. 그래서 그 인공지능이 탱크를 보고 탱크라는 판단을 내릴 수 있게 했다. 그런데 어느 날 고양이 사진을 보여주었는데, 탱크라고 하는 거다. 그것과 비슷한 오류의 사례들이 꾸준히 나타났다. 하지만 우리는 인공지능 내부를 볼 수 없어서 왜 그런 오류가 발생하는지 알 수 없었다. 그걸 파악하는 데 수개월이 걸렸다.
보안뉴스 : 결국 알아냈는가?
시릴 비뇽 : 알아냈다. 우리가 탱크 데이터를 인공지능 모델에 입력할 때 한 가지 간과한 게 있었다. 모든 탱크 이미지가 화창하고 파란 하늘 아래서 촬영된 것이었다. 모든 배경에 파란 하늘이 있었기 때문에 인공지능 모델은 ‘파란 하늘’을 ‘탱크’와 연관 짓고 있었다. 그러니 같은 파란 하늘이 있다면 고양이도 탱크가 되는 것이었다.
보안뉴스 : 그런 경험들이 글림스 멀웨어에 어떤 영향을 주었는가?
시릴 비뇽 : 앞서 글림스의 인공지능 모델은 인간 리버스 엔지니어처럼 작동한다고 말했었다. 그렇기 때문에 답을 내고 그것을 통보하는 것에 그치는 게 아니라, 그 답이 나오기까지의 근거도 제시한다. 즉 ‘왜’를 설명한다는 것이다. 사용자들은 보고서를 보면서 네트워크 안에 어떤 위협이 있는지 파악할 수 있을 뿐만 아니라, 그 위협이 위협으로 간주되는 이유까지도 알게 된다. 그러므로 어떤 위협에 어느 수위의 대응을 할 것인지 결정하고 맞춤형으로 대응할 수 있다. 인간 분석가가 ‘왜’를 알게 된다는 건 보안 업무를 수행하는 데 있어 큰 힘이 된다. 무엇보다 인공지능 솔루션이라는 것을 신뢰할 수 있게 된다는 게 크다.
보안뉴스 : 어떤 경우 ‘왜’가 그리 중요치 않을 수도 있다. 오히려 귀찮을 수도 있다.
시릴 비뇽 : 맞다. ‘왜’를 알고 세밀하게 대응하고자 하는 사용자도 있지만, 그냥 인공지능이 낸 결과값을 믿고, 자동 대응까지 알아서 되기를 바라는 사용자도 있다. 글림스의 솔루션은 단계별로 제공되는데, ‘왜’가 굳이 필요하지 않다면 그런 옵션을 제하고 솔루션을 구독하면 된다. 구독을 기반으로 한 가격 정책을 유지하고 있기 때문에 필요에 따라 유연하게 선택하면 된다. 한 번에 많은 예산을 내야만 글림스의 보안 기술을 경험할 수 있는 게 아니라는 것도 구독제의 장점이다.
보안뉴스 : 리버스 엔지니어링을 전문으로 하는 인공지능이, 인공지능을 보안에 활용하는 최고의 용례일까?
시릴 비뇽 : 그렇지 않다. 보안은 이제 특정 해킹 기술이나 그룹을 대상으로 방어 기술을 개발하는 데에 집중하지 않는다. 사이버 범죄 산업 전체의 구조를 파악하여 그에 따른 대응을 하는 게 점점 더 중요해지고 있다. 사이버 범죄 산업은 점점 세분화 되고 있다. 자기 역할과 전문 분야에 충실한 자들이 연합하여 하나의 거대 범죄 프로젝트를 꾸리는 경우가 많아지고 있다는 것이다. 최초 침투를 전문으로 하면 그것만 하고, 페이로드를 개발하는 데 전문이면 그것만 한다. 협상 전문가는 피해자들과의 협상에 집중한다. 그런 사람들이 한 데 뭉쳐서 범죄를 수행한다. 즉 점점 더 전문적으로 변해간다는 뜻이다. 전문성이 높아지니 효율성도 높아지고, 그러므로 우리의 방어 체계도 여기에 맞게 최신화 되어야 한다.
하지만 현존하는 솔루션들이나 기존의 방어 기술로는 이런 식의 대처가 어렵다. 고도화 된 자동화 기술로 이들 산업을 모니터링 하고, 데이터를 수집하고, 통찰을 이끌어내며, 그에 맞는 대응을 실시간으로 해야 한다. 그런 기술이 뒷받침 되어 있지 않는 이상 사이버 범죄 산업을 통째로 파악하고 그에 맞게 대응한다는 건 이상론에 그칠 뿐이다. 인공지능 기술은 앞으로 우리가 그런 통체적인 대응을 할 수 있도록 할 것이고, 그런 작업에 특화된 인공지능이 하나 둘 등장할 것이라고 본다.
글림스의 경우 올해 프랑스에서 열린 하계올림픽에서 많은 위협을 사전에 대응한 경험을 가지고 있다. 그 때에도 올림픽 인프라 전반에 걸쳐 들어오는 온갖 공격 시도들을 자동으로 탐지하고 대응했었다. 물론 글림스 혼자 올림픽 전체를 다 보호한 건 아니고, 수많은 보안 업체들과 전문가들이 힘을 합했기에 가능한 일이었다. 다만 우리가 맡은 영역에서 글림스의 인공지능은 뛰어난 성능을 입증했다. 사담이지만 당시 공격자들 중 일부는 하도 사이버 공격 시도가 막히니까 물리 공격으로 전환하기도 했었다. 그것 역시 경찰과의 협조로 막아낼 수는 있었다.
보안뉴스 : 보안 업계에서는 드문 승리의 소식이다.
시릴 비뇽 : 드문가? 사이버 공격 사례가 많긴 해도 보안 업계 역시 굳건히 방어에 성공하고 있다고 본다. 물론 운동장 자체가 기울어져 있어서 사이버 공격자들이 훨씬 유리한 고지에서 온갖 공격을 퍼붓는 게 가능하긴 하다. 보안 업계가 불리한 입장인 건 맞고, 그래서 우리가 늘 지는 것처럼 보이기도 한다. 하지만 그런 여건 자체를 고려하면 오히려 우리가 좀 더 잘 하고 있는 거라고 해석해도 될 것이다. 지금 한창 연구되고 있는 인공지능은 이 ‘기울어진 운동장’을 어느 정도 평평하게 만드는 데 큰 도움이 될 거라고 기대한다. 인공지능이 공격자들에게 도움이 되는 것보다 보안 전문가들에게 더 큰 이로움을 가져다 줄 것이라고 믿는다.
보안뉴스 : 설명 가능한 글림스 멀웨어에 대해 더 알고 싶다면 어떻게 해야 하는가?
시릴 비뇽 : 한국 사용자들을 위한 홈페이지가 이미 마련되어 있으니 참고하시면 되겠다. 메일을 통해 별도의 문의를 넣어주셔도 무방하다. 그 외에 제품 소개서도 열람이 가능하다.
[국제부 문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-10-30] 
.jpg)
.jpg)
.jpg)
