‘인간의 영역을 넘어(Beyond human’s realm)’라는 부제로 연재
사람들이 기본적으로 알아야 할 인공지능 보안에 대해 쉽게 이해하기
[보안뉴스= 김주원 사이버보안 분야 칼럼리스트] 그리스 신화에서 영웅 페르세우스가 괴물 메두사의 목을 자르기 위해 가장 필요했던 것은 제우스의 청동방패였다. 메두사를 바라보기만 해도 돌로 변했기에 페르세우스는 청동방패에 비친 잠든 메두사의 모습을 바라보면서 메두사의 곁으로 가야 했다. 하지만 방패만으로는 메두사의 목을 자를 수 없었다. 그래서 절대 죽지 않는 몸을 가진 괴물을 한 번에 죽일 수 있는 날이 휜 검, 메두사의 머리를 담을 수 있는 가방, 착용한 사람의 몸을 감춰주는 투구와 날개 달린 신발 등 특수한 장비들도 갖췄다. 이렇듯 인공지능(AI) 보안도 단순히 하나의 방화벽, 하나의 방패만으로 이루어질 수 없다.
1980~1990년대의 학교에서는 민방위 훈련을 실시했다. 매달 15일마다 교실 스피커를 통해 사이렌이 울리고 비상 발령 안내 방송이 나온 후에 KBS의 민방위 방송이 흘러나오는 식이었다. 그러면 학생들은 수업을 멈추고 모두들 머리를 숙인 채 일사불란하게 운동장으로 나가 나무들 밑에 숨었다. 재해·전쟁 발생 시 가장 안전한 곳이라고 판단되었기 때문이다. 이때 지진·화재·폭격 등 다양한 상황을 가정한 훈련이 있었지만, 화생방 훈련이 가장 생생하게 남아 있다. 화생방이란 화학·생물학·방사능의 줄임말이다. 화생방 훈련 때에는 100리터짜리 쓰레기봉투와 비슷한 비닐봉지를 한 장씩 준비하고 있다가 화생방 무기가 터졌다고 선생님이 외치면 비닐봉지를 쓰고서 바람이 부는 방향으로 달리라고 교육을 받았다.
그런데 최근 코로나바이러스감염증-19(COVID-19) 사태를 겪으면서 이러한 대피 훈련은 실제 상황에서 별 의미가 없었을 것 같다. 정말로 우리 주변에서 화생방 무기가 터진다면 비닐봉지로 몸을 감싸기보다는 깨끗이 씻을 수 있는 물이 있는 곳으로 가거나 지하실로 대피하는 것이 더 현명하겠다는 생각이 든다.
그때로부터 수십 년이 흘렀다. 많은 사람들은 “앞으로 화생방 무기나 총·대포·전차·전투기 같은 재래식 무기를 사용하는 물리적 전쟁이 줄어들고, 오늘날 미국과 중국 혹은 한국과 일본 사이에서 벌어지는 환율·무역 전쟁과 같은 경제 전쟁으로 대체될 것”이라고 예상했다. 그리고 이러한 경제 전쟁에서 승리하려면 세계 최고 수준의 기술력을 확보하고 기업 경쟁력을 높여야 한다고 판단했다.
그런데 어느 누구도 생각지 못한 사건이 발생했다. 바로 코로나바이러스와 전쟁을 치르게 된 것이다. 다들 겪고 있다시피 결과는 참담했다. 수많은 사상자가 발생했고, 전 세계 여러 나라들이 경제적 타격을 입었다. 이탈리아 북부의 항구도시 제노바에 사는 어느 할아버지는 “제2차 세계대전 때도 이런 일은 없었다”고 했고, 미국 언론들은 “미국이 겪은 과거 그 어느 전쟁 때보다 더 끔찍한 시련을 맞이하고 있다”고 보도하기까지 했다. 어쩌다 이렇듯 참담한 사태가 벌어진 걸까?
먼저 우리 자신, 즉 인간에 대해 생각해보자. 인간은 철을 가공하여 각종 기계를 만들고, 컴퓨터를 개발하고, 인터넷까지 사용해 생각을 공유하여 새로운 발명·발견·혁신을 이루게 되면서 우주의 모든 사물과 현상을 통제할 수 있게 되었다고 생각했다. 결국 오만방자해진 인간은 자기 눈에는 보이지 않을 정도로 작기에 ‘세상에서 가장 미약한 존재’라고 여겼던 바이러스와의 전쟁에서 고생하고 있다. 마치 강력한 무력을 보유한 정규군이 허접한 무기를 갖춘 게릴라들에게 시달리다가 무너지는 것과 같은 일이 일어나고 있는 것이다.
바이러스의 확산 속도는 인간이 예상할 수 없을 정도로 빠르고 광범위했다. 남녀노소를 가리지 않으며, 아무리 조심해도 한순간의 방심을 노렸다가 정확하게 파고든다. 물론 강력한 창이 생기면 다음 날에는 이를 막을 방패도 생겨나듯이, 인간은 가까운 시일 내에 신종 바이러스를 막을 수 있는 약과 예방할 수 있는 백신을 개발해 왔다. 하지만 이러한 과정을 반복하면서 “전지전능한 신과는 달리 인간은 일종의 미물에 불과하다”는 사실도 깨닫게 되었다. 그리고 앞으로도 다양한 요인에 의해 생겨난 신종 바이러스로 인한 사태는 계속 발생하리라고 생각하다 보니 이러한 상황에 대한 공포와 두려움도 다가왔다.
그런데 신종 바이러스로 인한 사태 같은 것은 단지 물리적 공간에서만 벌어지는 게 아니라고 볼 수 있다. 이미 인간의 생활 영역에 밀접하게 연결된 사이버공간에서도 벌어질 수 있다. 더군다나 교통·통신 등 다양한 문명의 이기와 활동에 사용되는 사이버 관련 기기들은 소형화·경량화가 이루어지더니 마침내 인공지능 덕분에 인간의 통제 없이도 자동으로 움직이기에 이르렀다.
공항 전철처럼 이미 자동화되어 인간이 직접 조종을 하지 않아도 운행되고 있다. 자동차 조립 과정은 물론 원자력 발전소에서의 핵연료봉 교체도 로봇에 의해 원격으로 이루어지고 있다. 인간 장기의 일부 기능을 보조하는 심장박동기나 혈류조절기도 인간의 신체 내에 삽입되어 있다. 머지않아 이러한 웨어러블 기기들은 원격으로 모니터링 되는 것은 물론, 원격 의료진단을 통해 기기의 상태까지 조절하게 될 것이다. 이렇듯 모든 것이 자동화되고, 심지어 인간의 장기를 관리하는 일마저 인공지능에 의존하는 미래 시대는 과연 화려하고 평화롭기만 할까?
이런 미래에서라면 인간은 더 교만해지고 게을러질 것이다. 결정하고 판단하는 것마저 귀찮아서 생각하는 일 자체를 인공지능에게 맡길 것이다. ‘인공지능의 알고리즘에 빅데이터를 집어넣으면 내가 애써 머리를 굴릴 때보다 훨씬 더 좋은 결과가 나올 게 아닌가!’ 같은 생각을 하면서 말이다. 이런 날이 온다면 오히려 인공지능이 자신을 창조해낸 인간보다 더 창의적이고 혁신적인 아이디어를 발휘할 것이다. 그럼으로써 인간이 지금까지 생각하지 못했던 새로운 뭔가를 인공지능이 세상에 내놓을 것이다. 그리고 인간은 인공지능이 만든 그림·음악·소설 등 예술 작품을 감상하거나, 인공지능이 작성한 신문기사나 논문으로 정보를 얻는 상황까지 올 것이다.
그런데 인공지능이 제공하는 정보가 정확할까? 예전에는 컴퓨터에 입력되는 질문이 명료하고 단순했기에 결과도 ‘맞다/틀리다’라고 명확하게 나왔다. 그 결과가 의심스럽다면 간단히 확인할 수도 있었다. 백과사전을 찾거나 직접 관련 자료를 검색할 수 있었기 때문이다. 하지만 점차 인공지능 사회로 가면서 입력되는 정보도 주관적이고 복잡해지기 시작했다. 일기예보가 알려주는 ‘비 올 확률’처럼 인공지능이 제공하는 정보에는 ‘맞을 확률이 얼마’라는 식의 꼬리표도 달린다. 인공지능이 내놓을 결과가 학습으로 습득한 지식에 기반을 둔, 즉 추론을 통해 내놓은 답이기에 정확하다고 할 수 없다는 판단에서 나온 결과이다. 그러나 과거에는 단순히 참고자료에 불과했다면, 이제는 ‘진실’로서 인정받고 있다. 즉, 인간이 인공지능에게서 받은 정보를 철석같이 믿는 것이다.
그렇다면 인공지능이 하는 추론과 학습은 어떻게 이루어질까? 매우 복잡한 알고리즘일 수도 있고, 단순히 설문의 더하기 함수 평균값일 수도 있다. 데이터가 무한대로 있는 것이 아니니 약간의 데이터 조작만으로 의도하는 방향으로 결과가 나오도록 바꿀 수도 있다. 그러니까 가짜뉴스나 찌라시에 수많은 미디어가 결합되어 전혀 예측하지 못한 방향으로 흐름을 바꿀 수 있는 것이다. 이렇게 되면 실제로 존재하는 한 인간을 살리거나 죽일 수 있는 권한마저 인공지능에게 주어질 것이다. 그런데 혹자는 이런 이야기에 대해 “그래서 지금 이야기한 것과 보안이 무슨 상관인데?”라고 의아해 할 수 있다.
과거에는 저장된 자료와 전송되는 데이터에 대한 기밀성과 무결성을 보장해줄 보안 대책이 암호화뿐이었다. 이후 정보 시스템이 발전하면서 가용성 문제가 이슈로 떠올랐다. 정보 시스템 자체를 공격하는 해킹으로 인하여 서비스가 중단·마비되면 이러한 서비스를 이용해 활동을 하는 인간들이 불편을 겪게 되기 때문이었다. 처음에 인간은 정보 시스템을 구성하는 하드웨어와 소프트웨어의 취약점과 결함을 제거하기 위한 방안을 모색하기 시작했다. 즉, 신뢰성 모델에 기반을 둔 결함·장애 차원에서 접근했다. 하지만 갈수록 결함·장애가 단순히 내부적 요인보다 외부로부터의 공격으로 인한 것이 커지자 관계자들이 이에 대해 고민하기 시작했다. 하드웨어의 경우에는 재밍(jamming, 전파 교란) 등 전자파 공격이 대표적인 외부 공격이고, 소프트웨어의 경우에는 해킹과 사이버공격이 대표적인 외부 공격이다. 그리고 세월이 흐르면서 대부분의 정보 시스템들이 인터넷에 기반을 둔 환경에 맞춰 변화되자 자연스럽게 전자파 보안보다 사이버보안이 새로운 이슈로 떠오르기 시작했다.
사이버보안이 보안 영역에서 핵심 요소로 깊숙하게 자리를 잡으면서 정보보호의 대상도 점차 다양해지기 시작했다. 국가라는 커다란 집단을 유지하는 데 필요한 정보가 있는가 하면, 개개인의 활동에 관한 정보나 특정 개인에게만 가치가 있는 정보도 존재하고. 개인이 가지고 있는 자산에 대한 정보를 안전하게 관리하기 위한 금융 정보도 있다. 이렇게 유형별로 다양한 정보가 나타나자, 해당 정보의 특징에 따라 보호해야 하는 방식도 달라졌다. 예를 들면, 국가안보를 위해서는 강력한 보안대책이 필요하지만, 개인정보에 대해서는 사생활을 파악할 수 없을 정도의 식별성 부분만 고민하면 되는 것이다. 금융정보의 최우선순위는 내용이 왜곡되지 않게 하는 것이다. 즉, 보안도 정보의 유형에 따라 여러 방향으로 나누어지게 되었다.
시간은 계속 흐르고, 기술은 계속 발전했다. 그러면서 보안의 범주는 국가안보와 개인정보 보호, 그리고 금융보안 정도로 크게 구분됐다. 그런데 데이터가 기하급수적으로 쌓이고, 클라우드·사물인터넷(IoT)·인공지능과 같은 여러 복잡한 기술들도 결합하면서 새로운 보안 문제가 발생하기 시작했다. 계속 쌓여만 가는 데이터 중에서 어떤 것이 필요한 정보인지, 그리고 어떤 것이 가짜정보인지를 분리하기가 어려워진 것이다. 클라우드에서 내게 필요한 정보가 어디에 있는지, 그리고 그 정보가 온전히 관리되는지를 파악하기도 힘들어졌다. 또한, 사물인터넷 시스템에 의해 인간 주변에 널린 기기들끼리 알아서 소통하며 정보를 주고받는데도 정작 인간은 그 와중에 무슨 일이 진행되는지 모르게 된 것이다.
가장 심각한 사안은 인공지능 시스템이 스스로 알아서 판단하고 정보를 최적화해서 알려준다는 점이었다. 즉, 인간은 인공지능 시스템에게서 제공받은 정보가 옳은지 그른지 확인할 수 없다는 게 문제였다. 예전에는 이와 관련된 문제가 일어나더라도 소프트웨어의 오류이거나 알고리즘상의 결함으로 여기고 이를 고려하여 판단했다. 그러면서 해커가 시스템에 침입하는 것을 방지하는 게 보안의 주요 업무라고 인식했다.
그런데 범죄자가 이익을 챙기기 위해 가짜정보를 선량한 사람들에게 퍼뜨려 엉뚱한 판단을 하도록 유도함으로써 피해를 주는 사건이 나타나기 시작했다. 사실 이러한 문제점도 보안의 한 영역으로 넣어야 할지에 대해서는 과거에도 논의가 이루어졌다. 댓글을 달거나 ‘좋아요’를 누름으로써 여론을 왜곡하는 사이버심리전까지 보안의 범주에 넣는 것은 매우 위험한 일이다. 아니, 금지되어야 할 사항이다. 하지만 인공지능이 이러한 행동을 하도록 조작하고, 그로 인해 발생한 허점을 노리는 것은 물론, 해당 인공지능이 본연의 임무를 수행하지 못하게 하는 것은 엄연히 보안에서 다루어야 할 문제하고 판단된다. 사이버보안이 본격적으로 논의된 것도 불과 30여 년이 채 되지 않는다. 그 이전에는 시스템에 장애가 발생하면 엔지니어의 과실 또는 주변 환경 탓으로 돌렸다. 하지만 이러한 장애가 사회·경제 전반에 피해를 끼치면서 문제가 발생하자 점차 사이버보안이 중요한 이슈로 부각된 것이다.
물론 대다수 인간은 ‘어떻게든 되겠지’ 하는 생각으로 이러한 걱정거리를 모두 인공지능 시스템에게 던져놓고서는 미래를 희망적으로 바라보기만 할 것이다. 하지만 인공지능 시스템의 뒤에 복잡하게 얽힌 프로그램 코드와 하드웨어 회로에 관한 문제점은 시스템 설계자마저 일일이 찾아보면서 해결할 수 없다는 사실을 모를 것이다. 더구나 인공지능 시스템은 유연성과 복원성이 없기에 무슨 문제가 생기더라도 스스로 해결할 수 없다. 이 와중에 인공지능 시스템에 대해 문외한인 대다수 인간들은 아무런 대책이 없어서 눈만 껌벅일 것이다.
이러한 사태를 예방하려면 인공지능보다 인공지능 보안에 대해 먼저 준비함으로써 미래를 대비해야 한다. 아울러 빅데이터 결과에 대한 유효 여부, 클라우드 시스템 내에 있는 정보의 흐름 식별, 사물인터넷 기기가 정상적으로 동작하고 있는지에 대한 자가 진단, 그리고 인공지능 시스템이 제대로 판단하고 올바른 정보를 제공했는지를 판단하는 알고리즘 검증 작업 등이 추가로 이루어져야 한다.
혹자는 ‘그게 가능하려나?’라고 생각할 것이다. 사실 인공지능 보안은 매우 어려운 일이다. 인공지능 보안을 하려면 인공지능의 생리와 메커니즘을 정확하게 파악하고 접근해야 하기 때문이다. 그래서 이 자체가 도전이자 새로운 접근이다. 단순히 방화벽을 하나 설치하고, 룰 설정에 인공지능 기법을 사용했다고 자랑할 게 아니다. 인공지능과 함께 학습하고 추론하면서 인공지능의 성능을 보장해주는 보안 작업이 절대적이다. 앞으로 보안은 크게 ‘전통적 보안’과 ‘인공지능 보안’으로 나뉠 것이다. 물론 인공지능 보안이 완벽하게 이루어진다는 것은 불가능에 가깝다. 아니, 90% 이상 안전한 수준이라도 ‘거의 신의 영역’이라고 평가할 만하다. 이러한 수치가 나오게 하려면 한 두 사람의 천재보다는 절대 다수가 인공지능 보안에 관심을 가져야 한다.
필자가 여러 자료를 살펴봤지만 인공지능에 대한 자료는 있어도 인공지능 보안에 대한 자료가 매우 부족하다. 더욱이 천편일률적으로 인공지능의 시대에 대한 전망과 같은 인문사회학적 일반적인 내용이거나 딥러닝·빅데이터와 연계된 인공지능 알고리즘에 대한 수학적 설명이 대부분이었다. 그래서 앞으로 인간들이 기본적으로 알아야 할 인공지능 보안에 대해서 이해하기 쉽게 스토리텔링 형식으로 이야기를 풀어볼까 한다. 글 내용 중 표현하는 과정에서 ‘인간’이라는 표현을 쓰는 것은 인간이 신과 대비되는 용어이기 때문이지, 우리 스스로를 비하하려고 하는 것은 아님을 미리 밝힌다. 이번 연재가 마무리 될 때면 대부분의 인간이 인공지능 보안에 관한 기본적 소양과 상식을 가지고서 인공지능의 역기능에 의해 발생할 수 있는 미래에 닥칠 난관을 대비할 수 있을 것으로 기대한다.
[글_ 김주원 사이버보안 분야 컬럼리스트]
사람들이 기본적으로 알아야 할 인공지능 보안에 대해 쉽게 이해하기
[보안뉴스= 김주원 사이버보안 분야 칼럼리스트] 그리스 신화에서 영웅 페르세우스가 괴물 메두사의 목을 자르기 위해 가장 필요했던 것은 제우스의 청동방패였다. 메두사를 바라보기만 해도 돌로 변했기에 페르세우스는 청동방패에 비친 잠든 메두사의 모습을 바라보면서 메두사의 곁으로 가야 했다. 하지만 방패만으로는 메두사의 목을 자를 수 없었다. 그래서 절대 죽지 않는 몸을 가진 괴물을 한 번에 죽일 수 있는 날이 휜 검, 메두사의 머리를 담을 수 있는 가방, 착용한 사람의 몸을 감춰주는 투구와 날개 달린 신발 등 특수한 장비들도 갖췄다. 이렇듯 인공지능(AI) 보안도 단순히 하나의 방화벽, 하나의 방패만으로 이루어질 수 없다.
[이미지=utoimage]
1980~1990년대의 학교에서는 민방위 훈련을 실시했다. 매달 15일마다 교실 스피커를 통해 사이렌이 울리고 비상 발령 안내 방송이 나온 후에 KBS의 민방위 방송이 흘러나오는 식이었다. 그러면 학생들은 수업을 멈추고 모두들 머리를 숙인 채 일사불란하게 운동장으로 나가 나무들 밑에 숨었다. 재해·전쟁 발생 시 가장 안전한 곳이라고 판단되었기 때문이다. 이때 지진·화재·폭격 등 다양한 상황을 가정한 훈련이 있었지만, 화생방 훈련이 가장 생생하게 남아 있다. 화생방이란 화학·생물학·방사능의 줄임말이다. 화생방 훈련 때에는 100리터짜리 쓰레기봉투와 비슷한 비닐봉지를 한 장씩 준비하고 있다가 화생방 무기가 터졌다고 선생님이 외치면 비닐봉지를 쓰고서 바람이 부는 방향으로 달리라고 교육을 받았다.
그런데 최근 코로나바이러스감염증-19(COVID-19) 사태를 겪으면서 이러한 대피 훈련은 실제 상황에서 별 의미가 없었을 것 같다. 정말로 우리 주변에서 화생방 무기가 터진다면 비닐봉지로 몸을 감싸기보다는 깨끗이 씻을 수 있는 물이 있는 곳으로 가거나 지하실로 대피하는 것이 더 현명하겠다는 생각이 든다.
그때로부터 수십 년이 흘렀다. 많은 사람들은 “앞으로 화생방 무기나 총·대포·전차·전투기 같은 재래식 무기를 사용하는 물리적 전쟁이 줄어들고, 오늘날 미국과 중국 혹은 한국과 일본 사이에서 벌어지는 환율·무역 전쟁과 같은 경제 전쟁으로 대체될 것”이라고 예상했다. 그리고 이러한 경제 전쟁에서 승리하려면 세계 최고 수준의 기술력을 확보하고 기업 경쟁력을 높여야 한다고 판단했다.
그런데 어느 누구도 생각지 못한 사건이 발생했다. 바로 코로나바이러스와 전쟁을 치르게 된 것이다. 다들 겪고 있다시피 결과는 참담했다. 수많은 사상자가 발생했고, 전 세계 여러 나라들이 경제적 타격을 입었다. 이탈리아 북부의 항구도시 제노바에 사는 어느 할아버지는 “제2차 세계대전 때도 이런 일은 없었다”고 했고, 미국 언론들은 “미국이 겪은 과거 그 어느 전쟁 때보다 더 끔찍한 시련을 맞이하고 있다”고 보도하기까지 했다. 어쩌다 이렇듯 참담한 사태가 벌어진 걸까?
먼저 우리 자신, 즉 인간에 대해 생각해보자. 인간은 철을 가공하여 각종 기계를 만들고, 컴퓨터를 개발하고, 인터넷까지 사용해 생각을 공유하여 새로운 발명·발견·혁신을 이루게 되면서 우주의 모든 사물과 현상을 통제할 수 있게 되었다고 생각했다. 결국 오만방자해진 인간은 자기 눈에는 보이지 않을 정도로 작기에 ‘세상에서 가장 미약한 존재’라고 여겼던 바이러스와의 전쟁에서 고생하고 있다. 마치 강력한 무력을 보유한 정규군이 허접한 무기를 갖춘 게릴라들에게 시달리다가 무너지는 것과 같은 일이 일어나고 있는 것이다.
바이러스의 확산 속도는 인간이 예상할 수 없을 정도로 빠르고 광범위했다. 남녀노소를 가리지 않으며, 아무리 조심해도 한순간의 방심을 노렸다가 정확하게 파고든다. 물론 강력한 창이 생기면 다음 날에는 이를 막을 방패도 생겨나듯이, 인간은 가까운 시일 내에 신종 바이러스를 막을 수 있는 약과 예방할 수 있는 백신을 개발해 왔다. 하지만 이러한 과정을 반복하면서 “전지전능한 신과는 달리 인간은 일종의 미물에 불과하다”는 사실도 깨닫게 되었다. 그리고 앞으로도 다양한 요인에 의해 생겨난 신종 바이러스로 인한 사태는 계속 발생하리라고 생각하다 보니 이러한 상황에 대한 공포와 두려움도 다가왔다.
그런데 신종 바이러스로 인한 사태 같은 것은 단지 물리적 공간에서만 벌어지는 게 아니라고 볼 수 있다. 이미 인간의 생활 영역에 밀접하게 연결된 사이버공간에서도 벌어질 수 있다. 더군다나 교통·통신 등 다양한 문명의 이기와 활동에 사용되는 사이버 관련 기기들은 소형화·경량화가 이루어지더니 마침내 인공지능 덕분에 인간의 통제 없이도 자동으로 움직이기에 이르렀다.
공항 전철처럼 이미 자동화되어 인간이 직접 조종을 하지 않아도 운행되고 있다. 자동차 조립 과정은 물론 원자력 발전소에서의 핵연료봉 교체도 로봇에 의해 원격으로 이루어지고 있다. 인간 장기의 일부 기능을 보조하는 심장박동기나 혈류조절기도 인간의 신체 내에 삽입되어 있다. 머지않아 이러한 웨어러블 기기들은 원격으로 모니터링 되는 것은 물론, 원격 의료진단을 통해 기기의 상태까지 조절하게 될 것이다. 이렇듯 모든 것이 자동화되고, 심지어 인간의 장기를 관리하는 일마저 인공지능에 의존하는 미래 시대는 과연 화려하고 평화롭기만 할까?
이런 미래에서라면 인간은 더 교만해지고 게을러질 것이다. 결정하고 판단하는 것마저 귀찮아서 생각하는 일 자체를 인공지능에게 맡길 것이다. ‘인공지능의 알고리즘에 빅데이터를 집어넣으면 내가 애써 머리를 굴릴 때보다 훨씬 더 좋은 결과가 나올 게 아닌가!’ 같은 생각을 하면서 말이다. 이런 날이 온다면 오히려 인공지능이 자신을 창조해낸 인간보다 더 창의적이고 혁신적인 아이디어를 발휘할 것이다. 그럼으로써 인간이 지금까지 생각하지 못했던 새로운 뭔가를 인공지능이 세상에 내놓을 것이다. 그리고 인간은 인공지능이 만든 그림·음악·소설 등 예술 작품을 감상하거나, 인공지능이 작성한 신문기사나 논문으로 정보를 얻는 상황까지 올 것이다.
그런데 인공지능이 제공하는 정보가 정확할까? 예전에는 컴퓨터에 입력되는 질문이 명료하고 단순했기에 결과도 ‘맞다/틀리다’라고 명확하게 나왔다. 그 결과가 의심스럽다면 간단히 확인할 수도 있었다. 백과사전을 찾거나 직접 관련 자료를 검색할 수 있었기 때문이다. 하지만 점차 인공지능 사회로 가면서 입력되는 정보도 주관적이고 복잡해지기 시작했다. 일기예보가 알려주는 ‘비 올 확률’처럼 인공지능이 제공하는 정보에는 ‘맞을 확률이 얼마’라는 식의 꼬리표도 달린다. 인공지능이 내놓을 결과가 학습으로 습득한 지식에 기반을 둔, 즉 추론을 통해 내놓은 답이기에 정확하다고 할 수 없다는 판단에서 나온 결과이다. 그러나 과거에는 단순히 참고자료에 불과했다면, 이제는 ‘진실’로서 인정받고 있다. 즉, 인간이 인공지능에게서 받은 정보를 철석같이 믿는 것이다.
그렇다면 인공지능이 하는 추론과 학습은 어떻게 이루어질까? 매우 복잡한 알고리즘일 수도 있고, 단순히 설문의 더하기 함수 평균값일 수도 있다. 데이터가 무한대로 있는 것이 아니니 약간의 데이터 조작만으로 의도하는 방향으로 결과가 나오도록 바꿀 수도 있다. 그러니까 가짜뉴스나 찌라시에 수많은 미디어가 결합되어 전혀 예측하지 못한 방향으로 흐름을 바꿀 수 있는 것이다. 이렇게 되면 실제로 존재하는 한 인간을 살리거나 죽일 수 있는 권한마저 인공지능에게 주어질 것이다. 그런데 혹자는 이런 이야기에 대해 “그래서 지금 이야기한 것과 보안이 무슨 상관인데?”라고 의아해 할 수 있다.
과거에는 저장된 자료와 전송되는 데이터에 대한 기밀성과 무결성을 보장해줄 보안 대책이 암호화뿐이었다. 이후 정보 시스템이 발전하면서 가용성 문제가 이슈로 떠올랐다. 정보 시스템 자체를 공격하는 해킹으로 인하여 서비스가 중단·마비되면 이러한 서비스를 이용해 활동을 하는 인간들이 불편을 겪게 되기 때문이었다. 처음에 인간은 정보 시스템을 구성하는 하드웨어와 소프트웨어의 취약점과 결함을 제거하기 위한 방안을 모색하기 시작했다. 즉, 신뢰성 모델에 기반을 둔 결함·장애 차원에서 접근했다. 하지만 갈수록 결함·장애가 단순히 내부적 요인보다 외부로부터의 공격으로 인한 것이 커지자 관계자들이 이에 대해 고민하기 시작했다. 하드웨어의 경우에는 재밍(jamming, 전파 교란) 등 전자파 공격이 대표적인 외부 공격이고, 소프트웨어의 경우에는 해킹과 사이버공격이 대표적인 외부 공격이다. 그리고 세월이 흐르면서 대부분의 정보 시스템들이 인터넷에 기반을 둔 환경에 맞춰 변화되자 자연스럽게 전자파 보안보다 사이버보안이 새로운 이슈로 떠오르기 시작했다.
사이버보안이 보안 영역에서 핵심 요소로 깊숙하게 자리를 잡으면서 정보보호의 대상도 점차 다양해지기 시작했다. 국가라는 커다란 집단을 유지하는 데 필요한 정보가 있는가 하면, 개개인의 활동에 관한 정보나 특정 개인에게만 가치가 있는 정보도 존재하고. 개인이 가지고 있는 자산에 대한 정보를 안전하게 관리하기 위한 금융 정보도 있다. 이렇게 유형별로 다양한 정보가 나타나자, 해당 정보의 특징에 따라 보호해야 하는 방식도 달라졌다. 예를 들면, 국가안보를 위해서는 강력한 보안대책이 필요하지만, 개인정보에 대해서는 사생활을 파악할 수 없을 정도의 식별성 부분만 고민하면 되는 것이다. 금융정보의 최우선순위는 내용이 왜곡되지 않게 하는 것이다. 즉, 보안도 정보의 유형에 따라 여러 방향으로 나누어지게 되었다.
시간은 계속 흐르고, 기술은 계속 발전했다. 그러면서 보안의 범주는 국가안보와 개인정보 보호, 그리고 금융보안 정도로 크게 구분됐다. 그런데 데이터가 기하급수적으로 쌓이고, 클라우드·사물인터넷(IoT)·인공지능과 같은 여러 복잡한 기술들도 결합하면서 새로운 보안 문제가 발생하기 시작했다. 계속 쌓여만 가는 데이터 중에서 어떤 것이 필요한 정보인지, 그리고 어떤 것이 가짜정보인지를 분리하기가 어려워진 것이다. 클라우드에서 내게 필요한 정보가 어디에 있는지, 그리고 그 정보가 온전히 관리되는지를 파악하기도 힘들어졌다. 또한, 사물인터넷 시스템에 의해 인간 주변에 널린 기기들끼리 알아서 소통하며 정보를 주고받는데도 정작 인간은 그 와중에 무슨 일이 진행되는지 모르게 된 것이다.
가장 심각한 사안은 인공지능 시스템이 스스로 알아서 판단하고 정보를 최적화해서 알려준다는 점이었다. 즉, 인간은 인공지능 시스템에게서 제공받은 정보가 옳은지 그른지 확인할 수 없다는 게 문제였다. 예전에는 이와 관련된 문제가 일어나더라도 소프트웨어의 오류이거나 알고리즘상의 결함으로 여기고 이를 고려하여 판단했다. 그러면서 해커가 시스템에 침입하는 것을 방지하는 게 보안의 주요 업무라고 인식했다.
그런데 범죄자가 이익을 챙기기 위해 가짜정보를 선량한 사람들에게 퍼뜨려 엉뚱한 판단을 하도록 유도함으로써 피해를 주는 사건이 나타나기 시작했다. 사실 이러한 문제점도 보안의 한 영역으로 넣어야 할지에 대해서는 과거에도 논의가 이루어졌다. 댓글을 달거나 ‘좋아요’를 누름으로써 여론을 왜곡하는 사이버심리전까지 보안의 범주에 넣는 것은 매우 위험한 일이다. 아니, 금지되어야 할 사항이다. 하지만 인공지능이 이러한 행동을 하도록 조작하고, 그로 인해 발생한 허점을 노리는 것은 물론, 해당 인공지능이 본연의 임무를 수행하지 못하게 하는 것은 엄연히 보안에서 다루어야 할 문제하고 판단된다. 사이버보안이 본격적으로 논의된 것도 불과 30여 년이 채 되지 않는다. 그 이전에는 시스템에 장애가 발생하면 엔지니어의 과실 또는 주변 환경 탓으로 돌렸다. 하지만 이러한 장애가 사회·경제 전반에 피해를 끼치면서 문제가 발생하자 점차 사이버보안이 중요한 이슈로 부각된 것이다.
물론 대다수 인간은 ‘어떻게든 되겠지’ 하는 생각으로 이러한 걱정거리를 모두 인공지능 시스템에게 던져놓고서는 미래를 희망적으로 바라보기만 할 것이다. 하지만 인공지능 시스템의 뒤에 복잡하게 얽힌 프로그램 코드와 하드웨어 회로에 관한 문제점은 시스템 설계자마저 일일이 찾아보면서 해결할 수 없다는 사실을 모를 것이다. 더구나 인공지능 시스템은 유연성과 복원성이 없기에 무슨 문제가 생기더라도 스스로 해결할 수 없다. 이 와중에 인공지능 시스템에 대해 문외한인 대다수 인간들은 아무런 대책이 없어서 눈만 껌벅일 것이다.
이러한 사태를 예방하려면 인공지능보다 인공지능 보안에 대해 먼저 준비함으로써 미래를 대비해야 한다. 아울러 빅데이터 결과에 대한 유효 여부, 클라우드 시스템 내에 있는 정보의 흐름 식별, 사물인터넷 기기가 정상적으로 동작하고 있는지에 대한 자가 진단, 그리고 인공지능 시스템이 제대로 판단하고 올바른 정보를 제공했는지를 판단하는 알고리즘 검증 작업 등이 추가로 이루어져야 한다.
혹자는 ‘그게 가능하려나?’라고 생각할 것이다. 사실 인공지능 보안은 매우 어려운 일이다. 인공지능 보안을 하려면 인공지능의 생리와 메커니즘을 정확하게 파악하고 접근해야 하기 때문이다. 그래서 이 자체가 도전이자 새로운 접근이다. 단순히 방화벽을 하나 설치하고, 룰 설정에 인공지능 기법을 사용했다고 자랑할 게 아니다. 인공지능과 함께 학습하고 추론하면서 인공지능의 성능을 보장해주는 보안 작업이 절대적이다. 앞으로 보안은 크게 ‘전통적 보안’과 ‘인공지능 보안’으로 나뉠 것이다. 물론 인공지능 보안이 완벽하게 이루어진다는 것은 불가능에 가깝다. 아니, 90% 이상 안전한 수준이라도 ‘거의 신의 영역’이라고 평가할 만하다. 이러한 수치가 나오게 하려면 한 두 사람의 천재보다는 절대 다수가 인공지능 보안에 관심을 가져야 한다.
필자가 여러 자료를 살펴봤지만 인공지능에 대한 자료는 있어도 인공지능 보안에 대한 자료가 매우 부족하다. 더욱이 천편일률적으로 인공지능의 시대에 대한 전망과 같은 인문사회학적 일반적인 내용이거나 딥러닝·빅데이터와 연계된 인공지능 알고리즘에 대한 수학적 설명이 대부분이었다. 그래서 앞으로 인간들이 기본적으로 알아야 할 인공지능 보안에 대해서 이해하기 쉽게 스토리텔링 형식으로 이야기를 풀어볼까 한다. 글 내용 중 표현하는 과정에서 ‘인간’이라는 표현을 쓰는 것은 인간이 신과 대비되는 용어이기 때문이지, 우리 스스로를 비하하려고 하는 것은 아님을 미리 밝힌다. 이번 연재가 마무리 될 때면 대부분의 인간이 인공지능 보안에 관한 기본적 소양과 상식을 가지고서 인공지능의 역기능에 의해 발생할 수 있는 미래에 닥칠 난관을 대비할 수 있을 것으로 기대한다.
[글_ 김주원 사이버보안 분야 컬럼리스트]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
권준기자 기사보기
[2024-11-05] 
