.jpg)
.jpg)
신들의 영역에 편입된 최초의 인간이었던 ‘헤라클라스’ 이야기
인공지능 보안 강화를 위한 지속적인 사이버훈련의 필요성
[보안뉴스= 김주원 사이버보안 분야 칼럼리스트] 제우스의 아들이지만 어머니는 인간인 천하장사 헤라클레스는 마지막 전쟁을 눈앞에 두고 있었다. 머리에 쓰고 있던 사자가죽옷과 헤파이스토스가 선물해준 가슴방패를 쓰다듬으면서 잠시 상념에 빠졌다. 신들이 거인족과 벌인 전쟁 때의 일이었다.
신들의 왕인 제우스는 거인족과의 전쟁에서 반드시 승리하고 싶었다. 그래서 델포이 신전을 관리하던 피티아를 찾아가서 신탁을 받았다.
“올림포스 산에 있는 신들의 세계를 운영하는 것도 쉽지 않아. 그런 판에 거인족 녀석들이 감히 우리 신들에게 덤벼드는 거야. 그래서 더 피곤해. 거인족 녀석들이 다시는 덤비지 못하게 만들려먼 어찌해야 할까?”
피티아는 잠시 혼란에 빠졌다. 신들의 왕인 제우스가 그의 아들인 아폴론의 자비 덕분에 델포이에서 예언자로 먹고 사는 자신을 갑자기 찾아온 것도 놀라웠지만, 자기가 아는 바로는 미래의 일도 꿰뚫어 보고 있을 제우스가 고작 자신 따위의 입을 통해 듣고 싶어 하는 걸 떠올릴 수 없어서였다. 잠시 숨을 고른 피티아는 책상에 흩어져있는 모래알을 보면서 말을 꺼낸다.
“제우스시여, 당신의 뜻대로 거인족을 몰아내려면 힘의 균형을 깨야 합니다. 그러기 위해서는 인간을 당신 편으로 끌어들여야 합니다.”
“한낱 인간 따위를 끌어들여 뭐에 쓴다고? 오히려 거치적거릴 뿐이야. 행여나 거인족과의 전쟁에서 이기기라도 하면 우쭐대면서 ‘이게 다 제 덕분입니다!’ 할 것이고, 그 다음에는 온갖 걸 다 요구하겠지.”
“하오나 인간도 잘 활용하면 쓸모가 있답니다. 일단, 인간 중에서 뛰어난 영웅을 찾으십시오. 그리고 그 영웅을 전쟁터에서 선봉에 세우십시오. 설사 그자가 죽거나 다치거나 활용 가치가 없더라도 제우스 당신께서 손해 보실 일은 없을 겁니다.”
“그래, 네 말이 맞다. 그런데 내가 생각하기에는 인간 중에서 영웅을 찾기는 어려울 거야. 그렇지 않아?”
파티아에게 그렇게 비아냥댄 제우스는 뭔가 번쩍 생각났는지 지그시 눈을 감았다.
피티아는 제우스가 어떤 생각을 하고 있는지 이미 알고 있었다. 그리고 제우스는 파티아가 자신의 생각을 대신 이야기해주기를 바라고 있었다. 그래야 파티아가 제공한 신탁을 통해 자신도 어쩔 수 없이 행동에 옮겼다고 변명할 수 있기 때문이다.
‘나도 이 양반의 아들인 아폴론의 손에 죽은 내 남편 피톤처럼 오래 살기는 글렀군.’
피티아는 잠시 낮은 한숨을 쉰 후, 제우스에게 조언을 했다.
“제우스시여. 좋은 방법이 있습니다. 당신의 능력을 인간에게 조금 나누어주시는 겁니다. 예를 들어, 뛰어난 인간 여성에게 당신의 아들을 잉태하게 하는 것입니다.”
제우스는 아주 잠깐 환한 웃음을 지었다. 그걸 놓치지 않은 피티아는 속으로 ‘그럼 그렇지’라고 중얼거렸다. 그리고 역시나 제우스는 짐짓 심각한 표정을 짓고서 답을 했다.
“아니, 엄연히 신인 나더러 고작 인간 따위와 정을 나누라는 건가? 감히 미물인 뱀 따위 네가 그런 신탁을 한단 말이냐?”
“송구스러우나 제우스시여, 그것이 거인족과의 전쟁에서 이길 유일한 방법입니다. 이것도 다 대의를 위한 희생이옵니다.”
제우스는 그 길로 이미 점찍어둔 유부녀 알크메네의 침소로 몰래 들어갔다. 그리고 알크메네는 헤라클레스를 낳았다. 하지만 이러한 사실을 알게 된 제우스의 아내 헤라는 또 하나의 의붓자식이 생겼다는 사실에 분노했다.
“아니. 여신에, 님프에, 이제는 인간까지 건드린단 말이야?”
다산(多産)과 육아의 여신 레토와의 사이에서 생긴 아폴론과 아르테미스 때문에 폭발했던 분노가 아직 꺼지지도 않았는데, 이 몹쓸 서방이 인간까지 범했다는 이야기를 들은 헤라는 곧 태어날 헤라클래스를 가만 놔두지 않겠다고 마음을 먹었다.
헤라는 헤라클레스가 12가지 시험을 치르게 했다. 마치 헤라클레스가 스스로 모험을 하다가 죽은 것처럼 꾸밀 수 있어서였다. 그 시험들이란 네메아의 사자를 죽일 것, 레르나의 독사인 히드라를 퇴치할 것, 아우게이아스의 외양간을 청소할 것, 스팀팔로스의 새들을 퇴치할 것, 히폴리테의 허리띠를 훔칠 것, 게리온의 황소 떼를 몰고 올 것, 헤스페리데스의 사과를 따올 것, 케리네이아의 암사슴과 에리만토스의 멧돼지와 크레타의 황소와 디오메데스의 야생마와 저승의 왕인 하데스의 경비견 케르베로스를 생포할 것 등이었다. 다만, 이러한 시험이 헤라의 질투로 인한 것임이 들통 나지 않도록 하기 위해서 헤라클레스가 시험을 통과할 때마다 새로운 능력을 주겠다고 약속했다.
결국 헤라클레스는 이러한 어려운 시험들을 모두 통과함으로써 마침내 신들의 영역에 편입된 최초의 인간이 되었다. 하지만 인간으로서의 한계는 엄연히 존재했다. 예를 들어, 헤라클레스는 예전에 절반은 인간이고 절반은 말인 켄타우로스인 네소스라는 자를 죽인 적이 있는데, 그 네소스의 복수로 인해 스스로 불타는 장작더미에 올라가 재물이 되어버린 것이다. 그러나 제우스의 조치로 헤라클레스는 인간의 삶을 다하자마자 저승으로 가는 대신 올림포스 산의 신궁으로 올라가 정식으로 신이 되었다.
깊은 상념에 빠졌던 헤라클레스는 다시 자리를 박차고 일어나 앞에 마주한 거인족과 일전을 벌이기 위해 선봉에 섰다. 인간으로서의 평생을 전쟁터에서 보냈던 헤라클레스는 신이 되어서도 전쟁터로 향하는 신세였던 것이다.
인공지능 시스템이 많은 작업을 수행하는 과정에서 수많은 입력이 들어온다. 그런데 그 입력들은 대개 정상적이지만, 종종 명확하지 않은 것들도 있다. 또한, 인공지능 시스템을 구성하는 세부 프로세스인 계획·추론·학습 과정에서도 명확하지 않은 입력들이 발생한다. 결국 해커가 개발한 적은 양의 악성코드로도 인공지능 시스템이 중단될 수 있는 것이다. 따라서 이러한 비정상적 입력이 인공지능 시스템에 영향을 주지 않도록 잘 탐지해야 한다. 악성코드로부터 인공지능 시스템을 보호하는 것은 매우 중요하기 때문이다. 또한 인공지능 시스템이 유연성을 가지려면 정보 보호와 관련된 방법도 적용해야 한다.
이를 위해서는 인공지능 시스템 자체가 탐지 과정에서 비정상적인 입력을 거를 수 있는 능력을 갖추도록 해주어야 한다. 즉, 인공지능 시스템이 비정상적인 입력에 스스로 유연하게 대처할 수 있도록 학습시켜야 한다. 이를 위해서는 보안성이 뛰어난 학습용 데이터를 구축하고, 보안 성능이 우수한 시스템에 인공지능을 탑재해야 한다. 또한 해커가 인공지능 시스템을 공격한다면, 제풀에 지쳐서 나가떨어질 정도로 큰 노력을 들이도록 환경을 조성해야 한다.
다음으로 해커 등 외부로부터의 접근자를 통제하는 시스템을 강화하고, 사이버보안 능력도 향상시켜야 한다. 알고리즘과 인공지능 시스템에 미치는 영향을 살펴보고, 보안에 강한 학습과 추론 방법도 적용한다. 특히, 보안 관련 시스템은 다단계로 구성하는 것이 바람직하므로, 다양한 보안 기술을 혼합해서 사용하는 것이 좋다. 예를 들어, 허니팟(Honey Pot)을 사용해 공격자의 의도를 무력화시키는 것이 대표적이다.
인공지능 시스템 설계자는 시스템의 취약점들을 파악하고, 이에 대한 보안대책도 수립해야 한다. 공격자가 어떤 방식으로 접근했는지를 알아야 보호해야 할 정보에 대해 상호 매핑 작업을 수행할 수 있기 때문이다. 사실, 공격자와 방어자의 입장과 방식은 비슷하다. 따라서 공격자의 입장을 고려하지 않고 인공지능 시스템을 설계한다면 위험에 빠질 수 있으므로 어떤 공격이 이루어질 것인지에 대해서도 잘 고려해두어야 한다.
사실, 인공지능 시스템을 학습시키려면 사전에 학습용 데이터를 잘 구축해야 한다. 유사한 데이터들인데 내용이 다른 경우도 있기 때문이다. 예를 들어, 자율주행자동차의 인공지능 시스템을 학습시키기 위해 날씨 데이터를 제공한다고 치자. 날씨가 맑거나 구름이 끼는 것은 명확하게 구분된다. 똑똑한 인공지능 시스템이라면 비가 오거나 눈이 오는 것도 구분할 것이다. 하지만 진눈깨비나 우박은 일반적이지 않기에 인공지능 시스템이 학습하기가 어렵다. 더욱이 벼락·천둥·지진·해일 등과 같은 모든 가능성에 대해 자료를 수집하고 학습시키기는 사실상 불가능하다.
인공지능 시스템은 학습되지 않은 상황에서 일반화되지 않은 데이터가 입력되면 반응하기가 쉽지 않다. 어차피 인간도 마찬가지가 아닌가. 예를 들어, 지진이나 소용돌이처럼 일반적인 한국인은 경험해본 적이 없는 사태가 발생했을 때 순간적으로 판단하고서 피하는 경우가 없지 않는가. 따라서 가장 효과적인 인공지능 시스템의 학습 목표는 관련 학습용 데이터가 없더라도, 정형화되지 않은 데이터가 입력되더라도 장애를 일으키지 않고서 시스템을 원만하게 유지시킬 수 있게 하는 것이다. 이를 위해서는 인공지능 시스템의 훈련용 데이터를 주기적으로 업데이트하고, 재훈련도 시켜야 한다. 더군다나 최근에는 기술이 급속도로 발전하고, 유행도 수시로 바뀐다. 이러한 추세에 맞춰 새로운 용어·신조어 그리고 실시간 이슈 등을 모으고, 이를 통해 정형화된 데이터를 만들어야 한다. 그렇지 않으면 인공지능 시스템도 나중에는 ‘꼰대’라는 소리를 듣게 될 수도 있다.
사실, 설계자는 인공지능 시스템에 대해서 고강도의 학습을 진행해야 한다. 인공지능 시스템이 스스로 학습해서 좋은 결과가 나올 수도 있지만, 사이버보안을 고려하면 ‘스스로 학습’에만 의존할 수는 없으니까 말이다. 그래서 사이버보안적인 면에서 볼 때 ‘학습’보다는 ‘훈련’이라는 용어를 더 보편적으로 사용하는 것이다.
사이버훈련은 모든 가능성을 고려하면서 진행해야 한다. 그렇지 않으면 그 결과도 명확하지 않을 것이다. 따라서 사이버훈련에 앞서 ‘보안 시나리오’를 만들어야 한다. 일반적인 학습은 개개의 데이터셋으로 이루어지겠지만, 훈련을 할 때에는 모든 데이터셋이 연관되어 유기적으로 작동하기 때문에 시나리오가 있어야 한다. 그리고 훈련에서는 다양한 시나리오를 선정 후 공격하게 된다.
이러한 시나리오를 사이버보안 분야에서는 ‘모의 침투 시험’이라고도 한다. 예를 들어, 훈련 상황에서 해커는 인공지능 시스템, 해당 인공지능 시스템을 구성하는 부품과 소자, 해당 인공지능 시스템이 보유하는 데이터를 공격할 것이다. 이 훈련 과정에서 인공지능 시스템은 실패를 경험할 것이다. 하지만 이를 통해 사이버보안에 대한 보호 대책을 스스로 계속 마련하게 된다.
그런데 이 훈련 방식에는 사이버보안 문제가 있다. 인공지능 시스템이 어떤 훈련용 시나리오로 훈련받았는지를 공격자가 파악해내는 경우가 그것이다. 이러한 정보는 공격자에게 다른 방법으로 인공지능을 교란할 기회를 제공한다. 따라서 인공지능 시스템을 훈련시킬 때에는 그 훈련용 시나리오가 외부에 유출되지 않도록 보안을 철저히 유지해야 한다. 그리고 인공지능 시스템이 여러 분야에 보급될 경우, 그러한 시스템들이 일관성을 지니게 해야 한다.
예를 들어, A기업에 구축된 인공지능 시스템은 동쪽으로 가라고 학습을 받았고, B기업에 구축된 인공지능 시스템은 서쪽으로 가라고 학습을 받았다면 상황적으로 모순이 발생한다. 물론 두 인공지능 시스템들에 사용된 학습용 데이터들에 차이가 있어서겠지만, 이렇듯 상반된 결과를 제공한다면 공정성 문제가 발생한다. 따라서 학습·훈련의 최종 목표는 같은 것이 좋으나, 만일 달리 나온다면 그 원인을 측정·진단하여 모두가 인정할 수 있도록 해야 한다.
결국 보안 인력의 교육·훈련은 인공지능 시스템의 고도화·보편화 증대에 지대한 공헌을 한다. 앞으로 한국에서도 인공지능 분야의 교육은 대학은 물론 초·중·고등학교에서부터 계속 진행될 것이다. 그럼으로써 컴퓨터·데이터·통계·엔지니어 분야에서 계속 결과를 축적해나갈 것이다. 이러한 교육 과정에서 인공지능 보안도 같은 범주에서 다루어져야 한다. 인공지능 보안의 교육 방법은 국가가 공인·허용한 방법으로 이루어지는 것이 바람직하다. 그러므로 이에 대한 학습 방법과 훈련용 시나리오도 관련 기관에서 제작해 교육 기관들에 제공해야 한다.
기술의 급속한 발전 덕분에 새로운 인공지능 시스템이 출현한다면, 이 새로운 인공지능 시스템은 우리에게 새로운 기회도 제공할 것이다. 하지만 이에 따른 사이버보안 문제로 인해 인류 사회는 심각한 도전에 직면할 수도 있다. 그래서 사이버보안 문제에 대한 경각심을 새롭게 다지고, 이에 대한 일반인들의 인식도 높여나가야 한다. 따라서 인공지능을 위한 보안 프로그램도 함께 마련해야 한다.
헤라클레스가 신으로 추앙받는 이유는 단지 아버지가 제우스이기 때문만은 아니다. 그가 겪은 12가지의 시험과 그에 따른 훈련을 통해 힘과 능력을 다졌고, 학습한 경험을 토대로 수많은 전쟁에서 승리했기 때문이다. 하지만 헤라클레스에게도 약점은 있었다. 사랑하는 부인이 건네준 ‘독이 묻은 옷 한 벌’ 때문에 자신이 죽을 수도 있었다는 사실을 몰랐던 것이다. 이렇듯 전 분야에 걸쳐 강하고 안전할지라도 의외의 상황에서 잘못된 결과가 발생할 수도 있다. 헤라클레스가 죽어서 신의 영역에 편입되었더라도, 그 전에 인간의 영역에서 좀 더 신중하고 치밀했어야 했듯이 말이다.
[글_ 김주원 사이버보안 분야 칼럼리스트]
인공지능 보안 강화를 위한 지속적인 사이버훈련의 필요성
[보안뉴스= 김주원 사이버보안 분야 칼럼리스트] 제우스의 아들이지만 어머니는 인간인 천하장사 헤라클레스는 마지막 전쟁을 눈앞에 두고 있었다. 머리에 쓰고 있던 사자가죽옷과 헤파이스토스가 선물해준 가슴방패를 쓰다듬으면서 잠시 상념에 빠졌다. 신들이 거인족과 벌인 전쟁 때의 일이었다.
[이미지=utoimage]
신들의 왕인 제우스는 거인족과의 전쟁에서 반드시 승리하고 싶었다. 그래서 델포이 신전을 관리하던 피티아를 찾아가서 신탁을 받았다.
“올림포스 산에 있는 신들의 세계를 운영하는 것도 쉽지 않아. 그런 판에 거인족 녀석들이 감히 우리 신들에게 덤벼드는 거야. 그래서 더 피곤해. 거인족 녀석들이 다시는 덤비지 못하게 만들려먼 어찌해야 할까?”
피티아는 잠시 혼란에 빠졌다. 신들의 왕인 제우스가 그의 아들인 아폴론의 자비 덕분에 델포이에서 예언자로 먹고 사는 자신을 갑자기 찾아온 것도 놀라웠지만, 자기가 아는 바로는 미래의 일도 꿰뚫어 보고 있을 제우스가 고작 자신 따위의 입을 통해 듣고 싶어 하는 걸 떠올릴 수 없어서였다. 잠시 숨을 고른 피티아는 책상에 흩어져있는 모래알을 보면서 말을 꺼낸다.
“제우스시여, 당신의 뜻대로 거인족을 몰아내려면 힘의 균형을 깨야 합니다. 그러기 위해서는 인간을 당신 편으로 끌어들여야 합니다.”
“한낱 인간 따위를 끌어들여 뭐에 쓴다고? 오히려 거치적거릴 뿐이야. 행여나 거인족과의 전쟁에서 이기기라도 하면 우쭐대면서 ‘이게 다 제 덕분입니다!’ 할 것이고, 그 다음에는 온갖 걸 다 요구하겠지.”
“하오나 인간도 잘 활용하면 쓸모가 있답니다. 일단, 인간 중에서 뛰어난 영웅을 찾으십시오. 그리고 그 영웅을 전쟁터에서 선봉에 세우십시오. 설사 그자가 죽거나 다치거나 활용 가치가 없더라도 제우스 당신께서 손해 보실 일은 없을 겁니다.”
“그래, 네 말이 맞다. 그런데 내가 생각하기에는 인간 중에서 영웅을 찾기는 어려울 거야. 그렇지 않아?”
파티아에게 그렇게 비아냥댄 제우스는 뭔가 번쩍 생각났는지 지그시 눈을 감았다.
피티아는 제우스가 어떤 생각을 하고 있는지 이미 알고 있었다. 그리고 제우스는 파티아가 자신의 생각을 대신 이야기해주기를 바라고 있었다. 그래야 파티아가 제공한 신탁을 통해 자신도 어쩔 수 없이 행동에 옮겼다고 변명할 수 있기 때문이다.
‘나도 이 양반의 아들인 아폴론의 손에 죽은 내 남편 피톤처럼 오래 살기는 글렀군.’
피티아는 잠시 낮은 한숨을 쉰 후, 제우스에게 조언을 했다.
“제우스시여. 좋은 방법이 있습니다. 당신의 능력을 인간에게 조금 나누어주시는 겁니다. 예를 들어, 뛰어난 인간 여성에게 당신의 아들을 잉태하게 하는 것입니다.”
제우스는 아주 잠깐 환한 웃음을 지었다. 그걸 놓치지 않은 피티아는 속으로 ‘그럼 그렇지’라고 중얼거렸다. 그리고 역시나 제우스는 짐짓 심각한 표정을 짓고서 답을 했다.
“아니, 엄연히 신인 나더러 고작 인간 따위와 정을 나누라는 건가? 감히 미물인 뱀 따위 네가 그런 신탁을 한단 말이냐?”
“송구스러우나 제우스시여, 그것이 거인족과의 전쟁에서 이길 유일한 방법입니다. 이것도 다 대의를 위한 희생이옵니다.”
제우스는 그 길로 이미 점찍어둔 유부녀 알크메네의 침소로 몰래 들어갔다. 그리고 알크메네는 헤라클레스를 낳았다. 하지만 이러한 사실을 알게 된 제우스의 아내 헤라는 또 하나의 의붓자식이 생겼다는 사실에 분노했다.
“아니. 여신에, 님프에, 이제는 인간까지 건드린단 말이야?”
다산(多産)과 육아의 여신 레토와의 사이에서 생긴 아폴론과 아르테미스 때문에 폭발했던 분노가 아직 꺼지지도 않았는데, 이 몹쓸 서방이 인간까지 범했다는 이야기를 들은 헤라는 곧 태어날 헤라클래스를 가만 놔두지 않겠다고 마음을 먹었다.
헤라는 헤라클레스가 12가지 시험을 치르게 했다. 마치 헤라클레스가 스스로 모험을 하다가 죽은 것처럼 꾸밀 수 있어서였다. 그 시험들이란 네메아의 사자를 죽일 것, 레르나의 독사인 히드라를 퇴치할 것, 아우게이아스의 외양간을 청소할 것, 스팀팔로스의 새들을 퇴치할 것, 히폴리테의 허리띠를 훔칠 것, 게리온의 황소 떼를 몰고 올 것, 헤스페리데스의 사과를 따올 것, 케리네이아의 암사슴과 에리만토스의 멧돼지와 크레타의 황소와 디오메데스의 야생마와 저승의 왕인 하데스의 경비견 케르베로스를 생포할 것 등이었다. 다만, 이러한 시험이 헤라의 질투로 인한 것임이 들통 나지 않도록 하기 위해서 헤라클레스가 시험을 통과할 때마다 새로운 능력을 주겠다고 약속했다.
결국 헤라클레스는 이러한 어려운 시험들을 모두 통과함으로써 마침내 신들의 영역에 편입된 최초의 인간이 되었다. 하지만 인간으로서의 한계는 엄연히 존재했다. 예를 들어, 헤라클레스는 예전에 절반은 인간이고 절반은 말인 켄타우로스인 네소스라는 자를 죽인 적이 있는데, 그 네소스의 복수로 인해 스스로 불타는 장작더미에 올라가 재물이 되어버린 것이다. 그러나 제우스의 조치로 헤라클레스는 인간의 삶을 다하자마자 저승으로 가는 대신 올림포스 산의 신궁으로 올라가 정식으로 신이 되었다.
깊은 상념에 빠졌던 헤라클레스는 다시 자리를 박차고 일어나 앞에 마주한 거인족과 일전을 벌이기 위해 선봉에 섰다. 인간으로서의 평생을 전쟁터에서 보냈던 헤라클레스는 신이 되어서도 전쟁터로 향하는 신세였던 것이다.
인공지능 시스템이 많은 작업을 수행하는 과정에서 수많은 입력이 들어온다. 그런데 그 입력들은 대개 정상적이지만, 종종 명확하지 않은 것들도 있다. 또한, 인공지능 시스템을 구성하는 세부 프로세스인 계획·추론·학습 과정에서도 명확하지 않은 입력들이 발생한다. 결국 해커가 개발한 적은 양의 악성코드로도 인공지능 시스템이 중단될 수 있는 것이다. 따라서 이러한 비정상적 입력이 인공지능 시스템에 영향을 주지 않도록 잘 탐지해야 한다. 악성코드로부터 인공지능 시스템을 보호하는 것은 매우 중요하기 때문이다. 또한 인공지능 시스템이 유연성을 가지려면 정보 보호와 관련된 방법도 적용해야 한다.
이를 위해서는 인공지능 시스템 자체가 탐지 과정에서 비정상적인 입력을 거를 수 있는 능력을 갖추도록 해주어야 한다. 즉, 인공지능 시스템이 비정상적인 입력에 스스로 유연하게 대처할 수 있도록 학습시켜야 한다. 이를 위해서는 보안성이 뛰어난 학습용 데이터를 구축하고, 보안 성능이 우수한 시스템에 인공지능을 탑재해야 한다. 또한 해커가 인공지능 시스템을 공격한다면, 제풀에 지쳐서 나가떨어질 정도로 큰 노력을 들이도록 환경을 조성해야 한다.
다음으로 해커 등 외부로부터의 접근자를 통제하는 시스템을 강화하고, 사이버보안 능력도 향상시켜야 한다. 알고리즘과 인공지능 시스템에 미치는 영향을 살펴보고, 보안에 강한 학습과 추론 방법도 적용한다. 특히, 보안 관련 시스템은 다단계로 구성하는 것이 바람직하므로, 다양한 보안 기술을 혼합해서 사용하는 것이 좋다. 예를 들어, 허니팟(Honey Pot)을 사용해 공격자의 의도를 무력화시키는 것이 대표적이다.
인공지능 시스템 설계자는 시스템의 취약점들을 파악하고, 이에 대한 보안대책도 수립해야 한다. 공격자가 어떤 방식으로 접근했는지를 알아야 보호해야 할 정보에 대해 상호 매핑 작업을 수행할 수 있기 때문이다. 사실, 공격자와 방어자의 입장과 방식은 비슷하다. 따라서 공격자의 입장을 고려하지 않고 인공지능 시스템을 설계한다면 위험에 빠질 수 있으므로 어떤 공격이 이루어질 것인지에 대해서도 잘 고려해두어야 한다.
사실, 인공지능 시스템을 학습시키려면 사전에 학습용 데이터를 잘 구축해야 한다. 유사한 데이터들인데 내용이 다른 경우도 있기 때문이다. 예를 들어, 자율주행자동차의 인공지능 시스템을 학습시키기 위해 날씨 데이터를 제공한다고 치자. 날씨가 맑거나 구름이 끼는 것은 명확하게 구분된다. 똑똑한 인공지능 시스템이라면 비가 오거나 눈이 오는 것도 구분할 것이다. 하지만 진눈깨비나 우박은 일반적이지 않기에 인공지능 시스템이 학습하기가 어렵다. 더욱이 벼락·천둥·지진·해일 등과 같은 모든 가능성에 대해 자료를 수집하고 학습시키기는 사실상 불가능하다.
인공지능 시스템은 학습되지 않은 상황에서 일반화되지 않은 데이터가 입력되면 반응하기가 쉽지 않다. 어차피 인간도 마찬가지가 아닌가. 예를 들어, 지진이나 소용돌이처럼 일반적인 한국인은 경험해본 적이 없는 사태가 발생했을 때 순간적으로 판단하고서 피하는 경우가 없지 않는가. 따라서 가장 효과적인 인공지능 시스템의 학습 목표는 관련 학습용 데이터가 없더라도, 정형화되지 않은 데이터가 입력되더라도 장애를 일으키지 않고서 시스템을 원만하게 유지시킬 수 있게 하는 것이다. 이를 위해서는 인공지능 시스템의 훈련용 데이터를 주기적으로 업데이트하고, 재훈련도 시켜야 한다. 더군다나 최근에는 기술이 급속도로 발전하고, 유행도 수시로 바뀐다. 이러한 추세에 맞춰 새로운 용어·신조어 그리고 실시간 이슈 등을 모으고, 이를 통해 정형화된 데이터를 만들어야 한다. 그렇지 않으면 인공지능 시스템도 나중에는 ‘꼰대’라는 소리를 듣게 될 수도 있다.
사실, 설계자는 인공지능 시스템에 대해서 고강도의 학습을 진행해야 한다. 인공지능 시스템이 스스로 학습해서 좋은 결과가 나올 수도 있지만, 사이버보안을 고려하면 ‘스스로 학습’에만 의존할 수는 없으니까 말이다. 그래서 사이버보안적인 면에서 볼 때 ‘학습’보다는 ‘훈련’이라는 용어를 더 보편적으로 사용하는 것이다.
사이버훈련은 모든 가능성을 고려하면서 진행해야 한다. 그렇지 않으면 그 결과도 명확하지 않을 것이다. 따라서 사이버훈련에 앞서 ‘보안 시나리오’를 만들어야 한다. 일반적인 학습은 개개의 데이터셋으로 이루어지겠지만, 훈련을 할 때에는 모든 데이터셋이 연관되어 유기적으로 작동하기 때문에 시나리오가 있어야 한다. 그리고 훈련에서는 다양한 시나리오를 선정 후 공격하게 된다.
이러한 시나리오를 사이버보안 분야에서는 ‘모의 침투 시험’이라고도 한다. 예를 들어, 훈련 상황에서 해커는 인공지능 시스템, 해당 인공지능 시스템을 구성하는 부품과 소자, 해당 인공지능 시스템이 보유하는 데이터를 공격할 것이다. 이 훈련 과정에서 인공지능 시스템은 실패를 경험할 것이다. 하지만 이를 통해 사이버보안에 대한 보호 대책을 스스로 계속 마련하게 된다.
그런데 이 훈련 방식에는 사이버보안 문제가 있다. 인공지능 시스템이 어떤 훈련용 시나리오로 훈련받았는지를 공격자가 파악해내는 경우가 그것이다. 이러한 정보는 공격자에게 다른 방법으로 인공지능을 교란할 기회를 제공한다. 따라서 인공지능 시스템을 훈련시킬 때에는 그 훈련용 시나리오가 외부에 유출되지 않도록 보안을 철저히 유지해야 한다. 그리고 인공지능 시스템이 여러 분야에 보급될 경우, 그러한 시스템들이 일관성을 지니게 해야 한다.
예를 들어, A기업에 구축된 인공지능 시스템은 동쪽으로 가라고 학습을 받았고, B기업에 구축된 인공지능 시스템은 서쪽으로 가라고 학습을 받았다면 상황적으로 모순이 발생한다. 물론 두 인공지능 시스템들에 사용된 학습용 데이터들에 차이가 있어서겠지만, 이렇듯 상반된 결과를 제공한다면 공정성 문제가 발생한다. 따라서 학습·훈련의 최종 목표는 같은 것이 좋으나, 만일 달리 나온다면 그 원인을 측정·진단하여 모두가 인정할 수 있도록 해야 한다.
결국 보안 인력의 교육·훈련은 인공지능 시스템의 고도화·보편화 증대에 지대한 공헌을 한다. 앞으로 한국에서도 인공지능 분야의 교육은 대학은 물론 초·중·고등학교에서부터 계속 진행될 것이다. 그럼으로써 컴퓨터·데이터·통계·엔지니어 분야에서 계속 결과를 축적해나갈 것이다. 이러한 교육 과정에서 인공지능 보안도 같은 범주에서 다루어져야 한다. 인공지능 보안의 교육 방법은 국가가 공인·허용한 방법으로 이루어지는 것이 바람직하다. 그러므로 이에 대한 학습 방법과 훈련용 시나리오도 관련 기관에서 제작해 교육 기관들에 제공해야 한다.
기술의 급속한 발전 덕분에 새로운 인공지능 시스템이 출현한다면, 이 새로운 인공지능 시스템은 우리에게 새로운 기회도 제공할 것이다. 하지만 이에 따른 사이버보안 문제로 인해 인류 사회는 심각한 도전에 직면할 수도 있다. 그래서 사이버보안 문제에 대한 경각심을 새롭게 다지고, 이에 대한 일반인들의 인식도 높여나가야 한다. 따라서 인공지능을 위한 보안 프로그램도 함께 마련해야 한다.
헤라클레스가 신으로 추앙받는 이유는 단지 아버지가 제우스이기 때문만은 아니다. 그가 겪은 12가지의 시험과 그에 따른 훈련을 통해 힘과 능력을 다졌고, 학습한 경험을 토대로 수많은 전쟁에서 승리했기 때문이다. 하지만 헤라클레스에게도 약점은 있었다. 사랑하는 부인이 건네준 ‘독이 묻은 옷 한 벌’ 때문에 자신이 죽을 수도 있었다는 사실을 몰랐던 것이다. 이렇듯 전 분야에 걸쳐 강하고 안전할지라도 의외의 상황에서 잘못된 결과가 발생할 수도 있다. 헤라클레스가 죽어서 신의 영역에 편입되었더라도, 그 전에 인간의 영역에서 좀 더 신중하고 치밀했어야 했듯이 말이다.
[글_ 김주원 사이버보안 분야 칼럼리스트]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
권준기자 기사보기
[2024-10-31] 
