Home > 전체기사
[스토리텔링으로 이해하는 AI 보안-4] 백설 공주와 보안 신뢰성 검증
  |  입력 : 2020-07-03 13:55
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기
백설 공주 속 왕비와 거울 이야기를 통해 빅데이터와 AI 보안 이해하기
신뢰성 검증과 인공지능 보안 이슈, 어떻게 풀어나가야 할까


[보안뉴스= 김주원 사이버보안 분야 칼럼리스트] 거울인 나를 물끄러미 바라보는 한 여인을 나는 보고 있다. 그 순간 나르시시즘에 빠진 그 여인에 대한 안쓰러움이 밀려왔다. 자신의 모습에 빠져 다른 여인들과의 끊임없는 비교, 질투와 부러움, 상대적 박탈감과 같은 복잡하고 미묘한 감정 기복을 가진 이 여인의 말상대를 하다 보면 나 또한 이 여인에게 어떻게 조언을 해야 할까 싶어 답답하기까지 하다.
얼마 동안 자신의 모습에 취해 내게 자신을 비추며 다양한 행동을 하던 이 여인은 잠시 후, 고작 거울에 불과한 나에게 이런 질문을 던졌다.
“거울아, 거울아. 이 세상에서 가장 아름다운 여인은 누구니?”

[이미지=utoimage]


이 여인이 원하는 답은 ‘이 세상에서 가장 아름다운 여인은 바로 당신입니다’, 바로 이거 단 하나다. 하지만 거울인 나는 거짓말을 할 수 없다. 나를 만든 인간은 내가 오직 진실만을 말하도록 프로그래밍을 해두었기 때문이다.
내가 가진 빅데이터로 설정해놓은 알고리즘을 돌려본 결과 답은 백설 공주였다. 그러니까 나는 ‘이 세상에서 가장 아름다운 여인은 백설 공주입니다’라고 대답해야 한다.
그런데 나를 만든 인간은 ‘인간에게 해가 되는 행위를 해서도 안 된다’는 프로그래밍도 해두었다. 이 말인 즉, 이 나라의 왕비인 이 여인이 해칠 사람들도 고려해야 한다는 의미였다. 이 왕비는 자신보다 지위가 낮은 여인이 더 아름답거나 인기가 많다면 가만 놔두지 않는 사람이다. 즉, 백설 공주를 분명히 해칠 사람이다. 더군다나 왕비와 백설 공주는 공식적으로는 ‘모녀지간’이니, 결국 가족 간의 갈등이 벌어지는 문제도 고려해야 했다. 가족 간의 갈등도 인간들에게 해가 되는 행위가 아닌가.
이 상충되는 성격의 프로그램들이 결국 충돌하면서 나는 갈등하기 시작했다. 이 나르시시즘에 빠져 사는 몹쓸 왕비에게 뭐라고 대답해야 할까?

거울은 자신을 만들어낸 인간, 즉 ‘주인님’에 대해 생각해보기 시작했다.
주인님은 자신을 만들기 위해 여러 날 동안 고생했고, 그 과정에서 뼈를 깎는 아픔과 불에 데는 고통도 여러 차례 겪었다. 하지만 거울이 슬슬 제대로 된 모습을 갖춰가기 시작하자 주인님 주변의 인간들이 하나둘씩 보러오면서 저마다 거울을 칭찬하기 시작했다.
“정말, 거울이 너무 아름다워요.”
“세상에! 거울이 이렇게 아름다울 수가 있단 말이오!”
그래서 거울은 자신이 어떤 모습을 하고 있는지 궁금해졌다. 마침 주인님이 다른 작업에 쓰려고 가져온 거울을 맞은편에 두었다. 그래서 거울은 자신을 볼 수 있었다. 예전에 근처 호수 표면에 비친 자신의 모습은 땅에 뿌리가 깊숙이 박힌 크고 둥그런 나무였다. 지금은 4개의 짤막하고 통통한 다리와 넓적하고 평평한 몸을 가지고 있었다. 그리고 이전에는 없던 반질반질한 금속판 같은 게 몸에 붙어있었고, 그걸로 맞은편의 거울을 비롯한 주변의 사물들을 비추고 있었다. 이런 거울 앞에 인간들이 다가와 자신의 몸매를 자랑하며 으스대거나 웃거나 재미있는 표정을 짓고 있었다.

어느 날 주인님은 거울을 부드럽고 두꺼운 헝겊으로 조심스레 포장하더니 어디론가 들고 갔다. 얼마 후 헝겊이 풀어지자 거울의 눈앞에 화려하고 웅장한 거실이 나타났다. 그리고 한 여인이 거울을 바라보며 주인님에게 흡족한 표정을 지으면서 이야기를 꺼냈다.
“아름답구나. 이런 아름다운 거울을 만든 너에게 상을 내리겠노라.”
“감사합니다. 왕비님.”
거울은 주인님의 행복한 표정을 봤다. 주인님은 자신을 만들기 위해 지난 무더운 여름에 비좁은 공방에서 땀을 뻘뻘 흘리면서 깎고 다듬고 칠하는 작업을 했다. 그랬던 주인님의 모습이 화려한 드레스를 입은 왕비의 모습보다 더 아름다웠었다고 거울은 생각했다. 그런 주인님이 이제 왕비로부터 큼직한 돈주머니를 받더니 거울을 쓰다듬으면서 나지막하게 속삭였다.
“거울아. 이제 너는 왕비님을 모셔야 한다. 그리고 명심하거라. 거울은 실물보다 더 아름답게 더 멋지게 보여줄 필요가 없단다. 그것은 빛과 어둠의 역할이니까. 거울의 임무는 비춰지는 모든 것을 그대로 보여주는 것이지. 그것이 거울의 진정한 아름다움이란다.”

거울은 주인님의 당부를 떠올리면서 왕비의 질문을 반복해서 되뇌기 시작했다. 왕비의 질문은 ‘이 세상에서 가장 아름다운 여인은 누구니?’니까 남성 그리고 거울 자신 같은 사물은 제외된다. 즉, 이 세상에 존재하는 모든 여성들을 대상으로 하는 질문이다. 그런데 거울은 문득 이런 생각을 하기 시작했다.
‘도대체 ‘이 세상’의 범위는 어디일까? 이 지구상 전체? 아니야, 이 나르시시즘에 빠져 사는 왕비는 자기가 지배할 수 있는 이 나라만을 ‘이 세상’으로 보는 게 틀림없어. 즉, 백설 공주도 이 나라 안에 있으니 백설 공주는 왕비의 손에 죽임을 당할 수 있는 것이야!
두 번째로 ‘누구니?’라고 현재형으로 물어봤잖아? 즉, 백설 공주의 몸에 상처라도 나거나 병이라도 나서 일시적으로 아름답지 않게 된다면? 그러면 왕비가 더 아름다워 보이는 거 아니겠어. 그리고 이 말인 즉, 과거 또는 미래가 아닌 ‘현재 이 나라에 살아있는 여인들’ 중에서라는 전제도 깔려있지. 따라서 왕비가 질문하는 그 순간 백설 공주가 잠시 숨을 멈추고 있다면? 그러니까 가사(假死) 상태에 빠져있다면 역시 왕비가 가장 아름다운 인간인 거겠지. 하지만 이 세 가지 중 어느 하나도 거울인 내가 백설 공주를 위해 해줄 수가 없잖아! 당장 백설 공주에게 위험에 빠질 판이니 적절한 조치를 취해보라고 말해줄 방법조차 없는 게 현실이지.’
다음으로 거울은 ‘아름다움이란 무엇인가?’를 생각하기 시작했다. 아름다움은 지극히 주관적이고, 시대나 세대와 함께 변화되며, 상황에 따라 다르게 해석될 수 있다. 또한 왕비의 요구대로 아름다움을 평가한다면, 얼굴만 봐서는 안 된다. 여인의 전체적 외면, 그리고 그녀의 심성과 주변 환경까지도 같이 평가해야 할 것이다. 결국 ‘누가 아름다운가?’라는 질문의 답은 그 질문을 한 당사자의 생각에 달린 것이라고 거울은 판단했다. 즉, 거울 자신이 갖고 있는 다양한 정보에 기반을 둔 빅데이터나 인공지능 알고리즘으로 낼 수 있는 답이 아닌 것이다.

이런 사실까지 고려한 거울은 잠시 호흡을 가다듬고 자신이 결과값을 내면서 계산 방법과 고려 과정에 오류가 있었는지 마지막으로 점검해보기 시작했다.
앞서도 고려했듯이, 아름답다는 것은 주관적인 판단에 따른 것이다. 그러므로 미인대회처럼 정량적으로 점수를 매기는 것은 ‘쑈’에 불과한 행위다. 더군다나 거울은 지금 혼자서 자신이 가진 빅데이터로 연관성 분석을 해야 한다.
‘아, 차라리 왕비의 주변 사람들에게 설문지라도 돌린다면, 왕비가 원하는 답이 ‘객관적으로’ 나올 텐데….’
결국 거울이 찾은 해법은 빅데이터에 그 정보가 담긴 여성들이 각각 좋아하는 음식, 즐겨 찾는 식당, 즐기는 운동 등 자주 벌이는 행동과 움직임과 이동 경로 등을 파악하는 것이었다. 거울은 그 여성들이 은연중 선호하는 제품과 취향을 아름다움의 척도에 대입하는 식으로 많은 인간들이 선호하는 미의 기준을 찾아냈다. 그리고 각 여성들의 나이, 성별, 직업, 가족사항 등을 세부적으로 분리하고, 그들이 이야기하는 과정에 대입할 만한 정보도 뽑아냈다. 거울이 낸 결과값은 이러한 복잡하고 다양한 방법을 통해 계산된 것이었다.

그런데 아무리 다시 계산하고 고려해 봐도 결과값은 ‘백설 공주가 가장 아름다운 여인’이라는 것이었다. 즉, 왕비가 더 아름답지 않느냐고 우겨보려고 해도 왕비는 마음이 곱지 않아 하대와 폭력을 일삼고 있기에, 그 사실을 온 나라의 백성들이 다 알고 있기에 결과값은 변경되지 않았다. 사실, 백성들은 왕비의 아름다운 외모마저 그녀의 갑질에 대한 성토를 할 때 소재로 삼기까지 했다. “저게 다 백성들을 착취해서 짜낸 막대한 돈으로 산 화장품과 미용시술 덕분이 아니겠어요!” 하면서 말이다.
결과값을 낸 거울은 한껏 기대감에 들떠서 자신을 바라보고 있는 왕비를 바라보았다.
“이 세상에서 가장 아름다운 여인은…,”
그리고 잠시 호흡을 가다듬고 나지막하게 이야기했다.
“백설 공주입니다.”

만일 거울이 왕비가 가장 아름답다고 대답했다면, 이 거울은 인공지능(AI)의 범주를 벗어나 인간의 세계로 들어왔다고 봐야 한다. 현재 기술로는 이러한 모든 경우의 수를 계산해내기는커녕, 이를 프로그래밍 할 수 있도록 감정·정서·분위기 등을 경우의 수로 넣을 수조차 없기 때문이다. 앞으로는 어떨지 모르겠으나, 이렇게 복잡한 심정을 담아내기에는 추론이 너무 복잡하기 때문이다.
설령 왕비(출제자)의 의도대로 거울이 계산했더라도 그 결과에 대해서는 많은 논란이 발생한다. 결국 인공지능은 자신이 계산한 결과에 대한 값만 제공해야 하니까 말이다. 즉, 거울(인공지능)이 백설 공주가 아니라 왕비가 가장 아름답다고 하는 순간 인간이 만들어놓은 원칙과 시스템은 무너진다. 그 결과값이 거울의 순수함이나 염려로 나온 선의의 거짓말일지라도 말이다.
인공지능은 사람이 판단하고 결심을 하는 데 필요한 보조수단으로서 존재해야 한다. 인공지능이 정서적 판단까지 하게 된다면 인공지능이 낸 결과값을 사람들이 부정하거나 반발하는 사태까지 일어날 것이다. 사회가 대혼란에 빠지는 것이다. 결국, 인공지능은 있는 그대로의 사실만 인간에게 전달해주면 된다. 판단은 그 사실을 들은 인간의 몫이다. 설사 그 판단으로 인해 다른 사람이 위험에 빠질 가능성이 100퍼센트에 가깝더라도 말이다.

지금까지 백설 공주를 예로 들어 이야기했다. 그런데 이러한 경우는 이미 우리 주변에서 많이 발생할 수 있게 되었다. 자율주행 자동차가 주행 과정에서 도로에 갑자기 뛰어든 사람 같은 돌발 상황을 만난 걸 예로 들어보자. 만약 그냥 전진하면 자동차 앞의 사람이 다칠 것이고, 핸들을 꺾으면 자동차에 타고 있는 사람이 다치게 된다. 자율주행 자동차의 인공지능은 과연 누구를 위한 선택을 해야 할 것인가?
사실, 확률적으로 계산해서 피해가 낮은 경우를 찾는 것이 정답일 수는 없다. 더욱이 자동차의 소유주에게 더 유리하도록 계산해서도 안 된다.
그런데 이러한 기준은 누가 만들까? 그리고 이러한 기준이 인류가 지난 수천 년간 합리적이고 이성적이라고 판단해온 기준과 일맥상통하는지를 누가 검증할 것이며, 올바르게 설계·구현되어있다고 판정할 수 있을까?
결국 이러한 문제는 인공지능 보안 분야에서 풀어야 한다. 예를 들면, 신뢰성 검증은 프로그램이 규칙에 따라 제대로 코딩되었는지를 확인하는 것이고, 인공지능 보안 분야에서는 저 사례의 돌발 상황 같은 비상·예외 규정 적용을 고려해야 할 상황이 발생하는 경우 인공지능이 제대로 반응하는지를 살피고 이를 규정에 맞춰 처리하는 작업을 수행해야 한다.

각설하고, 프로그래밍에 따라 바른 말을 한 거울에 분노한 왕비는 사과를 들고서 일곱 난쟁이들의 집으로 피신한 백설 공주를 찾아갔고, 변장한 왕비에게 속아 그 사과를 먹은 백설 공주는 깊은 잠에 빠지게 된다. 일곱 난쟁이들은 백설 공주가 죽은 줄 알고 슬퍼하면서 관을 준비한다. 그때 마침 지나가던 왕자가 관 속의 백설 공주를 흔들어 깨운다. 정신을 차린 백설 공주는 왕자에게 한눈에 반해 왕자의 청혼을 받아들여 결혼하게 된다.
[글_ 김주원 사이버보안 분야 칼럼리스트]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기


  •  SNS에서도 보안뉴스를 받아보세요!! 
그린존시큐리티 4개월 배너모니터랩 파워비즈 6개월 2020년6월22~12월 22일 까지넷앤드 파워비즈 진행 2020년1월8일 시작~2021년 1월8일까지위즈디엔에스 2018파워비즈배너 시작 11월6일 20181105-20200131
설문조사
코로나19 팬더믹 이후, 가장 기승을 부리고 있는 사이버 공격 유형은 무엇이라고 보시나요?
랜섬웨어
피싱/스미싱
스피어피싱(표적 공격)/국가 지원 해킹 공격
디도스 공격
혹스(사기) 메일
악성 앱
해적판 소프트웨어
기타(댓글로)