인공지능 시스템, 개인정보 보호, 정보 보유·열람에 대한 격차 해소, 정보 추적 가능성 등을 고려해 설계돼야
[보안뉴스= 김주원 사이버보안 분야 칼럼리스트] 사랑하는 연인이 당신에게 “내년 첫날 정동진에서 만나요”라고 한다면, 당신은 먼저 스마트폰을 꺼내 일정표 앱으로 일정을 확인하고, 그때 즈음에 맞춰 버스표를 예매하거나 자가용에 설치된 내비게이션을 보면서 여정과 시간을 확인할 것이다. 그런데 당신이 만일 2천 년 전에 태어났다면 어떻게 했을까?
우선 정동진이 어디에 있는지, 어떻게 가야 하는지, 얼마나 걸리는지 알 수 없다. 더욱이 가는 도중에 어떠한 위험이 도사리고 있을지도 추측하기 어렵다. 하지만 사랑하는 연인을 만나는 거라면, 어떠한 위험이 닥치더라도 봇짐을 메고 대장정에 나설 것이다. 그런데 나선다고 해결될 일이 아니다. 어디로 어떻게 가야 할지를 모르지 않는가. 북쪽으로? 남쪽으로? 누군가에게 물어보려고 해도 정작 “정동진? 그게 뭐요?”라고 반문해오기 일쑤다. 결국, 지도를 구해야 하고, 그 지도를 보면서 자신의 여정을 가늠해야 한다.
그런데 앞글을 읽은 독자라면 “태양의 움직임이나 별자리를 보면서 가겠구나” 할 것이다. 그러나 그건 대양을 건너거나 사막·초원을 이동할 때 사용하는 방법이다. 우리나라에서는 산의 형태와 강의 위치를 살피면서 가는 것이 더 효율적이다.
사실, 우리 조상들이 해·달·별을 관측했던 이유는 다른 지역으로 이동할 때 사용하기 위해서라기보다 농사에 필요한 계절의 변화를 파악하기 위해서였다. 해를 보면서 하루를 계산하고, 달을 보면서 월을 계산하며, 별을 보면서 계절의 흐름을 파악한 것이다. 길고 추운 겨울을 이겨낼 수 있었던 것도 이러한 천문 관측을 통해 ‘조금만 참으면 봄이 온다’는 것을 알 수 있었기 때문이다. 물론 천문 연구는 아무나 할 수 있는 일이 아니다. 고대 이집트에서는 파라오(왕)만이 그리고 고대 중국에서는 천자(황제)만이 할 수 있었다. 이들은 신의 아들이라는 민중의 믿음이 있어서였다.
고대에 정복자들은 원주민들을 굴복시키고 자신들을 섬기도록 하기 위해 신적 존재로 인정받고자 했다. 즉, 원주민들을 정복자 자신들과 계급·서열·신분 면에서 평등하게 대우하면 언젠가 들고 일어날 것이라고 봤기 때문이다. 그러려면 정복자가 곧 신적 존재임을 상징하는 도구가 필요했다. 예를 들면, 항상 빛을 반사하여 태양과 같은 효과를 보이는 거울과 황금 장신구 등을 소지했고, 신비로움을 주기 위해 악사들로 하여금 주변에서 피리와 악기로 소리를 내게 했다. 또한 청동이나 철 같은 더 단단하고 고급스런 재료로 만든 칼과 방패를 들고 다녔다. 고조선 건국 신화의 주인공이자 단군왕검의 아버지인 환웅도 하늘나라에서 내려오면서 청동검·청동거울·청동방울 등 천부삼인(天符三印)을 가지고 왔으며, 일본 덴노(천황) 가문의 전설에서도 고대 지배 계층의 권위를 상징하는 물건인 삼종신기(三種神器)로 검·거울·구슬이 나온다.
지배자는 평범한 백성들이 하늘을 쳐다보는 것도 허락하지 않았다. 자신만이 해·달·별의 흐름을 보면서 달력을 만들고, 자신의 즉위에 맞춰 연호를 제정했다. 측근들이 천문을 연구하는 기관을 만들어 일식·월식·기후·태풍 등 자연의 변화를 살피도록 했다. 이러한 정보를 지배자는 갖고 있었기 때문에 앞으로 벌어질 일을 알 수 있었고, 그래서 백성들은 지배자에 대해 경외심을 갖고 아무런 의심 없이 섬겼다.
고대는 농경사회였다. 농경에서 가장 중요한 일은 언제 씨를 뿌리고, 추수할 것인지 파악하며, 가뭄·홍수에 미리 대비하는 것이다. 1년 농사를 망치면 사람들은 다음 해까지 식량 부족에 따른 어려움을 겪을 수밖에 없고, 결국 식량을 구하기 위해 주변국과 치열한 전쟁을 벌여야 하는 경우도 발생했다. 하지만 풍년이 되면 마음이 너그러워지고 여유도 생기므로 다양한 문화생활을 누리는 평온한 시대가 왔다.
따라서 계절의 흐름을 정확히 파악하여 가뭄·홍수를 방지하고 풍년이 들게 하는 것이 무엇보다도 중요했다. 이를 위한 정보 자체가 지배자의 권력을 유지하는 데 있어 가장 핵심적인 자료였다. 그래서 서양에서는 제사장만이 출입할 수 있는 신전 깊숙한 곳에 이러한 정보를 적어 놓았으며, 동양에서는 지배자 자신의 거처에 가까이 두고 엄히 감시했다. 그리고서 강이 범람할 때, 태풍·가뭄, 개기일식을 ‘예언’하면서 신처럼 전지전능한 능력을 갖춘 것처럼 행동했다. 그리고 비가 올 때쯤에는 기우제를 지내 자신이 하늘의 승인을 받은 권력자인 행동했다. 이렇듯 농경사회는 천문과 밀접한 관계를 맺었다.
그런데 18세기 말엽 영국에서 일어난 산업혁명을 계기로 공업사회가 일어나더니, 이제는 지능화사회마저 나타나고 있다. 농경사회에서는 곡식의 확보가 최대 이슈였다면, 지금은 데이터의 확보가 생존의 필수조건으로 떠오르고 있다. 이는 데이터가 사람이 만든 모든 사물에 적용되기 시작했기 때문이다. 특히 지능화사회의 상징적 요소처럼 인공지능(AI)이 떠오르자 데이터는 인류의 최대 관심사가 되었다. 인공지능을 학습시키는 데 가장 중요한 요소가 빅데이터이기 때문이다.
과거에는 데이터를 저장하려면 큰돈을 들여야 했다. 데이터 저장에 메모리·하드디스크·롤테이프 같은 하드웨어 장치들이 필요한데, 이들의 설치·유지에 드는 비용이 만만치 않았던 것이다. 그런데 기술이 발전하면서 하드웨어 장치보다 데이터의 가치를 더 인정하는 시대가 왔다.
하지만 아무리 좋은 데이터가 있더라도 그 데이터로부터 내가 원하는 정보를 검색·수집·비교·분석하는 일은 또 하나의 고된 작업이었다. 데이터가 정형화되어 있지 않기 때문이다. 결국 사이버공간에 산처럼 쌓여있는 데이터 중에서 사용자가 원하는 정보를 얼마나 빨리 정확하게 검색해 알려주느냐가 검색엔진 회사의 최대 목표로 떠올랐다. 구글이 초기 검색엔진의 강자들이었던 야후와 알타비스타 등의 서비스를 2010년대 초에 종료시켰을 정도로 단숨에 세계 최고의 기업이 된 것도 우수한 성능의 검색엔진을 만들어낸 덕분이었다.
하지만 사이버공간에 수많은 정보가 계속 올라오자, 그중에서 어떤 정보가 사용자가 원하는 정보인지를 검색엔진이 금방 파악할 수 없게 되었다. 예를 들어, ‘자동차’라는 단어로 검색할 때, 어떤 검색엔진 사용자는 자동차의 디자인에 관심이 있지만, 다른 사용자는 엔진 성능에 관심이 있을 수도 있다. 그리고 검색엔진 사용자가 구매를 원하는 것인지, 구매할 수 있는 능력은 갖췄는지도 문제였다. 해당 사용자에게 맞춤화된 정보를 제공해야 할 필요가 생긴 것이다.
결국, 검색엔진 서비스회사는 사용자들의 취향도 파악해야 하는 과제도 떠안게 되었다. 심지어 ‘자동차’를 검색하는 사용자가 실제로 자동차를 구매할 능력이 있다면, 해외여행이나 전원주택에도 관심이 있을 수 있다. 검색엔진은 그런 것까지 예상해서 이에 대한 정보도 해당 사용자에게 제공할 수 있어야 하기에 이르렀다. 이는 검색엔진이 인공지능과 결합해 정보를 쉽게 취할 수 있게 되면서 생긴 부작용이라고 볼 수 있다. 왜 부작용이냐고?
먼저, 이러한 정보는 매우 예민하고 민감한 개인정보를 확보해야 나올 수 있다. 그런데 고품질의 검색 서비스를 원하면서도 자신의 개인정보를 검색엔진 회사에 제공하는 것은 원하지 않는 사람도 많다. 특히, 해킹이라든가 검색엔진 회사의 실수로 개인정보가 노출되어 자신의 불편한 취미나 취향이 밝혀진다면 어떻게 될까?
그래서 개인정보 보호 분야는 인공지능·빅데이터 분야와는 대립각을 형성했다. 예를 들어, 내 다리가 불편한 것을 감추고 다녔는데, 어느 날 보조기구 상품광고를 받았다면 전혀 유쾌하지 않을 것이다. 이렇듯, 인공지능이 개인정보를 어느 수준까지 활용하고 사용자에게 관련 데이터를 제공해야 할 것인지와, 개인정보 보호를 위한 수준·범위도 같이 고민해야 할 것이다.
두 번째로 일반인들은 누구나 인공지능 서비스를 이용할 수 있다고 믿지만, 안타깝게도 인공지능 서비스에는 등급과 품질이 존재한다. 예를 들어, ‘주식 정보’를 검색해본다고 해보자. 일반인들이 접하는 정보와 기관에서 접하는 정보에는 차이가 있다. 더군다나 정부가 추진하는 전략을 분석하고, 해당 전략의 실행에 따라 유리해지거나 불리해질 기업들을 분석해 대규모로 투자하는 외국계 펀드도 존재한다. 그런데 고급 정보를 제공하는 인공지능은 매우 비쌀뿐더러, 일반인에게 공개되지도 않는다. 바로 정보가 돈과 귀결되기 때문이다.
이렇듯 정보의 규모와 질은 상대적이다. 따라서 인공지능으로 얻어지는 정보의 차이·격차, 그리고 이에 따른 문제·갈등을 어떻게 해소해야 하는지도 관건이다.
세 번째로 인공지능에서 제공하는 정보에 대한 추적이 이루어져야 한다. 사실, 인공지능이 제공한 결과물을 제대로 확인하지 않고 사용하다 보면 차후에 어느 부분에서 오류가 발생했는지 알 수 없다. 따라서 인공지능이 제공한 정보의 이력을 파악하고, 결과는 어떤 방식으로 도출되었는지를 점검·디버깅할 수 있도록 해야 한다. 그래야만 결과를 보정하고 왜곡된 부분을 말끔하게 제거할 수 있다. 그렇지 않으면 왜곡된 정보가 계속 부풀려지고 인용되면서 아무도 원치 않는 결과를 초래할 수 있다.
결론적으로 인공지능 시스템은 개인정보 보호, 개인들 간의 정보 보유·열람에 대한 격차 해소, 정보의 추적 가능성 등을 고려해 설계되어야 한다. 그렇지 않으면 과거 천문을 이용해 백성들을 바보로 만들었던 지배자들 것처럼, 빅데이터·인공지능을 이용해 빅브라더(Big Brother, 절대 권력자)가 되려는 자들이 나타날 것이다.
[글_ 김주원 사이버보안 분야 칼럼리스트]
[보안뉴스= 김주원 사이버보안 분야 칼럼리스트] 사랑하는 연인이 당신에게 “내년 첫날 정동진에서 만나요”라고 한다면, 당신은 먼저 스마트폰을 꺼내 일정표 앱으로 일정을 확인하고, 그때 즈음에 맞춰 버스표를 예매하거나 자가용에 설치된 내비게이션을 보면서 여정과 시간을 확인할 것이다. 그런데 당신이 만일 2천 년 전에 태어났다면 어떻게 했을까?
[이미지=utoimage]
우선 정동진이 어디에 있는지, 어떻게 가야 하는지, 얼마나 걸리는지 알 수 없다. 더욱이 가는 도중에 어떠한 위험이 도사리고 있을지도 추측하기 어렵다. 하지만 사랑하는 연인을 만나는 거라면, 어떠한 위험이 닥치더라도 봇짐을 메고 대장정에 나설 것이다. 그런데 나선다고 해결될 일이 아니다. 어디로 어떻게 가야 할지를 모르지 않는가. 북쪽으로? 남쪽으로? 누군가에게 물어보려고 해도 정작 “정동진? 그게 뭐요?”라고 반문해오기 일쑤다. 결국, 지도를 구해야 하고, 그 지도를 보면서 자신의 여정을 가늠해야 한다.
그런데 앞글을 읽은 독자라면 “태양의 움직임이나 별자리를 보면서 가겠구나” 할 것이다. 그러나 그건 대양을 건너거나 사막·초원을 이동할 때 사용하는 방법이다. 우리나라에서는 산의 형태와 강의 위치를 살피면서 가는 것이 더 효율적이다.
사실, 우리 조상들이 해·달·별을 관측했던 이유는 다른 지역으로 이동할 때 사용하기 위해서라기보다 농사에 필요한 계절의 변화를 파악하기 위해서였다. 해를 보면서 하루를 계산하고, 달을 보면서 월을 계산하며, 별을 보면서 계절의 흐름을 파악한 것이다. 길고 추운 겨울을 이겨낼 수 있었던 것도 이러한 천문 관측을 통해 ‘조금만 참으면 봄이 온다’는 것을 알 수 있었기 때문이다. 물론 천문 연구는 아무나 할 수 있는 일이 아니다. 고대 이집트에서는 파라오(왕)만이 그리고 고대 중국에서는 천자(황제)만이 할 수 있었다. 이들은 신의 아들이라는 민중의 믿음이 있어서였다.
고대에 정복자들은 원주민들을 굴복시키고 자신들을 섬기도록 하기 위해 신적 존재로 인정받고자 했다. 즉, 원주민들을 정복자 자신들과 계급·서열·신분 면에서 평등하게 대우하면 언젠가 들고 일어날 것이라고 봤기 때문이다. 그러려면 정복자가 곧 신적 존재임을 상징하는 도구가 필요했다. 예를 들면, 항상 빛을 반사하여 태양과 같은 효과를 보이는 거울과 황금 장신구 등을 소지했고, 신비로움을 주기 위해 악사들로 하여금 주변에서 피리와 악기로 소리를 내게 했다. 또한 청동이나 철 같은 더 단단하고 고급스런 재료로 만든 칼과 방패를 들고 다녔다. 고조선 건국 신화의 주인공이자 단군왕검의 아버지인 환웅도 하늘나라에서 내려오면서 청동검·청동거울·청동방울 등 천부삼인(天符三印)을 가지고 왔으며, 일본 덴노(천황) 가문의 전설에서도 고대 지배 계층의 권위를 상징하는 물건인 삼종신기(三種神器)로 검·거울·구슬이 나온다.
지배자는 평범한 백성들이 하늘을 쳐다보는 것도 허락하지 않았다. 자신만이 해·달·별의 흐름을 보면서 달력을 만들고, 자신의 즉위에 맞춰 연호를 제정했다. 측근들이 천문을 연구하는 기관을 만들어 일식·월식·기후·태풍 등 자연의 변화를 살피도록 했다. 이러한 정보를 지배자는 갖고 있었기 때문에 앞으로 벌어질 일을 알 수 있었고, 그래서 백성들은 지배자에 대해 경외심을 갖고 아무런 의심 없이 섬겼다.
고대는 농경사회였다. 농경에서 가장 중요한 일은 언제 씨를 뿌리고, 추수할 것인지 파악하며, 가뭄·홍수에 미리 대비하는 것이다. 1년 농사를 망치면 사람들은 다음 해까지 식량 부족에 따른 어려움을 겪을 수밖에 없고, 결국 식량을 구하기 위해 주변국과 치열한 전쟁을 벌여야 하는 경우도 발생했다. 하지만 풍년이 되면 마음이 너그러워지고 여유도 생기므로 다양한 문화생활을 누리는 평온한 시대가 왔다.
따라서 계절의 흐름을 정확히 파악하여 가뭄·홍수를 방지하고 풍년이 들게 하는 것이 무엇보다도 중요했다. 이를 위한 정보 자체가 지배자의 권력을 유지하는 데 있어 가장 핵심적인 자료였다. 그래서 서양에서는 제사장만이 출입할 수 있는 신전 깊숙한 곳에 이러한 정보를 적어 놓았으며, 동양에서는 지배자 자신의 거처에 가까이 두고 엄히 감시했다. 그리고서 강이 범람할 때, 태풍·가뭄, 개기일식을 ‘예언’하면서 신처럼 전지전능한 능력을 갖춘 것처럼 행동했다. 그리고 비가 올 때쯤에는 기우제를 지내 자신이 하늘의 승인을 받은 권력자인 행동했다. 이렇듯 농경사회는 천문과 밀접한 관계를 맺었다.
그런데 18세기 말엽 영국에서 일어난 산업혁명을 계기로 공업사회가 일어나더니, 이제는 지능화사회마저 나타나고 있다. 농경사회에서는 곡식의 확보가 최대 이슈였다면, 지금은 데이터의 확보가 생존의 필수조건으로 떠오르고 있다. 이는 데이터가 사람이 만든 모든 사물에 적용되기 시작했기 때문이다. 특히 지능화사회의 상징적 요소처럼 인공지능(AI)이 떠오르자 데이터는 인류의 최대 관심사가 되었다. 인공지능을 학습시키는 데 가장 중요한 요소가 빅데이터이기 때문이다.
과거에는 데이터를 저장하려면 큰돈을 들여야 했다. 데이터 저장에 메모리·하드디스크·롤테이프 같은 하드웨어 장치들이 필요한데, 이들의 설치·유지에 드는 비용이 만만치 않았던 것이다. 그런데 기술이 발전하면서 하드웨어 장치보다 데이터의 가치를 더 인정하는 시대가 왔다.
하지만 아무리 좋은 데이터가 있더라도 그 데이터로부터 내가 원하는 정보를 검색·수집·비교·분석하는 일은 또 하나의 고된 작업이었다. 데이터가 정형화되어 있지 않기 때문이다. 결국 사이버공간에 산처럼 쌓여있는 데이터 중에서 사용자가 원하는 정보를 얼마나 빨리 정확하게 검색해 알려주느냐가 검색엔진 회사의 최대 목표로 떠올랐다. 구글이 초기 검색엔진의 강자들이었던 야후와 알타비스타 등의 서비스를 2010년대 초에 종료시켰을 정도로 단숨에 세계 최고의 기업이 된 것도 우수한 성능의 검색엔진을 만들어낸 덕분이었다.
하지만 사이버공간에 수많은 정보가 계속 올라오자, 그중에서 어떤 정보가 사용자가 원하는 정보인지를 검색엔진이 금방 파악할 수 없게 되었다. 예를 들어, ‘자동차’라는 단어로 검색할 때, 어떤 검색엔진 사용자는 자동차의 디자인에 관심이 있지만, 다른 사용자는 엔진 성능에 관심이 있을 수도 있다. 그리고 검색엔진 사용자가 구매를 원하는 것인지, 구매할 수 있는 능력은 갖췄는지도 문제였다. 해당 사용자에게 맞춤화된 정보를 제공해야 할 필요가 생긴 것이다.
결국, 검색엔진 서비스회사는 사용자들의 취향도 파악해야 하는 과제도 떠안게 되었다. 심지어 ‘자동차’를 검색하는 사용자가 실제로 자동차를 구매할 능력이 있다면, 해외여행이나 전원주택에도 관심이 있을 수 있다. 검색엔진은 그런 것까지 예상해서 이에 대한 정보도 해당 사용자에게 제공할 수 있어야 하기에 이르렀다. 이는 검색엔진이 인공지능과 결합해 정보를 쉽게 취할 수 있게 되면서 생긴 부작용이라고 볼 수 있다. 왜 부작용이냐고?
먼저, 이러한 정보는 매우 예민하고 민감한 개인정보를 확보해야 나올 수 있다. 그런데 고품질의 검색 서비스를 원하면서도 자신의 개인정보를 검색엔진 회사에 제공하는 것은 원하지 않는 사람도 많다. 특히, 해킹이라든가 검색엔진 회사의 실수로 개인정보가 노출되어 자신의 불편한 취미나 취향이 밝혀진다면 어떻게 될까?
그래서 개인정보 보호 분야는 인공지능·빅데이터 분야와는 대립각을 형성했다. 예를 들어, 내 다리가 불편한 것을 감추고 다녔는데, 어느 날 보조기구 상품광고를 받았다면 전혀 유쾌하지 않을 것이다. 이렇듯, 인공지능이 개인정보를 어느 수준까지 활용하고 사용자에게 관련 데이터를 제공해야 할 것인지와, 개인정보 보호를 위한 수준·범위도 같이 고민해야 할 것이다.
두 번째로 일반인들은 누구나 인공지능 서비스를 이용할 수 있다고 믿지만, 안타깝게도 인공지능 서비스에는 등급과 품질이 존재한다. 예를 들어, ‘주식 정보’를 검색해본다고 해보자. 일반인들이 접하는 정보와 기관에서 접하는 정보에는 차이가 있다. 더군다나 정부가 추진하는 전략을 분석하고, 해당 전략의 실행에 따라 유리해지거나 불리해질 기업들을 분석해 대규모로 투자하는 외국계 펀드도 존재한다. 그런데 고급 정보를 제공하는 인공지능은 매우 비쌀뿐더러, 일반인에게 공개되지도 않는다. 바로 정보가 돈과 귀결되기 때문이다.
이렇듯 정보의 규모와 질은 상대적이다. 따라서 인공지능으로 얻어지는 정보의 차이·격차, 그리고 이에 따른 문제·갈등을 어떻게 해소해야 하는지도 관건이다.
세 번째로 인공지능에서 제공하는 정보에 대한 추적이 이루어져야 한다. 사실, 인공지능이 제공한 결과물을 제대로 확인하지 않고 사용하다 보면 차후에 어느 부분에서 오류가 발생했는지 알 수 없다. 따라서 인공지능이 제공한 정보의 이력을 파악하고, 결과는 어떤 방식으로 도출되었는지를 점검·디버깅할 수 있도록 해야 한다. 그래야만 결과를 보정하고 왜곡된 부분을 말끔하게 제거할 수 있다. 그렇지 않으면 왜곡된 정보가 계속 부풀려지고 인용되면서 아무도 원치 않는 결과를 초래할 수 있다.
결론적으로 인공지능 시스템은 개인정보 보호, 개인들 간의 정보 보유·열람에 대한 격차 해소, 정보의 추적 가능성 등을 고려해 설계되어야 한다. 그렇지 않으면 과거 천문을 이용해 백성들을 바보로 만들었던 지배자들 것처럼, 빅데이터·인공지능을 이용해 빅브라더(Big Brother, 절대 권력자)가 되려는 자들이 나타날 것이다.
[글_ 김주원 사이버보안 분야 칼럼리스트]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
원병철기자 기사보기
[2024-04-17] 
.jpg)
.jpg)
