.jpg)
범지구적으로 회자되고 있는 팬데믹의 어원
기반시설 보호를 위한 사이버보안과 오로라 이야기
[보안뉴스= 김주원 사이버보안 분야 칼럼리스트] 미와 사랑의 여신인 아프로디테 판데모스는 제우스의 일방적인 결정에 심기가 매우 불편했다. 자신을 신들 중에서 가장 못생기고 괴팍한 헤파이스토스의 아내가 되라고 명령해서였다.
“으으윽! 이 아름다운 나더러 고작 대장장이들이나 떠받드는 늙은이한테…!”
하지만 신들의 왕이자 아버지인 제우스의 명령을 거역할 수 없었기에 울며 겨자 먹기로 헤파이스토스와 결혼했다. 신들은 인간들과 달리 ‘아주 성스러운 존재’인지라 이복형제끼리도 결혼을 할 수 있었나 보다.
물론 이렇게 일방적으로 이루어진 결혼이 아프로디테를 만족시킬 수는 없었다. 더구나 헤파이스토스는 일중독자라 자신에게 관심을 전혀 보이질 않았다. 긴긴밤을 홀로 지내던 그녀는 신혼생활이 그야말로 지옥에서의 삶과 같았다.
“차라리 페르세포네는 지옥에서 왕 노릇하는 하데스가 소중한 왕비라고 애지중지라도 해주지…. 그러니 난 숫제 지옥보다 못한 곳에서 사는 셈이야!”
그러던 어느 날 아프로디테는 젊고 잘 생기며 늠름한 전쟁의 신 아레스를 만나면서 그와 불륜을 저질렀다.
사실 헤파이스토스도 아프로디테를 흠모했다. 하지만 정작 부인으로 맞이하자 그녀를 성적으로 만족시켜 줄 수 없다는 생각에 잠자리를 피했던 것이다. 그런데 그녀가 아레스와 불륜을 저지르고 있다는 걸 알게 되었다. 결국 헤파이스토스는 그들의 불륜 관계를 만천하에 공개해 망신시키면서 아프로디테와의 관계를 끊는다.
그리해야 아프로디테는 아레스와 마음 편히 관계를 가지면서 세 자녀를 출산했다. 그런데 아프로디테는 결벽증이 심해서 아레스가 다른 여신과 친하게 지내는 것조차 싫어했다. 어느 날 새벽의 여신이 에오스(로마 신화에서는 오로라(Aurora)로 불림)가 아레스를 짝사랑한다는 사실을 알게 되자, 아프로디테는 에오스를 사랑하는 모든 인간이 불행한 결말을 맞도록 저주를 내린다.
팬데믹(Pandemic)은 그리스어인 판데모스(pandemos)에서 따온 말이다. 판(pan)은 ‘온갖’이나 ‘모든’이라는 의미이고, 데모스(deoms)는 작은 지역이나 도시를 운영하는 인간들을 칭했다. 그런데 데모스는 나중에 일반화되면서 평범한 인간들도 가리키더니, 결국 ‘모든 인간’이라는 의미의 단어가 되었다.
팬데믹은 최근 코로나바이러스감염증(Cov-19)으로 인해 이 병만큼이나 범지구적으로 회자되고 있다. 그렇다면 왜 전염병이나 감염병이 범지구적으로 유행하는 현상을 팬데믹이라고 부르게 되었을까?
사실 그리스 신화에서 아프로디테는 두 명이다. 하나는 ‘사랑과 아름다움의 여신’하면 바로 떠오르는 아프로디테 우라니아인데, 그녀는 제우스의 할아버지인 우라누스가 아들인 크로노스와의 싸움에 져 고자가 되면서 잘렸던 성기에서 바로 태어났다. 그리고 다른 하나는 제우스의 딸 아프로디테 판데모스인데, 바람둥이로 유명한 아버지를 닮아서인지 육체적 사랑에 탐닉하는 여신이다.
아마도 아프로디테 판데모스가 에오스를 사랑하는 모든 인간들에게 ‘죽음’이라는 저주를 내렸기에 전염병에 대한 경종을 울리기 위해 생겨난 표현이 아닌가 한다.
이렇듯 그리스 신화에는 많은 신들이 등장한다. 이 신들이 얼마나 많았던지 어떤 학자는 “고대 그리스의 인구보다 그리스 신화의 신들이 더 많았을 것”이라고 주장하기도 했다. 그런데 로마가 그리스를 정복하고 그리스 문화를 받아들이면서 그리스 신화에 나오는 신들의 이름도 차례차례 자신들의 언어로 바꾸었다. 제우스를 유피테르, 아테네를 미네르바, 아레스를 마르스로 고친 것이다. 그 덕에 그리스 신화도 로마 신화를 겸하게 되었다. 그래서 ‘그리스-로마 신화’라고 부르는 것이다. 그래서 전쟁의 신 아레스를 짝사랑한 새벽의 여신 에오스도 로마식으로 오로라(Aurora)라고 부르는 것이다.
오로라는 사이버보안과 매우 밀접한 관계가 있다. 2007년 미국의 국립연구소인 INL(Idaho National Laboratory)은 새로운 실험을 했다. 전력을 생산하기 위해 가동 중인 디젤 발전기를 대상으로 사이버공격이 가능한지를 연구하기 위해서였다. 이는 디젤 발전기를 원격으로 가동하는 원격제어시스템(감시․제어 및 데이터 취득: Supervisory Control And Data Acquisition, SCADA)의 취약점을 이용해야 디젤 발전기의 동작을 해킹하는 실험이었다. 해당 발전기는 사이버공격에 의한 이상 명령과 신호 때문에 과도한 운전을 함으로써 시스템이 망가졌고, 결국 전력 생산을 중단했다.
그 실험 결과가 나오기 전까지만 해도 해킹은 인터넷에서만 이루어지는 것으로 인식되었다. 그래서 해킹으로 인한 재산 피해나 인명 살상 등은 사이버공간에서는 일어날 수 없다는 인식이 있었다. 하지만 이 실험 결과 발전기 같은 기반시설도 사이버공격으로부터 안전하지 않다는 것이 입증되었다.
INL은 이러한 시험 결과를 정리해야 발표하면서 ‘오로라(AURORA, 회전 장치에서 원하지 않는 중단을 방지-Avoiding Unwanted Reclosing On Rotating Apparatus)’라는 약어로 결과를 발표한다. 그러나 발표 당시에는 이러한 실험이 제한적 공간에서 이루어졌기 때문에 크게 주목받지 못했다. 하지만 그로부터 2년 뒤인 2009년 6월 이란의 원자력 발전소와 우라늄 농축 시설이 원인을 알 수 없는 과도한 동작을 일으켜 설비의 대부분이 망가지는 사고가 발생하자 상황이 반전됐다. 장비 결함이나 작동 불량 등 이란 측의 잘못으로 파악되었던 사고의 원인이, 미국과 이스라엘에서 개발한 스턱스넷에 의한 사이버공격이었음이 이듬해에 밝혀졌기 때문이다.
이후에도 기반시설에 대한 사이버공격은 계속 발생했다. 대표적인 예가 지난 2020년 6월 26일 이란의 비밀 핵무기 개발 시설이 있다고 의심받던 탄약·미사일 생산기지의 산업용 대형 가스탱크 폭발 사고다. 이 또한 이스라엘의 사이버공격에 의한 것이며, 이는 같은 해 4월 말 이스라엘의 수자원 시설에 대한 이란의 사이버공격에 대한 보복이라는 것이 전문가들의 대체적인 의견이다.
이러한 사이버공격은 사고 당시에는 누구의 소행인지 밝혀지지는 않지만, 차후에 전문가들이 로그․사용 흔적, 경로 등을 종합 분석하고 검증으로 원인을 밝혀낼 수 있다. 불이 났을 때 초기 발화지점과 인화물질, CCTV 등으로 발화 원인을 밝혀내는 방법과 비슷하다. 원인이 밝혀지면 그 뒤 사이버공격을 수행한 당사자에게 보복할 수 있다.
지금까지 해커는 시스템의 결함과 취약점을 이용해야 공격했다. 그런데 그 대상이 인공지능(AI)이라면 어찌 해야 하나? 인공지능이 시스템에 잘못된 명령을 내리게 하거나 엉터리로 관리하도록 학습을 시키면 되기 때문이다. 결국 인공지능이 보편화되면 지금까지의 사이버공격보다 더 파괴적인 피해를 줄 수 있다. 그냥 가설에 기반을 둔 ‘기우’ 아니냐고?
일반적으로 제어시스템이나 기반시설에는 수많은 센서․밸브․스위치 등 단자들이 존재한다. 이러한 단자들은 각자 제구실을 하면서 공정에 필요한 작업을 순차적으로 수행한다. 그런데 일부 단자에서 들어오는 정보나 입력을 무시(또는 허용)하도록 지속적으로 인공지능을 학습시킨다면? 결국 인공지능은 이를 노린 사이버공격을 ‘정당한 입력’으로 착각하고 경로를 열어주거나, 특정 입력에 대해서 과도하게 동작할 것이고, 그로 인해 시스템에 과부하를 일으킬 것이다.
또 다른 염려는 장비의 노후화다. 인간은 시스템을 점검하면서 결함이나 고장이 난 부품들을 교체한다. 그리고 육안과 테스트 장비로 확인하면서 상태의 이상 유무를 확인한다. 이러한 작업은 기존 시스템과는 별도의 프로세스, 즉 시스템과 연관이 없이 독립된 환경에서 이루어진다.
하지만 인공지능 시스템은 별도의 환경을 구축하는 대신 자신이 운영하는 환경에서 자가진단한다. 예를 들어, 멀리 떨어진 원격지에 있는 관측 센서로부터 입력된 풍향·습도·온도 및 바람의 세기 등을 입력받는 센서가 있다고 치자. 과거에는 인간이 일일이 확인하고 이상 여부를 확인한 후 전화나 스마트폰 앱으로 정보를 입력․전송했다. 그러면 중앙에서 그 정보를 별도의 관리 시스템에서 정리했다. 물론 인공지능 시스템 하에서도 이러한 관리를 하는 것이다.
그런데 인공지능 시스템은 자가진단으로 이상 여부를 확인하고, 그 신호로 학습한다. 그래서 학습되지 않은 정보가 입력되면 이를 무시하거나 잘못 해석할 수 있다. 예를 들면, 갑자기 지역에 엄청난 바람이 불 때, 인공지능은 이를 ‘바람’이라고 해석할까, 아니면 ‘신호의 오류’로 판단할까? 인공지능은 이러한 돌발 상황에 대한 학습이 충분하지 않기 때문에 오류로 받아들일 확률이 높다. 특히, 시스템이 노후화될수록 이러한 오류는 계속 증가할 것이다.
당연히 이러한 노후화는 인공지능에 치명적이다. 그렇지만 모든 ‘예상 가능한’ 오류를 인공지능에 학습시킬 수는 없다. 오류는 복합적일 뿐만 아니라, 제한된 환경에서는 모든 가능성을 열어둘 수 없기 때문이다. 결국 오류는 의도치 않게 발생한다. 그리고 인간은 이러한 상황에 유연하게 대처할 수 있다. 하지만 인공지능에는 선택권과 자율적 판단 권한이 부여되지 않는다. 그래서 인공지능은 돌발상황이 발생하면 우선 시스템을 중단시키고 상황 경보를 울린다.
인공지능 시스템의 운영 초기에는 편리함을 제공하는 이 시스템은 갈수록 오래된 엘리베이터처럼 덜컹거리면서 불안감을 준다. 그렇다고 시스템을 중단시키고 업그레이드하거나 학습 알고리즘을 수시로 바꿔줄 수도 없다. 기반시설의 공정은 단 하나를 바꾸기만 해도 전체가 영향을 받기 때문이다. 그래서 교체는 신중히 이루어져야 하기 때문이다.
요즘 언론에 자주 언급되는 스마트시티, 스마트공장, 스마트팜의 화려함 뒤에는 이렇듯 복잡한 시스템들로 얽힌 수많은 단자들이 존재한다. 그리고 그러한 단자들의 모든 입출력 시스템을 사람들이 묶어서 관리해왔다. 이를 인공지능이 도맡는다면, 초기에는 편리한 건 물론 작업 효율도 올라갈 것이다. 그러나 시간이 흐르고, 기계가 더욱 복잡해지며, 시스템의 규모도 더욱 커지면서 사람은 뒤로 물러나고 인공지능이 모든 걸 담당하게 된다. 그리고 그 인공지능은 학습한 대로 관리·운영할 것이다. “서투른 의사가 환자를 죽인다”는 말처럼 자칫 이러한 인공지능으로 인해 큰 사달이 날 수 있다.
결국 사이버공간에서 벌어지는 판데믹은 지금 우리가 겪고 있는 판데믹과는 비교가 되지 않을 정도로 엄청난 피해를 유발할 것이다. 다들 느끼다시피 현실에서의 판데믹은 마스크를 쓰고, 손을 깨끗이 씻고, 거리두기를 철저히 하는 가운데 곧 개발될 백신 등으로 점차 해결될 수 있다. 하지만 사이버공간에서의 판데믹은 “도대체 무슨 일이 난 거야?!”라고 사람들이 비명을 지르는 가운데 SF영화에서처럼 세상을 멸망에 이르게 할 수도 있다.
아레스를 짝사랑하는 에오스에 대한 질투로 아프로디테 판데모스는 에오스를 사모하는 모든 인간들에게 죽음을 내렸다. 그리고 우리는 아프로디테 판데모스의 이름을 딴 판데믹 상황인 코로나바이러스 감염증에 시달리며 심지어 죽어가고 있다. 그런데 사이버공간에서도 팬데믹이 일어난다면? 이 또한 엄청난 공포와 죽음을 야기할 것이다. 그리고 사이버공간에서의 판데믹에 대해 인간은 아무런 힘도 쓰지 못할 것이다. 그래서 필자는 앞으로의 세상이 어쩐지 어두워 보인다. 부디 기우이기를 바란다.
[글_ 김주원 사이버보안 분야 칼럼리스트]
기반시설 보호를 위한 사이버보안과 오로라 이야기
[보안뉴스= 김주원 사이버보안 분야 칼럼리스트] 미와 사랑의 여신인 아프로디테 판데모스는 제우스의 일방적인 결정에 심기가 매우 불편했다. 자신을 신들 중에서 가장 못생기고 괴팍한 헤파이스토스의 아내가 되라고 명령해서였다.
“으으윽! 이 아름다운 나더러 고작 대장장이들이나 떠받드는 늙은이한테…!”
[이미지=utoimage]
하지만 신들의 왕이자 아버지인 제우스의 명령을 거역할 수 없었기에 울며 겨자 먹기로 헤파이스토스와 결혼했다. 신들은 인간들과 달리 ‘아주 성스러운 존재’인지라 이복형제끼리도 결혼을 할 수 있었나 보다.
물론 이렇게 일방적으로 이루어진 결혼이 아프로디테를 만족시킬 수는 없었다. 더구나 헤파이스토스는 일중독자라 자신에게 관심을 전혀 보이질 않았다. 긴긴밤을 홀로 지내던 그녀는 신혼생활이 그야말로 지옥에서의 삶과 같았다.
“차라리 페르세포네는 지옥에서 왕 노릇하는 하데스가 소중한 왕비라고 애지중지라도 해주지…. 그러니 난 숫제 지옥보다 못한 곳에서 사는 셈이야!”
그러던 어느 날 아프로디테는 젊고 잘 생기며 늠름한 전쟁의 신 아레스를 만나면서 그와 불륜을 저질렀다.
사실 헤파이스토스도 아프로디테를 흠모했다. 하지만 정작 부인으로 맞이하자 그녀를 성적으로 만족시켜 줄 수 없다는 생각에 잠자리를 피했던 것이다. 그런데 그녀가 아레스와 불륜을 저지르고 있다는 걸 알게 되었다. 결국 헤파이스토스는 그들의 불륜 관계를 만천하에 공개해 망신시키면서 아프로디테와의 관계를 끊는다.
그리해야 아프로디테는 아레스와 마음 편히 관계를 가지면서 세 자녀를 출산했다. 그런데 아프로디테는 결벽증이 심해서 아레스가 다른 여신과 친하게 지내는 것조차 싫어했다. 어느 날 새벽의 여신이 에오스(로마 신화에서는 오로라(Aurora)로 불림)가 아레스를 짝사랑한다는 사실을 알게 되자, 아프로디테는 에오스를 사랑하는 모든 인간이 불행한 결말을 맞도록 저주를 내린다.
팬데믹(Pandemic)은 그리스어인 판데모스(pandemos)에서 따온 말이다. 판(pan)은 ‘온갖’이나 ‘모든’이라는 의미이고, 데모스(deoms)는 작은 지역이나 도시를 운영하는 인간들을 칭했다. 그런데 데모스는 나중에 일반화되면서 평범한 인간들도 가리키더니, 결국 ‘모든 인간’이라는 의미의 단어가 되었다.
팬데믹은 최근 코로나바이러스감염증(Cov-19)으로 인해 이 병만큼이나 범지구적으로 회자되고 있다. 그렇다면 왜 전염병이나 감염병이 범지구적으로 유행하는 현상을 팬데믹이라고 부르게 되었을까?
사실 그리스 신화에서 아프로디테는 두 명이다. 하나는 ‘사랑과 아름다움의 여신’하면 바로 떠오르는 아프로디테 우라니아인데, 그녀는 제우스의 할아버지인 우라누스가 아들인 크로노스와의 싸움에 져 고자가 되면서 잘렸던 성기에서 바로 태어났다. 그리고 다른 하나는 제우스의 딸 아프로디테 판데모스인데, 바람둥이로 유명한 아버지를 닮아서인지 육체적 사랑에 탐닉하는 여신이다.
아마도 아프로디테 판데모스가 에오스를 사랑하는 모든 인간들에게 ‘죽음’이라는 저주를 내렸기에 전염병에 대한 경종을 울리기 위해 생겨난 표현이 아닌가 한다.
이렇듯 그리스 신화에는 많은 신들이 등장한다. 이 신들이 얼마나 많았던지 어떤 학자는 “고대 그리스의 인구보다 그리스 신화의 신들이 더 많았을 것”이라고 주장하기도 했다. 그런데 로마가 그리스를 정복하고 그리스 문화를 받아들이면서 그리스 신화에 나오는 신들의 이름도 차례차례 자신들의 언어로 바꾸었다. 제우스를 유피테르, 아테네를 미네르바, 아레스를 마르스로 고친 것이다. 그 덕에 그리스 신화도 로마 신화를 겸하게 되었다. 그래서 ‘그리스-로마 신화’라고 부르는 것이다. 그래서 전쟁의 신 아레스를 짝사랑한 새벽의 여신 에오스도 로마식으로 오로라(Aurora)라고 부르는 것이다.
오로라는 사이버보안과 매우 밀접한 관계가 있다. 2007년 미국의 국립연구소인 INL(Idaho National Laboratory)은 새로운 실험을 했다. 전력을 생산하기 위해 가동 중인 디젤 발전기를 대상으로 사이버공격이 가능한지를 연구하기 위해서였다. 이는 디젤 발전기를 원격으로 가동하는 원격제어시스템(감시․제어 및 데이터 취득: Supervisory Control And Data Acquisition, SCADA)의 취약점을 이용해야 디젤 발전기의 동작을 해킹하는 실험이었다. 해당 발전기는 사이버공격에 의한 이상 명령과 신호 때문에 과도한 운전을 함으로써 시스템이 망가졌고, 결국 전력 생산을 중단했다.
그 실험 결과가 나오기 전까지만 해도 해킹은 인터넷에서만 이루어지는 것으로 인식되었다. 그래서 해킹으로 인한 재산 피해나 인명 살상 등은 사이버공간에서는 일어날 수 없다는 인식이 있었다. 하지만 이 실험 결과 발전기 같은 기반시설도 사이버공격으로부터 안전하지 않다는 것이 입증되었다.
INL은 이러한 시험 결과를 정리해야 발표하면서 ‘오로라(AURORA, 회전 장치에서 원하지 않는 중단을 방지-Avoiding Unwanted Reclosing On Rotating Apparatus)’라는 약어로 결과를 발표한다. 그러나 발표 당시에는 이러한 실험이 제한적 공간에서 이루어졌기 때문에 크게 주목받지 못했다. 하지만 그로부터 2년 뒤인 2009년 6월 이란의 원자력 발전소와 우라늄 농축 시설이 원인을 알 수 없는 과도한 동작을 일으켜 설비의 대부분이 망가지는 사고가 발생하자 상황이 반전됐다. 장비 결함이나 작동 불량 등 이란 측의 잘못으로 파악되었던 사고의 원인이, 미국과 이스라엘에서 개발한 스턱스넷에 의한 사이버공격이었음이 이듬해에 밝혀졌기 때문이다.
이후에도 기반시설에 대한 사이버공격은 계속 발생했다. 대표적인 예가 지난 2020년 6월 26일 이란의 비밀 핵무기 개발 시설이 있다고 의심받던 탄약·미사일 생산기지의 산업용 대형 가스탱크 폭발 사고다. 이 또한 이스라엘의 사이버공격에 의한 것이며, 이는 같은 해 4월 말 이스라엘의 수자원 시설에 대한 이란의 사이버공격에 대한 보복이라는 것이 전문가들의 대체적인 의견이다.
이러한 사이버공격은 사고 당시에는 누구의 소행인지 밝혀지지는 않지만, 차후에 전문가들이 로그․사용 흔적, 경로 등을 종합 분석하고 검증으로 원인을 밝혀낼 수 있다. 불이 났을 때 초기 발화지점과 인화물질, CCTV 등으로 발화 원인을 밝혀내는 방법과 비슷하다. 원인이 밝혀지면 그 뒤 사이버공격을 수행한 당사자에게 보복할 수 있다.
지금까지 해커는 시스템의 결함과 취약점을 이용해야 공격했다. 그런데 그 대상이 인공지능(AI)이라면 어찌 해야 하나? 인공지능이 시스템에 잘못된 명령을 내리게 하거나 엉터리로 관리하도록 학습을 시키면 되기 때문이다. 결국 인공지능이 보편화되면 지금까지의 사이버공격보다 더 파괴적인 피해를 줄 수 있다. 그냥 가설에 기반을 둔 ‘기우’ 아니냐고?
일반적으로 제어시스템이나 기반시설에는 수많은 센서․밸브․스위치 등 단자들이 존재한다. 이러한 단자들은 각자 제구실을 하면서 공정에 필요한 작업을 순차적으로 수행한다. 그런데 일부 단자에서 들어오는 정보나 입력을 무시(또는 허용)하도록 지속적으로 인공지능을 학습시킨다면? 결국 인공지능은 이를 노린 사이버공격을 ‘정당한 입력’으로 착각하고 경로를 열어주거나, 특정 입력에 대해서 과도하게 동작할 것이고, 그로 인해 시스템에 과부하를 일으킬 것이다.
또 다른 염려는 장비의 노후화다. 인간은 시스템을 점검하면서 결함이나 고장이 난 부품들을 교체한다. 그리고 육안과 테스트 장비로 확인하면서 상태의 이상 유무를 확인한다. 이러한 작업은 기존 시스템과는 별도의 프로세스, 즉 시스템과 연관이 없이 독립된 환경에서 이루어진다.
하지만 인공지능 시스템은 별도의 환경을 구축하는 대신 자신이 운영하는 환경에서 자가진단한다. 예를 들어, 멀리 떨어진 원격지에 있는 관측 센서로부터 입력된 풍향·습도·온도 및 바람의 세기 등을 입력받는 센서가 있다고 치자. 과거에는 인간이 일일이 확인하고 이상 여부를 확인한 후 전화나 스마트폰 앱으로 정보를 입력․전송했다. 그러면 중앙에서 그 정보를 별도의 관리 시스템에서 정리했다. 물론 인공지능 시스템 하에서도 이러한 관리를 하는 것이다.
그런데 인공지능 시스템은 자가진단으로 이상 여부를 확인하고, 그 신호로 학습한다. 그래서 학습되지 않은 정보가 입력되면 이를 무시하거나 잘못 해석할 수 있다. 예를 들면, 갑자기 지역에 엄청난 바람이 불 때, 인공지능은 이를 ‘바람’이라고 해석할까, 아니면 ‘신호의 오류’로 판단할까? 인공지능은 이러한 돌발 상황에 대한 학습이 충분하지 않기 때문에 오류로 받아들일 확률이 높다. 특히, 시스템이 노후화될수록 이러한 오류는 계속 증가할 것이다.
당연히 이러한 노후화는 인공지능에 치명적이다. 그렇지만 모든 ‘예상 가능한’ 오류를 인공지능에 학습시킬 수는 없다. 오류는 복합적일 뿐만 아니라, 제한된 환경에서는 모든 가능성을 열어둘 수 없기 때문이다. 결국 오류는 의도치 않게 발생한다. 그리고 인간은 이러한 상황에 유연하게 대처할 수 있다. 하지만 인공지능에는 선택권과 자율적 판단 권한이 부여되지 않는다. 그래서 인공지능은 돌발상황이 발생하면 우선 시스템을 중단시키고 상황 경보를 울린다.
인공지능 시스템의 운영 초기에는 편리함을 제공하는 이 시스템은 갈수록 오래된 엘리베이터처럼 덜컹거리면서 불안감을 준다. 그렇다고 시스템을 중단시키고 업그레이드하거나 학습 알고리즘을 수시로 바꿔줄 수도 없다. 기반시설의 공정은 단 하나를 바꾸기만 해도 전체가 영향을 받기 때문이다. 그래서 교체는 신중히 이루어져야 하기 때문이다.
요즘 언론에 자주 언급되는 스마트시티, 스마트공장, 스마트팜의 화려함 뒤에는 이렇듯 복잡한 시스템들로 얽힌 수많은 단자들이 존재한다. 그리고 그러한 단자들의 모든 입출력 시스템을 사람들이 묶어서 관리해왔다. 이를 인공지능이 도맡는다면, 초기에는 편리한 건 물론 작업 효율도 올라갈 것이다. 그러나 시간이 흐르고, 기계가 더욱 복잡해지며, 시스템의 규모도 더욱 커지면서 사람은 뒤로 물러나고 인공지능이 모든 걸 담당하게 된다. 그리고 그 인공지능은 학습한 대로 관리·운영할 것이다. “서투른 의사가 환자를 죽인다”는 말처럼 자칫 이러한 인공지능으로 인해 큰 사달이 날 수 있다.
결국 사이버공간에서 벌어지는 판데믹은 지금 우리가 겪고 있는 판데믹과는 비교가 되지 않을 정도로 엄청난 피해를 유발할 것이다. 다들 느끼다시피 현실에서의 판데믹은 마스크를 쓰고, 손을 깨끗이 씻고, 거리두기를 철저히 하는 가운데 곧 개발될 백신 등으로 점차 해결될 수 있다. 하지만 사이버공간에서의 판데믹은 “도대체 무슨 일이 난 거야?!”라고 사람들이 비명을 지르는 가운데 SF영화에서처럼 세상을 멸망에 이르게 할 수도 있다.
아레스를 짝사랑하는 에오스에 대한 질투로 아프로디테 판데모스는 에오스를 사모하는 모든 인간들에게 죽음을 내렸다. 그리고 우리는 아프로디테 판데모스의 이름을 딴 판데믹 상황인 코로나바이러스 감염증에 시달리며 심지어 죽어가고 있다. 그런데 사이버공간에서도 팬데믹이 일어난다면? 이 또한 엄청난 공포와 죽음을 야기할 것이다. 그리고 사이버공간에서의 판데믹에 대해 인간은 아무런 힘도 쓰지 못할 것이다. 그래서 필자는 앞으로의 세상이 어쩐지 어두워 보인다. 부디 기우이기를 바란다.
[글_ 김주원 사이버보안 분야 칼럼리스트]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
권준기자 기사보기
[2024-11-22] .jpg)
.jpg)
.jpg)
.jpg)
.jpg)
