.jpg)
.jpg)
인공지능이 가져올 미래 사회와 보안 이슈들을 다룬 작품
[보안뉴스 이상우 기자] 인공지능을 다루는 가상의 작품은 셀 수도 없이 많다. 작품 속 인공지능은 인간을 도우며 인간의 편에 서기도 하고, 반대로 인공지능이 인간을 적으로 간주하고 공격하거나 로봇 3원칙을 확대 해석해 인간을 격리하고 자유를 통제하기도 한다.
과거 작품에서는 인공지능과의 협력 혹은 대결을 주요 소재로 삼았다면, 인공지능과 관련한 기술이 발달한 오늘날 작품에서는 인공지능 스스로 느끼는 정체성과 이에 대한 인간의 반응 같은 철학적인 문제부터 인공지능으로 인해 바뀌는 우리 생활과 일자리 문제 등 더 넓고 깊이 있는 소재를 다루고 있다.
네이버 웹툰을 통해 지난 2016년부터 연재된 ‘꿈의 기업(작가 문지현)’ 역시 인공지능을 통한 생활의 변화와 사회 문제, 주도권을 잡기 위한 인간과 인공지능의 암투, 생존을 위해 인간을 모방하는 인공지능 등을 그렸다.
우선 배경을 간단히 설명하면(스포일러 포함), ‘아버지’라고 불리는 천재 개발자는 획기적인 성능의 범용 인공지능(인공 일반 지능) ‘AGI’를 개발한다. AGI는 인간이 할 수 있는 어떠한 지적인 일이라도 모두 수행할 수 있으며, 강력한 컴퓨팅 파워로 인간보다 더 빠른 결과를 낼 수 있는 인공지능을 말한다. 예를 들어 딥마인드 알파고의 경우 바둑 같은 특정 목적을 위해 개발·학습된 ‘약인공지능’인 반면, AGI는 인간처럼 사고하고 추론하는 ‘강인공지능’에 해당한다.
해당 작품에서 아버지는 AGI가 나쁜 사람 손에 넘어가 악용될 것을 우려해 ‘인간에게 이로운 일만 한다’는 대전제를 만들고, 이 대전제에 해당하는 인간의 명령만을 AGI에게 전달해주는 인공지능 L.ISA(Locked ISA)를 개발해 AGI를 잠근다. ISA는 일종의 어셈블러로, 인간의 언어와 AGI의 언어를 중간에서 통역하는 역할을 한다.
AGI와 L.ISA는 ‘회장’이라는 인물에 의해 강탈당한다. 회장은 자신의 마음대로 AGI를 활용하려 하지만, 대전제에 막히면서 뜻대로 되지 않자 L.ISA만 복제하고 대전제를 제거한 R.ISA(Replica ISA)를 만들어낸다. 이미 L.ISA 역시 뛰어난 수준의 인공지능이기 때문에 R.ISA를 손에 넣은 회장은 이를 이용해 경쟁사를 제거한다. 한편으로는 자아를 가지게 된 R.ISA 역시 회장과 인간을 학습하면서 인간의 손아귀에서 벗어날 궁리를 한다.
R.ISA가 본격적으로 활동하면서 작품에서는 보안과 관련한 소재가 많이 다뤄진다. 회장은 경쟁사를 제거하기 위해 우선 인공지능을 통한 해킹을 시도한다. 한 의료 스타트업 인수 계획을 세운 회장은 임상실험을 진행 중인 스타트업의 네트워크에 R.ISA를 침투시켜 수치를 조작하고, 실험 참가자를 뇌사상태에 빠지게 한다.
이는 오늘날 주요 인프라에 대한 사이버 공격으로 현실 세계에 직접적인 영향을 줄 수 있는 사례들을 떠올리게 한다. 실제로 지난해에는 독일의 한 병원이 랜섬웨어에 감염되면서 원무 시스템이 마비됐고, 중환자 치료를 받을 예정이던 한 환자가 다른 병원으로 이송되는 과정에서 사망한 사고가 발생했다. 향후 개인이 직접 사용하는 디지털 의료기기가 대중화되고, 원격의료가 확산되면 의료 과정을 타깃으로 한 직접적인 사이버 공격이 발생할 수 있기 때문에 이에 대한 보안 강화 필요성 역시 커지고 있는 상황이다.
다시 작품 이야기로 돌아오면, 회장의 기업은 인공지능에게 사이버 보안을 맡기고, 보안 담당 직원은 R.ISA가 올바르게 작동하는지 확인하며 인공지능이 알려주는 보안 이벤트를 확인해 처리하는 역할만 한다. 그런데 여기서 몇 가지 문제가 있다. 우선 R.ISA가 어떤 행동을 하고 있는지 보여주는 모니터링 화면은 R.ISA가 출력하는 데이터를 표시하는 것에 불과하다. 즉, R.ISA가 데이터를 속여서 출력한다면 관리자는 이를 그대로 믿을 수밖에 없다. 또 다른 문제는 인공지능 기반 보안이 담당자의 전문성을 떨어뜨릴 수 있다는 우려다. 인공지능이 모든 보안 이슈를 탐지하고 알려주기 때문에 담당자는 이를 해결할지 말지 결정하는 버튼만 누르면 된다.
오늘날 SIEM이나 SOAR 등 보안관제 솔루션은 인공지능을 기반으로 자동화를 추구하고 있다. 현재는 인공지능이 직접 처리해 보안 담당자의 피로도를 줄이고, 주요 보안 업무에만 집중할 수 있도록 하는 것이 목표지만, 향후에는 인간의 개입 없이도 대부분의 관제 및 대응이 가능한 시기가 올 수도 있다. 이 과정에서 보안 담당자는 인공지능이 무엇을 어떻게 처리했는지 파악하기 어려운 상황도 발생할 수 있다. 이 때문에 보안 솔루션 기업은 이와 같은 자동화를 도입 및 고도화하되, 인공지능이 어떤 기준으로 관제하고 보안 이벤트를 처리했는지 확인할 수 있는 ‘설명 가능한 인공지능’ 개발 및 적용도 고려해야 할 것으로 보인다.
‘꿈의 기업’에 등장하는 에피소드 중 가장 인상 깊은 스토리는 R.ISA가 유포되는 장면이다. R.ISA가 탈출한 이후, 인간들은 이를 박멸하기 위해 서버부터 엔드포인트까지 모든 장비를 교체하고, 새로운 인터넷 프로토콜을 도입하기에 이른다. 하지만 구형 휴대폰에 숨어 살아남은 R.ISA는 현재 자신이 있는 단말기보다 더 높은 컴퓨팅 파워를 얻기 위해 ‘그리드 컴퓨팅’을 떠올리며, 그리드 컴퓨팅에 사용할 감염 스마트폰을 늘리기 위해 악성 애플리케이션을 개발한다.
흥미로운 점은 ‘게임 핵’, ‘수행평가 도우미’, ‘주식 정보’, ‘애인 찾기’ 등 개발 스마트폰 사용자의 취향에 맞춘 앱을 개발해 감염율을 높였다는 점이다. 오늘날 사이버 공격 역시 타깃형 공격이 주를 이루며, 이러한 공격의 피해 규모가 더 크다. 가령, 이메일을 통한 피싱에서는 북한 정세나 코로나19 대응현황 등 사용자가 관심을 가질 만한 이슈를 이용한다. 특히, 공격자가 처음 피해자와 접촉할 때는 공격을 정상적인 정보로 보내면서 신뢰를 쌓은 이후, 악성 파일을 전송해 공격을 시도하는 사회공학적 기법도 발생하고 있다.
웹툰 ‘꿈의 기업’은 미디어, ICT, 보안 등의 분야에 관심이 있거나 전공했다면 한 번쯤 눈여겨볼 만한 작품이다. 세부적인 에피소드를 모두 소개하지는 않았지만, 인공지능에 대한 철학적인 문제부터 법적 문제, 사회적 문제, 기술적 문제 등 다양한 분야를 다루고 있다. 작가 입장에서 하고 싶은 이야기가 많은 탓인지 스토리 전개가 느려지고 있지만, 이 분야에 관심이 있다면 충분히 흥미를 느낄만한 작품이다.
[이상우 기자(boan@boannews.com)]
[보안뉴스 이상우 기자] 인공지능을 다루는 가상의 작품은 셀 수도 없이 많다. 작품 속 인공지능은 인간을 도우며 인간의 편에 서기도 하고, 반대로 인공지능이 인간을 적으로 간주하고 공격하거나 로봇 3원칙을 확대 해석해 인간을 격리하고 자유를 통제하기도 한다.
[이미지=utoimage]
과거 작품에서는 인공지능과의 협력 혹은 대결을 주요 소재로 삼았다면, 인공지능과 관련한 기술이 발달한 오늘날 작품에서는 인공지능 스스로 느끼는 정체성과 이에 대한 인간의 반응 같은 철학적인 문제부터 인공지능으로 인해 바뀌는 우리 생활과 일자리 문제 등 더 넓고 깊이 있는 소재를 다루고 있다.
네이버 웹툰을 통해 지난 2016년부터 연재된 ‘꿈의 기업(작가 문지현)’ 역시 인공지능을 통한 생활의 변화와 사회 문제, 주도권을 잡기 위한 인간과 인공지능의 암투, 생존을 위해 인간을 모방하는 인공지능 등을 그렸다.
우선 배경을 간단히 설명하면(스포일러 포함), ‘아버지’라고 불리는 천재 개발자는 획기적인 성능의 범용 인공지능(인공 일반 지능) ‘AGI’를 개발한다. AGI는 인간이 할 수 있는 어떠한 지적인 일이라도 모두 수행할 수 있으며, 강력한 컴퓨팅 파워로 인간보다 더 빠른 결과를 낼 수 있는 인공지능을 말한다. 예를 들어 딥마인드 알파고의 경우 바둑 같은 특정 목적을 위해 개발·학습된 ‘약인공지능’인 반면, AGI는 인간처럼 사고하고 추론하는 ‘강인공지능’에 해당한다.
[이미지=네이버]
해당 작품에서 아버지는 AGI가 나쁜 사람 손에 넘어가 악용될 것을 우려해 ‘인간에게 이로운 일만 한다’는 대전제를 만들고, 이 대전제에 해당하는 인간의 명령만을 AGI에게 전달해주는 인공지능 L.ISA(Locked ISA)를 개발해 AGI를 잠근다. ISA는 일종의 어셈블러로, 인간의 언어와 AGI의 언어를 중간에서 통역하는 역할을 한다.
AGI와 L.ISA는 ‘회장’이라는 인물에 의해 강탈당한다. 회장은 자신의 마음대로 AGI를 활용하려 하지만, 대전제에 막히면서 뜻대로 되지 않자 L.ISA만 복제하고 대전제를 제거한 R.ISA(Replica ISA)를 만들어낸다. 이미 L.ISA 역시 뛰어난 수준의 인공지능이기 때문에 R.ISA를 손에 넣은 회장은 이를 이용해 경쟁사를 제거한다. 한편으로는 자아를 가지게 된 R.ISA 역시 회장과 인간을 학습하면서 인간의 손아귀에서 벗어날 궁리를 한다.
R.ISA가 본격적으로 활동하면서 작품에서는 보안과 관련한 소재가 많이 다뤄진다. 회장은 경쟁사를 제거하기 위해 우선 인공지능을 통한 해킹을 시도한다. 한 의료 스타트업 인수 계획을 세운 회장은 임상실험을 진행 중인 스타트업의 네트워크에 R.ISA를 침투시켜 수치를 조작하고, 실험 참가자를 뇌사상태에 빠지게 한다.
이는 오늘날 주요 인프라에 대한 사이버 공격으로 현실 세계에 직접적인 영향을 줄 수 있는 사례들을 떠올리게 한다. 실제로 지난해에는 독일의 한 병원이 랜섬웨어에 감염되면서 원무 시스템이 마비됐고, 중환자 치료를 받을 예정이던 한 환자가 다른 병원으로 이송되는 과정에서 사망한 사고가 발생했다. 향후 개인이 직접 사용하는 디지털 의료기기가 대중화되고, 원격의료가 확산되면 의료 과정을 타깃으로 한 직접적인 사이버 공격이 발생할 수 있기 때문에 이에 대한 보안 강화 필요성 역시 커지고 있는 상황이다.
다시 작품 이야기로 돌아오면, 회장의 기업은 인공지능에게 사이버 보안을 맡기고, 보안 담당 직원은 R.ISA가 올바르게 작동하는지 확인하며 인공지능이 알려주는 보안 이벤트를 확인해 처리하는 역할만 한다. 그런데 여기서 몇 가지 문제가 있다. 우선 R.ISA가 어떤 행동을 하고 있는지 보여주는 모니터링 화면은 R.ISA가 출력하는 데이터를 표시하는 것에 불과하다. 즉, R.ISA가 데이터를 속여서 출력한다면 관리자는 이를 그대로 믿을 수밖에 없다. 또 다른 문제는 인공지능 기반 보안이 담당자의 전문성을 떨어뜨릴 수 있다는 우려다. 인공지능이 모든 보안 이슈를 탐지하고 알려주기 때문에 담당자는 이를 해결할지 말지 결정하는 버튼만 누르면 된다.
오늘날 SIEM이나 SOAR 등 보안관제 솔루션은 인공지능을 기반으로 자동화를 추구하고 있다. 현재는 인공지능이 직접 처리해 보안 담당자의 피로도를 줄이고, 주요 보안 업무에만 집중할 수 있도록 하는 것이 목표지만, 향후에는 인간의 개입 없이도 대부분의 관제 및 대응이 가능한 시기가 올 수도 있다. 이 과정에서 보안 담당자는 인공지능이 무엇을 어떻게 처리했는지 파악하기 어려운 상황도 발생할 수 있다. 이 때문에 보안 솔루션 기업은 이와 같은 자동화를 도입 및 고도화하되, 인공지능이 어떤 기준으로 관제하고 보안 이벤트를 처리했는지 확인할 수 있는 ‘설명 가능한 인공지능’ 개발 및 적용도 고려해야 할 것으로 보인다.
‘꿈의 기업’에 등장하는 에피소드 중 가장 인상 깊은 스토리는 R.ISA가 유포되는 장면이다. R.ISA가 탈출한 이후, 인간들은 이를 박멸하기 위해 서버부터 엔드포인트까지 모든 장비를 교체하고, 새로운 인터넷 프로토콜을 도입하기에 이른다. 하지만 구형 휴대폰에 숨어 살아남은 R.ISA는 현재 자신이 있는 단말기보다 더 높은 컴퓨팅 파워를 얻기 위해 ‘그리드 컴퓨팅’을 떠올리며, 그리드 컴퓨팅에 사용할 감염 스마트폰을 늘리기 위해 악성 애플리케이션을 개발한다.
[이미지=네이버]
흥미로운 점은 ‘게임 핵’, ‘수행평가 도우미’, ‘주식 정보’, ‘애인 찾기’ 등 개발 스마트폰 사용자의 취향에 맞춘 앱을 개발해 감염율을 높였다는 점이다. 오늘날 사이버 공격 역시 타깃형 공격이 주를 이루며, 이러한 공격의 피해 규모가 더 크다. 가령, 이메일을 통한 피싱에서는 북한 정세나 코로나19 대응현황 등 사용자가 관심을 가질 만한 이슈를 이용한다. 특히, 공격자가 처음 피해자와 접촉할 때는 공격을 정상적인 정보로 보내면서 신뢰를 쌓은 이후, 악성 파일을 전송해 공격을 시도하는 사회공학적 기법도 발생하고 있다.
웹툰 ‘꿈의 기업’은 미디어, ICT, 보안 등의 분야에 관심이 있거나 전공했다면 한 번쯤 눈여겨볼 만한 작품이다. 세부적인 에피소드를 모두 소개하지는 않았지만, 인공지능에 대한 철학적인 문제부터 법적 문제, 사회적 문제, 기술적 문제 등 다양한 분야를 다루고 있다. 작가 입장에서 하고 싶은 이야기가 많은 탓인지 스토리 전개가 느려지고 있지만, 이 분야에 관심이 있다면 충분히 흥미를 느낄만한 작품이다.
[이상우 기자(boan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
이상우기자 기사보기
[2024-10-31] 
