Home > 전체기사
[한국정보보호학회 칼럼] AI 기반 미래사회와 보안
  |  입력 : 2019-02-20 17:07
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기
AI 기술이 가져올 위협 사전에 예측하고 분석해 부작용을 최소화할 수 있는 방안 강구해야

[보안뉴스= 정수환 한국정보보호학회 수석부회장] 최근 들어 AI 기술은 사회의 다양한 영역에서 활용되기 시작했으며, 이러한 경향은 미래에 더욱 확산될 것으로 예측되고 있다. 간단한 AI 스피커부터 AI로 동작하는 무인자동차, AI 로봇이 나타나더니, 보안 분야에서는 AI 해커까지 출현하는 양상이다. 앞으로 이런 변화가 어디까지 진행될지, 또 미래사회는 AI 기술에 어디까지 의존하게 될지, 현재로서는 예측조차 쉽지 않을 정도로 사회의 모든 영역들이 빠르게 변화하고 있다. 가까운 미래에 우리는 일상생활의 많은 부분을 AI가 내리는 결정에 의존하게 될 것이다. 광범위한 빅데이터를 기반으로 내리는 AI의 결정을 인간의 결정보다 더 신뢰하는 사회가 도래할 가능성이 크다.

[이미지=iclickart]


여기서 잠깐 인터넷 기술 발전 역사를 돌아보자. 불과 30년 전까지만 해도 인터넷 기술은 극소수의 전문가들만 아는 기술로서 사회의 일반 영역에서는 거의 사용되지 않는 기술이었으나 30년 만에 인터넷은 우리 사회를 지탱하는데 없어서는 안 되는 인프라가 되었다. 지금은 단 하루만 인터넷이 멈추어도 통신, 금융, 철도 등 다양한 사회 영역에서 큰 혼란이 초래되며 그 파급효과가 빠른 속도로 확산된다.

인터넷을 처음 설계한 사람들은 컴퓨터 간의 효율적인 통신을 지원하는 프로토콜을 만드는데 초점을 맞췄다. 모든 노력은 많은 컴퓨터를 빠르게 연결하고 내용을 빠르게 확산하기 위한 메커니즘에 집중됐다. 그 결과 오늘날 인터넷은 지구상의 모든 기기들을 빠르게 연결하고 사람들을 신속하게 연결하는 데는 성공했으나, 뉴스를 통하여 거의 매일 접하듯이 해킹, 피싱, 랜섬웨어 등 수없이 많은 사이버보안 문제들을 발생시키고 있다.

만약 인터넷을 초기에 설계한 사람들이 오늘날 이렇게 다양한 사이버 보안 문제가 발생할 것을 미리 알았더라면 오늘날 인터넷은 상당히 다른 방향으로 설계되었을 가능성이 있다. 예를 들어, 네트워크 접속단계부터 개인 인증을 필수로 인터넷상의 모든 행위를 통제하고 추적한다든가, 혹은 정보를 빠르게 전달하기 위해 모든 노드들이 정보를 수신하도록 하는 브로드캐스트 사용 프로토콜을 최소화 한다던가 하는 조치를 취했을 것이다. 그랬더라면 오늘날 우리가 겪고 있는 많은 사이버 보안 이슈는 상당히 줄어들었을 가능성이 높다. 하지만 그 당시에는 오늘날 인터넷이 이렇게 사회 인프라 기술로 사용되고 이렇게 많은 사이버 보안 문제가 발생하리라는 것을 전혀 예측하지 못했다고 초기 인터넷 개발자가 직접 고백하는 것을 들은 적이 있다.

AI 기술도 미래에 더욱 빠른 속도로 우리 사회의 인프라를 형성할 것으로 예상되며 저명한 미래 학자들은 20년 안에 우리 사회의 많은 영역이 AI 없이 지탱하기가 힘든 시대가 될 것으로 예측하고 있다. 일상생활의 많은 행위들이 AI 기반 인프라에 의존하며 상당히 중요한 결정들이 AI에 의해 영향을 받을 가능성이 높다. 매일 접하는 뉴스, 우리의 생명을 담보로 하는 의료행위, 일상적인 교통 및 운송, 사법 판단 등의 법률행위 등에서 우리는 직간접적으로 AI를 신뢰하고 그들이 내리는 결정에 따르게 될 가능성이 높다.

▲정수환 한국정보보호학회 수석부회장[사진=정수환 교수]

하지만 우리는 30년 전 인터넷 기술 개발에서 그 이면을 보지 못했던 어리석음을 AI 기술 개발에서 똑같이 되풀이할 가능성을 현재 목도하고 있다. AI 기술은 빠른 속도로 사회의 각 영역으로 확산되고 있으나 미래에 나타날 그 부작용에 대해서는 그다지 심각하게 받아들이고 있지는 않는 것 같다. AI 기술이 가져올 생산성 향상이라는 달콤한 열매에만 흠뻑 빠져들고 있으며 그 열매 속에서 자라고 있는 독성에는 둔감한 상태이다. 앞으로 20년 후 AI 인프라 기반 사회에서 AI 오동작으로 우리가 경험하게 될 부작용과 혼란은 현재 인터넷 인프라 기반 사회에서 인터넷 단절로 우리가 경험하는 부작용과 혼란보다 얼마나 크고 넓을 지 상상하기조차 두렵다. AI 오동작으로 인한 부작용은 단순한 사회 혼란을 넘어 직간접적으로 우리의 생명을 위협할 것이며 경우에 따라서는 인간의 존엄성이 크게 훼손되는 부작용으로 나타날 가능성이 높다. 해킹 공격이나 오동작으로 인간의 통제를 벗어난 AI가 우리 생활이나 사회에 끼칠 해악은 쉽게 가늠하기 어려울 것이다.

아직 우리에게는 기회가 남아 있다. AI 기술이 우리 사회의 미래에 가져올 위협을 사전에 예측하고 분석하여 그 부작용을 최소화시킬 수 있는 방안을 빠르게 강구해야 한다. 현재에 사용되고 있는 AI 알고리즘 및 동작원리, AI에 공급되는 데이터의 오류, AI 사용 환경 등을 심도 있게 분석하여 AI 오동작 및 위협 가능성을 최소화하는 방법을 찾고, 필요하다면 안전한 AI 인프라 설계기준을 마련해야 한다. 고층 빌딩 하나를 지을 때도 안전한 설계 기준이 있는데 사회 전 영역의 기반 인프라를 구축하는데 안전한 설계 기준이 없다는 것은 매우 위험한 일이다. 미래 어느 날 우리 사회 기반이 하루아침에 우르르 무너지는 위험을 간과하고 있는 것이다. AI 해킹 공격이나 오동작으로 인한 피해를 예방하기 위한 이중삼중의 안전장치를 마련해야 한다. AI 사용을 통해 얻어지는 생산성 향상이라는 이익을 최대한 지키면서도 그 부작용을 최소화시킬 수 있는 방안을 강구해야 한다. 이제 우리가 지혜와 집단 지성을 모아 안전한 AI 기반 미래 사회를 설계해야 할 때이다.
[글_ 정수환 한국정보보호학회 수석부회장/숭실대학교 교수]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기


  •  SNS에서도 보안뉴스를 받아보세요!! 
IBM 파워비즈 배너 2019년2월8일~2020년2월7일까지/7월25일 수정위즈디엔에스 2018파워비즈배너 시작 11월6일 20181105-20200131
설문조사
지난 10월 정보보호정책관을 정보네트워크정책관으로 변경하는 과학기술정보통신부의 조직 개편 움직임이 논란이 된 바 있습니다. 과기정통부에서 정보보호 업무를 총괄하는 조직 위상에 대한 견해는?
과기정통부에서 분리해 별도의 정부부처가 전담해야
과기정통부 내 정보보호정책실(실장급)로 격상시켜야
지금처럼 정보보호정책관(국장급) 조직을 유지해야
네트워크 업무를 통합시키되, 정보보호네트워크정책관(국장급)으로 명명해야
과기정통부의 초안처럼 정보네트워크정책관(국장급)으로 해야
기타(댓글로)
      

이스온
원격감시 / 안전관리

인콘
통합관제 / 소방방재

현대틸스
팬틸트 / 카메라

파나소닉코리아
Sevurity Camera / CCTV

시큐인포
CCTV / NVR

한화테크윈
CCTV 카메라 / 영상감시

AVIGILON
영상 보안 / 출입 통제

대명코퍼레이션
DVR / IP카메라

티제이원
영상 보안 / 출입 통제

하이크비전 코리아
CCTV / IP / NVR

원우이엔지
줌카메라

비전정보통신
IP카메라 / VMS / 폴

다후아 코리아
CCTV / DVR

씨앤비텍
통합보안솔루션

지케이테코
출입통제 / 얼굴인식

아이디스
DVR / IP / VMS

한국하니웰
CCTV / DVR

이화트론
DVR / IP / CCTV

피엔에이
CCTV / IP 카메라 모듈

테크스피어
손혈관 / 차량하부 검색기

쿠도커뮤니케이션
스마트 관제 솔루션

슈프리마
출입통제 / 얼굴인식

아이티엑스엠투엠
DVR / NVR / IP CAMERA

씨엠아이텍
근태관리 소프트웨어 / 홍채 스케너

링크플로우
이동형 CCTV 솔루션

한국씨텍
PTZ CCTV

엔토스정보통신
DVR / NVR / CCTV

경인씨엔에스
CCTV / 자동복구장치

트루엔
IP 카메라

씨오피코리아
CCTV 영상 전송장비

CCTV협동조합
CCTV

디비시스
CCTV토탈솔루션

도마카바코리아
시큐리티 게이트

다민정보산업
기업형 스토리지

테크어헤드
얼굴인식 소프트웨어

에스카
CCTV / 영상개선

브이유텍
플랫폼 기반 통합 NVR

윈스
지능형 차세대 방화벽

포티넷
네트워크 보안

화이트박스로보틱스
CCTV / 카메라

신우테크
팬틸드 / 하우징

네이즈
VMS

케이제이테크
지문 / 얼굴 출입 통제기

혜인에스앤에스
통합보안시스템

셀링스시스템
IP 카메라 / 비디오 서버

사라다
지능형 객체 인식 시스템

수퍼락
출입통제 시스템

구네보코리아
보안게이트

일산정밀
CCTV / 부품 / 윈도우

아이엔아이
울타리 침입 감지 시스템

이노뎁
VMS

새눈
CCTV 상태관리 솔루션

케이티앤씨
CCTV / 모듈 / 도어락

파이브지티
얼굴인식 시스템

이스트컨트롤
통합 출입 통제 솔루션

아이유플러스
레이더 / 카메라

지와이네트웍스
CCTV 영상분석

두레옵트로닉스
카메라 렌즈

지에스티엔지니어링
게이트 / 스피드게이트

이후커뮤니케이션
전송장치/CCTV

창우
폴대

넷플로우
IP인터폰 / 방송시스템

대산시큐리티
CCTV 폴 / 함체 / 랙

엘림광통신
광전송링크

티에스아이솔루션
출입 통제 솔루션

에프에스네트웍스
스피드 돔 카메라

엔클라우드
VMS / 스위치

DK솔루션
메트릭스 / 망전송시스템

싸이닉스
스피드 돔 카메라

다원테크
CCTV / POLE / 브라켓

유진시스템코리아
팬틸트 / 하우징

포커스에이치앤에스
지능형 / 카메라

휴컴스
PTZ 카메라 / 줌카메라

카티스
출입통제 / 외곽경비

세환엠에스
시큐리티 게이트