.jpg)
인공지능을 위한 보안, 즉 ‘Security for AI’에 대한 요구가 점점 더 증대되고 중요해질 것
[보안뉴스= 권태경 한국정보보호학회 이사] 인공지능(AI: Artificial Intelligence)은 오늘날 우리의 일상생활 속에서 이미 상당히 익숙해지고 친숙해진 용어이다. 예를 들어, 인공지능 가전에서 자율주행차에 이르기까지 국민 누구나 흔히 접하는 기능과 수식어가 되었으니 말이다. 하지만 아이러니하게도 과거 인공지능이란 용어가 단지 공상과학소설이나 컴퓨터 전공서적에만 등장했던 시기에 그랬듯이, 우리는 아직도 이것이 정확히 무엇인지 그리고 대체 무엇까지 해낼 수 있을지 감히 알지 못한다. 기계가 지능을 갖는다는 막연하고 환상적인 목표아래, 그동안 보편적으로 인공지능이라 여겨왔던 많은 것들이 소위 인공지능 작용(AI Effect)이라 일컬어지는 현상으로 인해 더 이상 인공지능의 주된 영역으로 간주되지 않는 경우도 허다하다. 뿐만 아니라, 여전히 인공지능을 정의하는 문제에서도 기술적으로나 철학적으로나 많은 발전적 논쟁이 계속되고 있기 때문일 것이다.
과거에는 상상조차 하기 어려웠던 수준의 컴퓨팅 성능 향상, 알고리즘 개선, 데이터 용량 증대에 기댄 딥러닝 기술의 등장과 발전은 인공지능으로 그동안 추구해온 다양한 컴퓨팅 목표들, 예를 들면 추론, 문제해결, 지식표현, 계획, 학습, 자연어처리, 인지, 로보틱스 등 거의 모든 분야에서 매일같이 획기적인 향상을 이루어가고 있다. 이러한 추세라면 지금처럼 각각의 특수한 문제만을 해결하는 협의적 인공지능(Artificial Narrow Intelligence)을 넉넉히 통합하고 넘어선 일반적 인공지능(Artificial General Intelligence)이 등장하고, 결국 모든 영역에서 인간을 능가하게 되는 초 인공지능(Artificial Super Intelligence)의 시대가 열리게 될 것이 분명하다. 그 하나의 예로 최근 자연어처리 언어모델 분야에서 OpenAI가 보여준 GPT-3의 충격적 혁신과 향후 등장할 GPT-4에 대한 현실성 있는 기대는 이렇게 인공지능이 인간지능을 넘어서는 특이점(Singularity)이 다가오고 있음을 강력히 증거하고 있다.
인공지능 겨울(AI Winter)이라 불리는 두 번의 혹독한 암흑기와 수많은 기술적 실패에도 불구하고 이와 같이 지속적인 발전과 혁신을 거듭하고 있는 인공지능 분야는 기술적으로 보안 분야에도 많은 영향을 주었다. 특히, 스팸탐지, 피싱탐지, 침입탐지대응, 봇넷탐지분석, 악성코드탐지분석, 이상징후탐지, 사용자인증, 생체인식, CAPTCHA 등을 포함한 많은 보안 분야에서 다양한 기술적 응용과 탁월한 문제해결을 가능하게 했고, 또한 개인정보보호, 취약점자동탐지, 디지털포렌식, SNS 분석, 접근제어 분야에서도 인공지능 기술의 응용적 가치를 더욱 높여가고 있다.
따라서 보안을 위한 인공지능 즉 ‘AI for Security’는 인공지능의 발전과 더불어 향후 더욱 고도화할 분야이다. 하지만 이렇게 양지의 선택만 있는 것은 아니다. 소위 사이버 공격자가 인공지능을 악용하거나 우회하는 경우, 즉 ‘AI for Insecurity’ 역시 인공지능의 발전과 더불어 향후 상상을 초월하는 매우 큰 위협이 될 것으로 우려된다. 또한, 너무도 다양한 모델과 대용량 데이터 접근성은 이 두 분야에 대한 선택과 대응을 더욱 어렵게 만들 것이다. 따라서 보안 분야에서는 인공지능의 지속적인 발전과 혁신으로부터 단지 열매만 얻으려 하면 안 될 것이며, 당장 즉각적인 많은 투자와 노력이 함께 경주되어야 할 것이다.
인공지능과 보안의 접점은 이렇게 기술적 응용에만 국한되지 않는다. 예를 들어, 보안 분야에서 데이터에 관한 윤리 문제가 중요하듯 인공지능 분야에서도 인공지능 윤리(AI Ethics)를 빼놓을 수 없다. 인공지능을 갖춘 기계와 사람간의 상호작용, 그리고 더 나아가 인공지능을 갖춘 기계들의 사회를 상상한다면, 인공지능 인문학의 태동과 그 학제적 연구는 오히려 자연스러운 것이며, 여기서도 역시 보안 분야를 빼놓을 수 없다.
이와 같이 기술과 사회를 동시에 고려해 궁극적으로는 인공지능을 위한 보안, 즉 ‘Security for AI’에 대한 요구가 점점 더 증대되고 중요해질 것이다. 이것은 적대적 학습과 딥러닝 모델보안에 관한 다양한 공격 방어 기법을 다루는 현실의 기술적 분야에서 시작해, 강인한 모델을 구축하고 평가하며 안전하게 데이터를 처리하고 상호작용하는 기술과 사회의 학제적 분야로 발전할 것이다. 따라서 이에 대한 즉각적인 투자와 노력을 역시 함께 경주해, 미래의 초지능시대를 대비하는 초석을 반드시 마련해야 할 것이다. 이것이 바로 인공지능과 보안이 함께 가야할 길이다.
[글_ 권태경 한국정보보호학회 이사, 연세대학교 정보대학원 교수]
[보안뉴스= 권태경 한국정보보호학회 이사] 인공지능(AI: Artificial Intelligence)은 오늘날 우리의 일상생활 속에서 이미 상당히 익숙해지고 친숙해진 용어이다. 예를 들어, 인공지능 가전에서 자율주행차에 이르기까지 국민 누구나 흔히 접하는 기능과 수식어가 되었으니 말이다. 하지만 아이러니하게도 과거 인공지능이란 용어가 단지 공상과학소설이나 컴퓨터 전공서적에만 등장했던 시기에 그랬듯이, 우리는 아직도 이것이 정확히 무엇인지 그리고 대체 무엇까지 해낼 수 있을지 감히 알지 못한다. 기계가 지능을 갖는다는 막연하고 환상적인 목표아래, 그동안 보편적으로 인공지능이라 여겨왔던 많은 것들이 소위 인공지능 작용(AI Effect)이라 일컬어지는 현상으로 인해 더 이상 인공지능의 주된 영역으로 간주되지 않는 경우도 허다하다. 뿐만 아니라, 여전히 인공지능을 정의하는 문제에서도 기술적으로나 철학적으로나 많은 발전적 논쟁이 계속되고 있기 때문일 것이다.
[이미지=utoimage]
과거에는 상상조차 하기 어려웠던 수준의 컴퓨팅 성능 향상, 알고리즘 개선, 데이터 용량 증대에 기댄 딥러닝 기술의 등장과 발전은 인공지능으로 그동안 추구해온 다양한 컴퓨팅 목표들, 예를 들면 추론, 문제해결, 지식표현, 계획, 학습, 자연어처리, 인지, 로보틱스 등 거의 모든 분야에서 매일같이 획기적인 향상을 이루어가고 있다. 이러한 추세라면 지금처럼 각각의 특수한 문제만을 해결하는 협의적 인공지능(Artificial Narrow Intelligence)을 넉넉히 통합하고 넘어선 일반적 인공지능(Artificial General Intelligence)이 등장하고, 결국 모든 영역에서 인간을 능가하게 되는 초 인공지능(Artificial Super Intelligence)의 시대가 열리게 될 것이 분명하다. 그 하나의 예로 최근 자연어처리 언어모델 분야에서 OpenAI가 보여준 GPT-3의 충격적 혁신과 향후 등장할 GPT-4에 대한 현실성 있는 기대는 이렇게 인공지능이 인간지능을 넘어서는 특이점(Singularity)이 다가오고 있음을 강력히 증거하고 있다.
인공지능 겨울(AI Winter)이라 불리는 두 번의 혹독한 암흑기와 수많은 기술적 실패에도 불구하고 이와 같이 지속적인 발전과 혁신을 거듭하고 있는 인공지능 분야는 기술적으로 보안 분야에도 많은 영향을 주었다. 특히, 스팸탐지, 피싱탐지, 침입탐지대응, 봇넷탐지분석, 악성코드탐지분석, 이상징후탐지, 사용자인증, 생체인식, CAPTCHA 등을 포함한 많은 보안 분야에서 다양한 기술적 응용과 탁월한 문제해결을 가능하게 했고, 또한 개인정보보호, 취약점자동탐지, 디지털포렌식, SNS 분석, 접근제어 분야에서도 인공지능 기술의 응용적 가치를 더욱 높여가고 있다.
따라서 보안을 위한 인공지능 즉 ‘AI for Security’는 인공지능의 발전과 더불어 향후 더욱 고도화할 분야이다. 하지만 이렇게 양지의 선택만 있는 것은 아니다. 소위 사이버 공격자가 인공지능을 악용하거나 우회하는 경우, 즉 ‘AI for Insecurity’ 역시 인공지능의 발전과 더불어 향후 상상을 초월하는 매우 큰 위협이 될 것으로 우려된다. 또한, 너무도 다양한 모델과 대용량 데이터 접근성은 이 두 분야에 대한 선택과 대응을 더욱 어렵게 만들 것이다. 따라서 보안 분야에서는 인공지능의 지속적인 발전과 혁신으로부터 단지 열매만 얻으려 하면 안 될 것이며, 당장 즉각적인 많은 투자와 노력이 함께 경주되어야 할 것이다.
▲권태경 한국정보보호학회 이사[사진=한국정보보호학회]
이와 같이 기술과 사회를 동시에 고려해 궁극적으로는 인공지능을 위한 보안, 즉 ‘Security for AI’에 대한 요구가 점점 더 증대되고 중요해질 것이다. 이것은 적대적 학습과 딥러닝 모델보안에 관한 다양한 공격 방어 기법을 다루는 현실의 기술적 분야에서 시작해, 강인한 모델을 구축하고 평가하며 안전하게 데이터를 처리하고 상호작용하는 기술과 사회의 학제적 분야로 발전할 것이다. 따라서 이에 대한 즉각적인 투자와 노력을 역시 함께 경주해, 미래의 초지능시대를 대비하는 초석을 반드시 마련해야 할 것이다. 이것이 바로 인공지능과 보안이 함께 가야할 길이다.
[글_ 권태경 한국정보보호학회 이사, 연세대학교 정보대학원 교수]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
원병철기자 기사보기
[2024-11-22] .jpg)
.jpg)
.jpg)
.jpg)
.jpg)
