.jpg)
.jpg)
똑똑한 것과 지능적인 것에 차이 있어...AI는 똑똑하기만 할 뿐
바둑 최고수지만 새로운 게임 만들어내지 못하는 게 현 AI의 한계
[보안뉴스 문가용 기자] 테슬라의 CEO인 엘론 머스크(Elon Musk)는 최근 전미주지사연합(National Governors Association)에서 “인공지능은 인류 문명에 대한 실존주의적인 위험요소인데 사람들이 이 점을 상당히 간과하고 있다”고 발표해 많은 비판을 받은 바 있다. 그는 더 나아가 “인공지능 기술이 가장 무서운 문제”라며 “정부가 규제해야 한다”고 말하기도 했다.
어디 엘론 머스크뿐이겠는가. 인공지능으로 우린 얼마나 위험한 상상을 많이 해왔던가. 하지만 필자 개인적으로는 공포의 대상까지는 아니다. 물론 각종 기계, 기기, 소프트웨어들의 발전상이 이상적이지만은 않았던 게 사실이다. 각종 서비스나 자동화 기능은 하루가 다르게 똑똑해지고 있다. 하지만 그 ‘똑똑함’이란 건 인간이 설계하고 한정짓는 선 안에서일 뿐이다. 우리가 원하는 일을 수행하는 것까지만 똑똑하다는 것으로 그 선을 넘어간 사례는 없다.
사람은 저 먼 옛날부터 우리 주위의 물체들을 도구로 변형시켜 사용해왔다. 돌 두 개를 맞부딪히면 하나가 뾰족해졌고, 이는 창의 끝머리가 되었다. 산업혁명이 도래하면서 이 도구들은 자동화의 도움을 받기 시작했다. 그래서 오늘날 공장에서는 인간의 노동력을 대체하고 있는 로봇들을 쉽게 찾을 수 있다. 하지만 역시나, 우리가 정해진 틀 안에서만 똑똑하고 유능할 뿐이다.
물론 지금 그러니 나중도 이럴 것이라는 뜻은 아니다. 그러나 인간과 도구의 관계는 역사 전체를 통틀어 항상 이런 식이었다. 인공지능의 등장은 이렇게 유구한 역사를 자랑하는 도구와 인간의 관계를 한 번에 뒤바꿀 수 있을까? 이제 진짜 자유의지를 가진 생명체처럼 도구들이 살아서 움직이게 되는 걸까? 우리는 노예가 되기 위해 주인들을 키워내고 있는 것일까?
인공지능에 대한 경각심이 나쁘다는 것도 아니고, 그걸 비웃거나 조롱할 생각이 있는 것도 아니다. 하지만 필자가 생각하기에 지나치게 보이는 경각심 대부분 인공지능의 발전 속도에 기인하고 있는 것 같다. 아닌 게 아니라 기계의 학습 속도란 너무나 뛰어나서 단 몇 년 만에 수천 년 동안 쌓인 바둑 기보를 습득해서 사람 최고수를 이길 정도다. 우리가 이해할 수 없는 때에 슈퍼인텔리전스가 출현하고, 대처할 수 없는 속도로 부정적인 현상이 나타나기 시작하면, 우리가 아는 모든 것은 빛의 속도로 역사의 일부가 되지 않을까 하는 우려가 엘론 머스크와 같은 반응을 낳는다고 난 생각한다.
하지만 내기를 걸게 된다면 난 ‘그런 미래는 공상일뿐이다’에 한 표를 걸겠다. 인공지능이 문제 하나도 없는 청정한 기술이라는 게 아니라, 적어도 사람을 자율적으로 헤치고 죽이는 형태로 문제가 나타나지 않을 거라는 뜻이다. 그리고 정말 그런 일이 일어난다고 해도, 아주아주 먼 미래의 일일 것이 분명하다. 이 예측의 근거를 대기 위해 오늘날 인공지능 기술의 현실을 알아보자.
현재 인공지능의 상태는?
지금 ‘인공지능’이란 말은 거의 캐치프레이즈처럼 사용된다. 자동화 기술 혹은 더 빠른 기술을 묘사할 때 대부분 인공지능이란 말을 사용한다. 심지어 뭔가 자기의 지식밖에 있는 신기술이나 깜짝 놀랄만한 결과물에 인공지능이라는 딱지를 붙이는 경우도 많다. 인공지능이라는 표현은 현재 오용되고 있다. 윈도우 95가 처음 나왔을 때, 마치 윈도우 95만 있으면 모든 레포트나 보고서가 말끔하게 뽑혀져 나올 것이라고 믿어버렸지만, 그렇게 되지 않음에 많은 이들이 실망하던 90년대 중반과 같다.
“AI는 현재 우리가 보유하고 있는 데이터를 통해 학습을 진행합니다. 즉, 우리 이상의 데이터를 어디선가 취합해서 발전할 수가 없어요. 결국 기능이 얼마나 발전했든 그 원리 자체가 우리의 한계성을 그대로 답습한다는 겁니다.” 기계나 기기, 소프트웨어가 가진 기능성이 인간을 뛰어넘을 수는 있어도, ‘틀을 벗어난’ 행위를 하는 건 불가능한 관계라는 것이다.
고급 데이터 분석 기능의 경우, 머신 러닝과 자동화의 도입으로 큰 발전을 이루고 있다. 데이터 위주의 접근 방법을 사용해 각종 ‘차세대’ 기능들이 등장하고 있으며, 최고의 알고리즘과 데이터 분석 모델이 끊임없이 등장하고 있다. 그럴 때마다 시스템은 스스로를 업데이트까지 할 줄 알고, 그 데이터를 통해 의미 있는 결과까지도 도출한다. 똑똑하다. 하지만 이것을 가지고 지능적이라고 말하긴 힘들다.
딥 러닝(deep learning)은 어떤가? 딥 러닝이 들어오면서부터 기기들은 전혀 새로운 방법으로 문제를 풀어내기 시작했다. 심지어 알고리즘을 스스로 만들어내기도 한다. 그래서 알고리즘을 만들어내던 개발자들은 떠나가고, 그 자리를 신경망 네트워크를 훈련시킬 수 있는 데이터 관리자 혹은 데이터 과학자가 차지한다. 어떤 분야에서 지난 수년 간 공부하고 훈련받아온 전문가들이 스스로 학습할 줄 알고 오래된 데이터에서 인간이 볼 수 없었던 규칙과 원리를 발견할 줄 아는 알고리즘에 의해 대체되는 건 이미 진행 중에 있다.
이런 일련의 과정을 통해 우리 역시 배우는 게 있다.
1) 이전에는 컴퓨터 개발의 영역이 아니라고 생각했던 것들이 정복당하고 있다. 바둑이 가장 좋은 예다. 인공지능 알고리즘은 스스로 바둑의 규칙과 원리를 깨쳤을 뿐 아니라 세계 최강의 기사들을 반복적으로 – 압도적으로 – 이겼다.
2) 이제는 전통의 알고리즘 개발법으로 만들어진 코드 대부분 인공지능이 훨씬 더 훌륭하게 만들어낼 수 있다. 음성을 텍스트로 변환시키는 알고리즘, 이미지 구별 알고리즘, 문서 요약 알고리즘 등이 좋은 예다.
=3) 전문적이고 어려운 분야라고 하더라도 정확한 데이터가 충분히 확보되기만 하면 학습 알고리즘이 금방 배워내고 필요한 스킬 구성까지도 갖출 수 있다.
이 정도면 충분히 위협적이라고 할 수 있지 않을까? 그러나 이런 발전의 이면에는 중대한 사각지대가 존재한다. 위에서 언급된 기능적 발전이, 알고리즘을 개발한 우리보다 정말 뛰어난 것이라고 볼 수 있는가? 물론 안정성과 정확성이란 측면, 생산량이란 측면에서는 인간보다 뛰어나다. 하지만 생각하고, 분석하고, 학습하고, 철학하는 면에서 이들이 인간 이상의 뭔가를 가지고 있는가? 아직은 아니다.
오늘날의 인공지능 시스템은 그것이 무엇이든 전부 데이터를 필요로 한다. 데이터 없는 알고리즘은 굶어죽을 수밖에 없다. 기존 데이터만으로 기능을 발휘하는 시스템은 스스로 창조하거나 혁신하거나 추론할 수 없다. 산더미 같이 쌓인 데이터에서 인간도 놓친 규칙을 찾아낼 정도로 똑똑하지만, 새로운 규칙을 창안할 정도로 지능적이진 않다는 것이다. 쉽게 말해 바둑 최고수가 될 수 있지만, 새로운 게임을 만들어내지는 못한다고 할 수 있다. 심지어 알파고는 포커를 전혀 할 수 없다.
물체를 항목화하는 인공지능의 경우, 역시 훈련 과정 중에 본적 없는 물체를 접했을 때 아무런 기능을 발휘하지 못하거나 오류를 일으킨다. 지금의 인공지능은 수많은 세월이 흘러가도 얼음이 원래는 물이 언 상태라는 걸 스스로 알아내지 못할 것이다.
인공지능이 생각보다 후진 기능이라고 말하려는 게 아니다. 위에서 말했다시피 그 똑똑하다는 개발자들을 능가할 정도니까 말이다. 또한 인공지능은 효율도 좋고, 정확성도 높으며, 안정성까지 갖추고 있다. 다가오는 초연결 시대의 데이터 분석은 사실 인공지능 외에는 대안책이 없기도 하다. 필자가 강조하고 싶은 건, 인공지능이 사실 ‘지능’까지는 아니라는 것이다.
지능이란 창의력을 발휘해 혁신하고 직관을 발휘해 배우고 상황을 대처하고, 각각의 문제 속에서 상호 연결되는 답이나 통찰을 찾아내는 기능이다. 세계 최고의 딥 러닝 시스템이라고 하더라도 이런 걸 할 수는 없다. 인공지능은 그 구조상 인간에게 종속되고 기댈 수밖에 없다. 우리가 가르쳐준 것만으 해내는 도구, 그 이상은 아니다.
인공지능은 오히려 인간의 지능을 높이는 데에 도움을 준다. 보다 정확히 말하면 인간의 지능적 활동을 향상시킨다는 것이다. 가장 좋은 예가 데이터 과학 분야일 것이다. 인공지능이 주어진 데이터를 빠르고 정확하게 분석해내면, 그걸 가지고 혁신을 하고 창조를 하며, 새로운 추론을 하는 것이 인간의 역할이다. 결국 인공지능이 우리의 지능 활동을 더 자유롭게 해준다는 것이다.
지금은 그렇다 치더라도, 더 먼 미래에 창조도 하고 감정도 가지고 있는 인공지능이 등장할 수도 있지 않을까? 그럴 수도 있다. 하지만 지금의 인공지능은 아니다. 몇 번의 더 큰 혁신이 현재의 IT 및 기술 시장을 대빙하시대처럼 전 지구적으로 뒤흔들 기술이 등장해야 가능하다. 그것은 여전히 상상 속에만 존재할 뿐이다. 아직은 공포로 떨 때는 아니다. 그건 우리가 개발한 인공지능 알고리즘에 대한 과대평가다.
글 : 올리버 슈아벤버거(Oliver Schabenberger), SAS
[국제부 문가용 기자(globoan@boannews.com)]
바둑 최고수지만 새로운 게임 만들어내지 못하는 게 현 AI의 한계
[보안뉴스 문가용 기자] 테슬라의 CEO인 엘론 머스크(Elon Musk)는 최근 전미주지사연합(National Governors Association)에서 “인공지능은 인류 문명에 대한 실존주의적인 위험요소인데 사람들이 이 점을 상당히 간과하고 있다”고 발표해 많은 비판을 받은 바 있다. 그는 더 나아가 “인공지능 기술이 가장 무서운 문제”라며 “정부가 규제해야 한다”고 말하기도 했다.
[이미지 = iclickart]
어디 엘론 머스크뿐이겠는가. 인공지능으로 우린 얼마나 위험한 상상을 많이 해왔던가. 하지만 필자 개인적으로는 공포의 대상까지는 아니다. 물론 각종 기계, 기기, 소프트웨어들의 발전상이 이상적이지만은 않았던 게 사실이다. 각종 서비스나 자동화 기능은 하루가 다르게 똑똑해지고 있다. 하지만 그 ‘똑똑함’이란 건 인간이 설계하고 한정짓는 선 안에서일 뿐이다. 우리가 원하는 일을 수행하는 것까지만 똑똑하다는 것으로 그 선을 넘어간 사례는 없다.
사람은 저 먼 옛날부터 우리 주위의 물체들을 도구로 변형시켜 사용해왔다. 돌 두 개를 맞부딪히면 하나가 뾰족해졌고, 이는 창의 끝머리가 되었다. 산업혁명이 도래하면서 이 도구들은 자동화의 도움을 받기 시작했다. 그래서 오늘날 공장에서는 인간의 노동력을 대체하고 있는 로봇들을 쉽게 찾을 수 있다. 하지만 역시나, 우리가 정해진 틀 안에서만 똑똑하고 유능할 뿐이다.
물론 지금 그러니 나중도 이럴 것이라는 뜻은 아니다. 그러나 인간과 도구의 관계는 역사 전체를 통틀어 항상 이런 식이었다. 인공지능의 등장은 이렇게 유구한 역사를 자랑하는 도구와 인간의 관계를 한 번에 뒤바꿀 수 있을까? 이제 진짜 자유의지를 가진 생명체처럼 도구들이 살아서 움직이게 되는 걸까? 우리는 노예가 되기 위해 주인들을 키워내고 있는 것일까?
인공지능에 대한 경각심이 나쁘다는 것도 아니고, 그걸 비웃거나 조롱할 생각이 있는 것도 아니다. 하지만 필자가 생각하기에 지나치게 보이는 경각심 대부분 인공지능의 발전 속도에 기인하고 있는 것 같다. 아닌 게 아니라 기계의 학습 속도란 너무나 뛰어나서 단 몇 년 만에 수천 년 동안 쌓인 바둑 기보를 습득해서 사람 최고수를 이길 정도다. 우리가 이해할 수 없는 때에 슈퍼인텔리전스가 출현하고, 대처할 수 없는 속도로 부정적인 현상이 나타나기 시작하면, 우리가 아는 모든 것은 빛의 속도로 역사의 일부가 되지 않을까 하는 우려가 엘론 머스크와 같은 반응을 낳는다고 난 생각한다.
하지만 내기를 걸게 된다면 난 ‘그런 미래는 공상일뿐이다’에 한 표를 걸겠다. 인공지능이 문제 하나도 없는 청정한 기술이라는 게 아니라, 적어도 사람을 자율적으로 헤치고 죽이는 형태로 문제가 나타나지 않을 거라는 뜻이다. 그리고 정말 그런 일이 일어난다고 해도, 아주아주 먼 미래의 일일 것이 분명하다. 이 예측의 근거를 대기 위해 오늘날 인공지능 기술의 현실을 알아보자.
현재 인공지능의 상태는?
지금 ‘인공지능’이란 말은 거의 캐치프레이즈처럼 사용된다. 자동화 기술 혹은 더 빠른 기술을 묘사할 때 대부분 인공지능이란 말을 사용한다. 심지어 뭔가 자기의 지식밖에 있는 신기술이나 깜짝 놀랄만한 결과물에 인공지능이라는 딱지를 붙이는 경우도 많다. 인공지능이라는 표현은 현재 오용되고 있다. 윈도우 95가 처음 나왔을 때, 마치 윈도우 95만 있으면 모든 레포트나 보고서가 말끔하게 뽑혀져 나올 것이라고 믿어버렸지만, 그렇게 되지 않음에 많은 이들이 실망하던 90년대 중반과 같다.
“AI는 현재 우리가 보유하고 있는 데이터를 통해 학습을 진행합니다. 즉, 우리 이상의 데이터를 어디선가 취합해서 발전할 수가 없어요. 결국 기능이 얼마나 발전했든 그 원리 자체가 우리의 한계성을 그대로 답습한다는 겁니다.” 기계나 기기, 소프트웨어가 가진 기능성이 인간을 뛰어넘을 수는 있어도, ‘틀을 벗어난’ 행위를 하는 건 불가능한 관계라는 것이다.
고급 데이터 분석 기능의 경우, 머신 러닝과 자동화의 도입으로 큰 발전을 이루고 있다. 데이터 위주의 접근 방법을 사용해 각종 ‘차세대’ 기능들이 등장하고 있으며, 최고의 알고리즘과 데이터 분석 모델이 끊임없이 등장하고 있다. 그럴 때마다 시스템은 스스로를 업데이트까지 할 줄 알고, 그 데이터를 통해 의미 있는 결과까지도 도출한다. 똑똑하다. 하지만 이것을 가지고 지능적이라고 말하긴 힘들다.
딥 러닝(deep learning)은 어떤가? 딥 러닝이 들어오면서부터 기기들은 전혀 새로운 방법으로 문제를 풀어내기 시작했다. 심지어 알고리즘을 스스로 만들어내기도 한다. 그래서 알고리즘을 만들어내던 개발자들은 떠나가고, 그 자리를 신경망 네트워크를 훈련시킬 수 있는 데이터 관리자 혹은 데이터 과학자가 차지한다. 어떤 분야에서 지난 수년 간 공부하고 훈련받아온 전문가들이 스스로 학습할 줄 알고 오래된 데이터에서 인간이 볼 수 없었던 규칙과 원리를 발견할 줄 아는 알고리즘에 의해 대체되는 건 이미 진행 중에 있다.
이런 일련의 과정을 통해 우리 역시 배우는 게 있다.
1) 이전에는 컴퓨터 개발의 영역이 아니라고 생각했던 것들이 정복당하고 있다. 바둑이 가장 좋은 예다. 인공지능 알고리즘은 스스로 바둑의 규칙과 원리를 깨쳤을 뿐 아니라 세계 최강의 기사들을 반복적으로 – 압도적으로 – 이겼다.
2) 이제는 전통의 알고리즘 개발법으로 만들어진 코드 대부분 인공지능이 훨씬 더 훌륭하게 만들어낼 수 있다. 음성을 텍스트로 변환시키는 알고리즘, 이미지 구별 알고리즘, 문서 요약 알고리즘 등이 좋은 예다.
=3) 전문적이고 어려운 분야라고 하더라도 정확한 데이터가 충분히 확보되기만 하면 학습 알고리즘이 금방 배워내고 필요한 스킬 구성까지도 갖출 수 있다.
이 정도면 충분히 위협적이라고 할 수 있지 않을까? 그러나 이런 발전의 이면에는 중대한 사각지대가 존재한다. 위에서 언급된 기능적 발전이, 알고리즘을 개발한 우리보다 정말 뛰어난 것이라고 볼 수 있는가? 물론 안정성과 정확성이란 측면, 생산량이란 측면에서는 인간보다 뛰어나다. 하지만 생각하고, 분석하고, 학습하고, 철학하는 면에서 이들이 인간 이상의 뭔가를 가지고 있는가? 아직은 아니다.
오늘날의 인공지능 시스템은 그것이 무엇이든 전부 데이터를 필요로 한다. 데이터 없는 알고리즘은 굶어죽을 수밖에 없다. 기존 데이터만으로 기능을 발휘하는 시스템은 스스로 창조하거나 혁신하거나 추론할 수 없다. 산더미 같이 쌓인 데이터에서 인간도 놓친 규칙을 찾아낼 정도로 똑똑하지만, 새로운 규칙을 창안할 정도로 지능적이진 않다는 것이다. 쉽게 말해 바둑 최고수가 될 수 있지만, 새로운 게임을 만들어내지는 못한다고 할 수 있다. 심지어 알파고는 포커를 전혀 할 수 없다.
물체를 항목화하는 인공지능의 경우, 역시 훈련 과정 중에 본적 없는 물체를 접했을 때 아무런 기능을 발휘하지 못하거나 오류를 일으킨다. 지금의 인공지능은 수많은 세월이 흘러가도 얼음이 원래는 물이 언 상태라는 걸 스스로 알아내지 못할 것이다.
인공지능이 생각보다 후진 기능이라고 말하려는 게 아니다. 위에서 말했다시피 그 똑똑하다는 개발자들을 능가할 정도니까 말이다. 또한 인공지능은 효율도 좋고, 정확성도 높으며, 안정성까지 갖추고 있다. 다가오는 초연결 시대의 데이터 분석은 사실 인공지능 외에는 대안책이 없기도 하다. 필자가 강조하고 싶은 건, 인공지능이 사실 ‘지능’까지는 아니라는 것이다.
지능이란 창의력을 발휘해 혁신하고 직관을 발휘해 배우고 상황을 대처하고, 각각의 문제 속에서 상호 연결되는 답이나 통찰을 찾아내는 기능이다. 세계 최고의 딥 러닝 시스템이라고 하더라도 이런 걸 할 수는 없다. 인공지능은 그 구조상 인간에게 종속되고 기댈 수밖에 없다. 우리가 가르쳐준 것만으 해내는 도구, 그 이상은 아니다.
인공지능은 오히려 인간의 지능을 높이는 데에 도움을 준다. 보다 정확히 말하면 인간의 지능적 활동을 향상시킨다는 것이다. 가장 좋은 예가 데이터 과학 분야일 것이다. 인공지능이 주어진 데이터를 빠르고 정확하게 분석해내면, 그걸 가지고 혁신을 하고 창조를 하며, 새로운 추론을 하는 것이 인간의 역할이다. 결국 인공지능이 우리의 지능 활동을 더 자유롭게 해준다는 것이다.
지금은 그렇다 치더라도, 더 먼 미래에 창조도 하고 감정도 가지고 있는 인공지능이 등장할 수도 있지 않을까? 그럴 수도 있다. 하지만 지금의 인공지능은 아니다. 몇 번의 더 큰 혁신이 현재의 IT 및 기술 시장을 대빙하시대처럼 전 지구적으로 뒤흔들 기술이 등장해야 가능하다. 그것은 여전히 상상 속에만 존재할 뿐이다. 아직은 공포로 떨 때는 아니다. 그건 우리가 개발한 인공지능 알고리즘에 대한 과대평가다.
글 : 올리버 슈아벤버거(Oliver Schabenberger), SAS
[국제부 문가용 기자(globoan@boannews.com)]
Copyrighted 2015. UBM-Tech. 117153:0515BC
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-11-01] 
