.jpg)
AI 챗봇의 경우 발화자 의도 파악, 사용자 식별, 민감정보 보호 이슈 등 고려해야
[보안뉴스= 김유신 서울시립대학교 교수/한국인터넷정보학회 이사] 알파고 이후 2년이 흘렀다. 알파고의 파급력이 워낙에 컸던 탓인지 공공, 금융, 제조, 서비스 등 여기저기서 만능 해결사로 인공지능이 거론됐다. 근래 들어서는 인공지능이 우리의 삶을 점령할 것만 같은 그 기세는 조금 누그러진 듯하다. 인공지능 시스템 구축을 위한 빅데이터의 수집 및 분석, AI 알고리즘 개발과 학습, 검증, 그리고 비즈니스 시스템으로 이행 및 테스트, 관리체계 수립 등 제대로 된 비즈니스 AI 시스템을 위해서 거쳐야 할 무수히 많은 일들을 이제는 모두 공감할 만큼 경험이 쌓였기 때문인 것으로 보인다.
이 때문에 지금은 어떻게 하면 인공지능을 비즈니스에 효과적으로 잘 활용할 것인가에 대한 고민들을 많이 하고 있는데, 이런 측면에서 인공지능 챗봇이 급부상하고 있다. 그 동안 챗봇서비스가 없었던 것은 아니지만, 기술적으로는 음성과 문자인식 AI 성능이 급속도로 향상되고 전화보다는 챗팅을 선호하는 밀레니얼 세대의 부상도 영향을 미쳤다. 거기에 2018년부터 급등한 최저임금이 인간노동을 인공지능으로 대체할 수 있을까 하는 질문에 불을 당긴 측면도 없지 않다.
모 통신사의 경우 2017년 중반 월 23만건을 처리하던 고객센터 챗봇 서비스에 인공지능을 도입한 후 6개월만에 211만건으로 모바일 상담이 급증했다고 한다. 아마도 ARS에서 헤매거나 변변찮은 답변에 머물던 서비스의 수준이 인공지능으로 향상됐기 때문이다. 실제 고객의 주요 문의는 부가서비스 신청/해지, 소액결제신청, 멤버십카드 신청 등의 업무가 다수를 차지했는데, 이러한 고객응대에 소요되는 인건비를 최저 임금 수준으로만 계산해도 약 수억 원에 달할 것으로 추정된다.
이렇듯 인공지능 챗봇은 비교적 단편적인 고객 문의 응답에서부터 좀더 복잡한 고객 지원 업무(예: 은행 계좌조회와 입/출금, 대출까지)까지 그 영역을 계속 넓혀가고 있으며, 이를 통해 조직은 시간과 비용을 절감하고 있다.
가트너(Gartner)는 2020년이면 고객 대응 업무의 85%가 이런식으로 무인화될 것이라고 예측하고 있다. 챗봇 시장 규모도 2015년 113백만 달러에서, 2024년에는 995.5백만 달러로 급증할 것으로 시장조사기관 Statista는 예상했다.
국내 AI 챗봇 시장도 이와 크게 다르지 않다. 인공지능 챗봇을 대고객 서비스에 도입하려는 움직임이 지난해부터 활발해졌고, 나아가 4차 산업의 실행 도구로서 AI챗봇을 구축하려는 사례도 심심치 않게 나타나고 있다. 필자가 작년 하반기부터 참여한 구축사례만으로도 은행의 대출 상담부터, 보험 상품 불완전판매 검증, 호텔 안내 및 예약, 렌털 장비 고장문의 및 수리 예약, 제조 및 유통 상품 이용 안내, 도서관 이용안내 및 도서 검색 등 전 산업에 걸쳐 다양한 형태의 AI 챗봇이 실제 비즈니스 현장에 속속 접목되고 있음을 확인할 수 있다.
그러나 다른 한편으론 기존에 매우 제한적이던 챗봇 서비스에 인공지능이 접목됨으로써 과연 혁신적인 무인 채널로서 제대로 작동하고 있는가에 대한 본질적인 질문이 대두되곤 한다. 또한, 인공지능 챗봇의 확산에도 불구하고 아직까지 서비스 영역이 일부 단순 업무를 넘어서지 못하는 경우가 많은 것도 사실이다. 여기에는 AI 챗봇 서비스의 고도화를 위해 신중하게 검토되어야 할 몇 가지 이슈가 존재하기 때문이다. 이러한 이슈들을 잘 극복한다면 성공적인 AI 챗봇을 구현하고 비즈니스에 적극 활용할 수 있을 것이다.
첫번째는 AI 챗봇이 발화자의 의도를 얼마나 잘 파악하고 이해하느냐다. 최근에는 AWS, Watson AiBril, Azure 등과 같은 AI 플랫폼들이 AI 챗봇을 매우 쉽게 구현하는 도구를 지원하고 있다. 이 때문에 플랫폼 위에 챗봇이 구현되기만 하면 AI 챗봇이 완성된 것으로 착각하는 경우가 종종 있다. AI 챗봇의 핵심 기능은 사람의 일상적인 자연어를 읽고 발화자의 의도를 정확히 파악하는 것이다.
그러나 사람간의 대화는 다양한 구조와 형태로 발화되고, 빈번하게 형식을 파괴하고 생략하며, 맥락을 뛰어넘는 등 그 활용이 기존의 룰 방식 대화 모델로는 한계가 있기 때문에 이를 분석하고 이해할 수 있는 인공지능의 역할에 큰 기대를 하는 것이다. 때문에 인공지능 챗봇은 화자의 의도를 잘 파악할 수 있도록 대화모델이 설계되어야 하고 다양한 형태의 발화에도 대응할 수 있도록 다양한 시나리오로 대화학습이 되어 있어야 자연스러운 자연어 대화가 가능해지는데, 그렇지 않을 경우에는 도통 사람 말을 못 알아 듣는 채팅창에 그치기 때문이다. 고객에게 제공하고자 하는 정답들이 어느정도 존재하는 비즈니스 측면에서는 고객의 질문 의도를 제대로 파악하기만 한다면 훨씬 자연스럽고도 만족스러운 응대가 가능할 수 있다.
다음으로는 사용자 식별과 관련된 보안 이슈가 존재한다. AI 챗봇을 통한 대고객 서비스의 범위가 확장 될수록 사용자가 누구인지를 식별하는데 있어 검증된 보안인증 절차가 요구된다. 예를 들어 스마트폰 뱅킹에서는 은행 계좌의 잔액조회와 송금서비스를 이용한다면, 공인인증을 통한 로그인 또는 생체인식 보안 로그인, 휴대폰 실시간 본인인증 등과 같은 여러가지 보안절차와 시스템이 적용된다. AI 챗봇 역시 송금 서비스를 가능하게 하려면, 먼저 본인확인을 통해 계좌가 개설되어 있는지, 비대면 계좌이체를 위한 송금 서비스 권한이 존재하는지, 계좌 이체에 따른 비밀번호 입력 및 확인과정에서의 해킹 또는 피싱이 발생하지는 않는지 등등 고도화된 서비스에 합당한 사용자 식별과 보안 프로세스가 동반되어야 할 것이다.
마지막으로 고려되어야 할 것은 대화에서 나타나는 여러가지 민감 정보들을 어떻게 보호할것인가이다. 여기에는 서비스를 이용하는 고객의 개인정보보호도 있지만, AI챗봇을 통해 노출되는 기업의 민감정보 또한 그 대상이라 할 수 있다. 고객은 이용 편의를 위해 기업용 챗봇이 아닌 공용 플랫폼(카카오톡, 라임, 페이스북메신저 등)을 선호하는 경우도 빈번한데, 이때 공용 플랫폼에서 고객의 개인정보나 기업의 민감정보가 노출될 위험이 존재한다.
또한, 기업 전용 챗봇에서도 정보 유출의 우려가 존재하는데, AI 챗봇이 방대한 양의 데이터 학습과 효과적인 알고리즘 활용을 위해 클라우드 환경의 AI 플랫폼에서 구현되고 구동되는 경우가 일반적이기 때문이다. 이때도 AI 플랫폼으로 개인정보와 기업 민감정보가 유출될 우려가 없는지, 또는 이를 예방할 수 있는 아키텍처와 정보보호 방안이 고려되어야 한다.
이상으로 인공지능 챗봇 서비스 구현시 고려되어야 할 3가지 이슈로서 대화모델 학습, 사용자 식별 보안인증, 민감정보 보호에 대해 간략히 기술했다. 인공지능 챗봇이 이러한 기술적 제약과 지능형 진화의 과정이 수반되는 한계를 가지고 있음에도 불구하고 앞으로 그 필요성이나 니즈는 계속해서 커져갈 것이 틀림없다. 그러므로, AI 챗봇을 도입하고자 하는 곳에서는 처음부터 이를 검토하고 반영하여 처음에는 다소 제한된 고객 응대 서비스에서 어눌하게 응답을 시작하더라도 점차 서비스 범위를 확장하고 고객 질의를 잘 이해하고 대응할 수 있도록 진화해가는 진정한 인공지능 챗봇을 검토하는 것이 장기적인 성공전략이 될 것이다.
필자 소개_ 김유신 교수는 SKC&C, 액센츄어코리아, IT벤처 등에서 10여년간 빅데이터 컨설팅과 정보 시스템 구축을 수행했고, 텍사스주립대와 충북대학교에서 빅데이터전공 연구교수로 재직했다. 현재는 한국인터넷정보학회 운영이사로서 데이터사이언스연구회를 이끌고 있으며, 서울시립대 빅데이터분석학 전공 객원교수로 재직하고 있다.
[글_ 김유신 서울시립대학교 자유융합대학 빅데이터분석학 전공/한국인터넷정보학회 이사(yoosin25@uos.ac.kr)]
[보안뉴스= 김유신 서울시립대학교 교수/한국인터넷정보학회 이사] 알파고 이후 2년이 흘렀다. 알파고의 파급력이 워낙에 컸던 탓인지 공공, 금융, 제조, 서비스 등 여기저기서 만능 해결사로 인공지능이 거론됐다. 근래 들어서는 인공지능이 우리의 삶을 점령할 것만 같은 그 기세는 조금 누그러진 듯하다. 인공지능 시스템 구축을 위한 빅데이터의 수집 및 분석, AI 알고리즘 개발과 학습, 검증, 그리고 비즈니스 시스템으로 이행 및 테스트, 관리체계 수립 등 제대로 된 비즈니스 AI 시스템을 위해서 거쳐야 할 무수히 많은 일들을 이제는 모두 공감할 만큼 경험이 쌓였기 때문인 것으로 보인다.
[이미지=아이클릭아트]
이 때문에 지금은 어떻게 하면 인공지능을 비즈니스에 효과적으로 잘 활용할 것인가에 대한 고민들을 많이 하고 있는데, 이런 측면에서 인공지능 챗봇이 급부상하고 있다. 그 동안 챗봇서비스가 없었던 것은 아니지만, 기술적으로는 음성과 문자인식 AI 성능이 급속도로 향상되고 전화보다는 챗팅을 선호하는 밀레니얼 세대의 부상도 영향을 미쳤다. 거기에 2018년부터 급등한 최저임금이 인간노동을 인공지능으로 대체할 수 있을까 하는 질문에 불을 당긴 측면도 없지 않다.
모 통신사의 경우 2017년 중반 월 23만건을 처리하던 고객센터 챗봇 서비스에 인공지능을 도입한 후 6개월만에 211만건으로 모바일 상담이 급증했다고 한다. 아마도 ARS에서 헤매거나 변변찮은 답변에 머물던 서비스의 수준이 인공지능으로 향상됐기 때문이다. 실제 고객의 주요 문의는 부가서비스 신청/해지, 소액결제신청, 멤버십카드 신청 등의 업무가 다수를 차지했는데, 이러한 고객응대에 소요되는 인건비를 최저 임금 수준으로만 계산해도 약 수억 원에 달할 것으로 추정된다.
이렇듯 인공지능 챗봇은 비교적 단편적인 고객 문의 응답에서부터 좀더 복잡한 고객 지원 업무(예: 은행 계좌조회와 입/출금, 대출까지)까지 그 영역을 계속 넓혀가고 있으며, 이를 통해 조직은 시간과 비용을 절감하고 있다.
가트너(Gartner)는 2020년이면 고객 대응 업무의 85%가 이런식으로 무인화될 것이라고 예측하고 있다. 챗봇 시장 규모도 2015년 113백만 달러에서, 2024년에는 995.5백만 달러로 급증할 것으로 시장조사기관 Statista는 예상했다.
국내 AI 챗봇 시장도 이와 크게 다르지 않다. 인공지능 챗봇을 대고객 서비스에 도입하려는 움직임이 지난해부터 활발해졌고, 나아가 4차 산업의 실행 도구로서 AI챗봇을 구축하려는 사례도 심심치 않게 나타나고 있다. 필자가 작년 하반기부터 참여한 구축사례만으로도 은행의 대출 상담부터, 보험 상품 불완전판매 검증, 호텔 안내 및 예약, 렌털 장비 고장문의 및 수리 예약, 제조 및 유통 상품 이용 안내, 도서관 이용안내 및 도서 검색 등 전 산업에 걸쳐 다양한 형태의 AI 챗봇이 실제 비즈니스 현장에 속속 접목되고 있음을 확인할 수 있다.
그러나 다른 한편으론 기존에 매우 제한적이던 챗봇 서비스에 인공지능이 접목됨으로써 과연 혁신적인 무인 채널로서 제대로 작동하고 있는가에 대한 본질적인 질문이 대두되곤 한다. 또한, 인공지능 챗봇의 확산에도 불구하고 아직까지 서비스 영역이 일부 단순 업무를 넘어서지 못하는 경우가 많은 것도 사실이다. 여기에는 AI 챗봇 서비스의 고도화를 위해 신중하게 검토되어야 할 몇 가지 이슈가 존재하기 때문이다. 이러한 이슈들을 잘 극복한다면 성공적인 AI 챗봇을 구현하고 비즈니스에 적극 활용할 수 있을 것이다.
첫번째는 AI 챗봇이 발화자의 의도를 얼마나 잘 파악하고 이해하느냐다. 최근에는 AWS, Watson AiBril, Azure 등과 같은 AI 플랫폼들이 AI 챗봇을 매우 쉽게 구현하는 도구를 지원하고 있다. 이 때문에 플랫폼 위에 챗봇이 구현되기만 하면 AI 챗봇이 완성된 것으로 착각하는 경우가 종종 있다. AI 챗봇의 핵심 기능은 사람의 일상적인 자연어를 읽고 발화자의 의도를 정확히 파악하는 것이다.
그러나 사람간의 대화는 다양한 구조와 형태로 발화되고, 빈번하게 형식을 파괴하고 생략하며, 맥락을 뛰어넘는 등 그 활용이 기존의 룰 방식 대화 모델로는 한계가 있기 때문에 이를 분석하고 이해할 수 있는 인공지능의 역할에 큰 기대를 하는 것이다. 때문에 인공지능 챗봇은 화자의 의도를 잘 파악할 수 있도록 대화모델이 설계되어야 하고 다양한 형태의 발화에도 대응할 수 있도록 다양한 시나리오로 대화학습이 되어 있어야 자연스러운 자연어 대화가 가능해지는데, 그렇지 않을 경우에는 도통 사람 말을 못 알아 듣는 채팅창에 그치기 때문이다. 고객에게 제공하고자 하는 정답들이 어느정도 존재하는 비즈니스 측면에서는 고객의 질문 의도를 제대로 파악하기만 한다면 훨씬 자연스럽고도 만족스러운 응대가 가능할 수 있다.
다음으로는 사용자 식별과 관련된 보안 이슈가 존재한다. AI 챗봇을 통한 대고객 서비스의 범위가 확장 될수록 사용자가 누구인지를 식별하는데 있어 검증된 보안인증 절차가 요구된다. 예를 들어 스마트폰 뱅킹에서는 은행 계좌의 잔액조회와 송금서비스를 이용한다면, 공인인증을 통한 로그인 또는 생체인식 보안 로그인, 휴대폰 실시간 본인인증 등과 같은 여러가지 보안절차와 시스템이 적용된다. AI 챗봇 역시 송금 서비스를 가능하게 하려면, 먼저 본인확인을 통해 계좌가 개설되어 있는지, 비대면 계좌이체를 위한 송금 서비스 권한이 존재하는지, 계좌 이체에 따른 비밀번호 입력 및 확인과정에서의 해킹 또는 피싱이 발생하지는 않는지 등등 고도화된 서비스에 합당한 사용자 식별과 보안 프로세스가 동반되어야 할 것이다.
마지막으로 고려되어야 할 것은 대화에서 나타나는 여러가지 민감 정보들을 어떻게 보호할것인가이다. 여기에는 서비스를 이용하는 고객의 개인정보보호도 있지만, AI챗봇을 통해 노출되는 기업의 민감정보 또한 그 대상이라 할 수 있다. 고객은 이용 편의를 위해 기업용 챗봇이 아닌 공용 플랫폼(카카오톡, 라임, 페이스북메신저 등)을 선호하는 경우도 빈번한데, 이때 공용 플랫폼에서 고객의 개인정보나 기업의 민감정보가 노출될 위험이 존재한다.
또한, 기업 전용 챗봇에서도 정보 유출의 우려가 존재하는데, AI 챗봇이 방대한 양의 데이터 학습과 효과적인 알고리즘 활용을 위해 클라우드 환경의 AI 플랫폼에서 구현되고 구동되는 경우가 일반적이기 때문이다. 이때도 AI 플랫폼으로 개인정보와 기업 민감정보가 유출될 우려가 없는지, 또는 이를 예방할 수 있는 아키텍처와 정보보호 방안이 고려되어야 한다.
[사진=서울시립대학교 김유신 교수]
필자 소개_ 김유신 교수는 SKC&C, 액센츄어코리아, IT벤처 등에서 10여년간 빅데이터 컨설팅과 정보 시스템 구축을 수행했고, 텍사스주립대와 충북대학교에서 빅데이터전공 연구교수로 재직했다. 현재는 한국인터넷정보학회 운영이사로서 데이터사이언스연구회를 이끌고 있으며, 서울시립대 빅데이터분석학 전공 객원교수로 재직하고 있다.
[글_ 김유신 서울시립대학교 자유융합대학 빅데이터분석학 전공/한국인터넷정보학회 이사(yoosin25@uos.ac.kr)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김경애기자 기사보기
[2024-11-22] .jpg)
.jpg)
.jpg)
.jpg)
.jpg)
