.jpg)
.jpg)
지난 주 한 부부의 대화 내용을 녹음하고 전송한 아마존 에코
업무 환경에 음성 어시스턴트 들이기 위한 노력 이어지고 있는데
[보안뉴스 문가용 기자] 지난 주 아마존 에코(Amazon Echo)가 탑재된 장비가 사용자의 대화 내용을 녹음해 연락처 목록에 있는 사람에게 전송한 사건이 발생했다. 이 때문에 사물인터넷을 구매하고자 했던 사람들의 소비 심리가 잔뜩 위축되기도 했다.
아마존은 무슨 일이 일어났는지 해명을 했지만 소비자들의 꺼림칙한 심리를 해결해주기에는 역부족이었다. 다만 소비자들의 인공지능 스피커 제품만의 이야기가 아니다. 최근 SAP이나 세일즈포스(Salesforce.com)와 같은 서비스들도 에코와의 결합을 도모하고 있었는데, 이들 역시 이 사건으로 사업 진행에 제동이 걸리게 된 것이다.
보이스봇(Voicebot.ai)라는 업체의 올해 1월 분석에 의하면 현재 미국에는 2만 5천 7백개의 스킬(아마존 에코용 애플리케이션)이 유통되고 있다고 한다. 대부분 스마트 하우스 통제용 스킬 등 일반 소비자들을 위한 것이 대부분이지만, 스킬들이 판매되고 있는 아마존 알렉사 스킬즈 마켓(Amazon Alexa Skills Market)에 접속해보면 업무용 스킬도 약 1천여 개 존재하는 걸 알 수 있다.
“대형 벤더들이 최근 아마존의 음성 인공지능 서비스와의 결합을 위해 바삐 움직이고 있었습니다. 특히 업무용으로 알렉사를 활용하려는 시도들이 있었죠. 현존하는 업무용 앱들에 음성 인식 기술을 입히는 것이 그 목적이었습니다.” 보안 업체 벡트라(Vectra)의 분석 전문가 크리스 모랄레스(Chris Marales)의 설명이다.
또 다른 분석 업체 오붐 리서치(Ovum Research)에 의하면 가상 디지털 어시스턴트들이 2021년에는 인간 어시스턴트들보다 더 많아질 것이라고 한다. 음성 어시스턴트들을 업무 환경에서 더 많이 차용함에 따라 IT 전문가 및 보안 전문가들은 이 새로운 기술을 예의 주시하고 있다.
그렇다면 지난 주 사건은 왜 발생한 것일까? 아마존에 의하면 “지나치게 민감한 음성 인식 기술과, 무시된 음성 프롬프트의 코메디 같은 조합으로 발생한 일”이라고 한다. 사용자들의 대화 중 어떤 소리의 조합이 우연히 스피커를 잠에서 깨도록 하는 명령어처럼 알렉사에게 들렸던 것이고, 비슷한 방식으로 사용자의 대화 중 나오는 소리를 ‘명령’으로 인식하게 된 것. 그러나 중요한 건 에코가 파일을 녹음하거나 전송하는 과정 중에 한 번도 재차 확인하지 않았다는 것이다. 사용자에게 ‘보낼까요?’라고 한 번이라도 물었다면 사고는 일어나지 않았을 것이다.
지난 4월에도 에코에서 비슷하다고 볼 수 있는 취약점이 발견된 바 있다. 에코가 ‘엿들은’ 내용을 텍스트로 전환해 개발자에게 전송하는 취약점이었다. 이 때문에 “에코가 도청장치 역할을 한다”는 내용의 헤드라인이 여러 매체에 걸렸다. 그리고 2017년, 구글도 홈 미니(Home Mini)가 꾸준히 음성을 녹음 및 기록한다는 사실을 발견하고는 이에 대한 패치를 배포한 바 있다. 음성 인식 인공지능에서의 문제가 어제 오늘 일이 아니라는 것이다.
게다가 이렇게 문제가 아직 해결되지 않은 상태인데, 음성 어시스턴트들이 하나 둘 사업장으로 들어오고 있다. 에코는 이미 아틀라시안 빌드 마이스터(Atlassian Build Meister)와 통합을 마쳤다. 개발자들이 빌드 상태를 확인해가며 협업할 수 있도록 마련된 장치다. 이 도구만 있으면 개발자들은 협업으로 이뤄가는 빌드 상황을 확인하기 위해 키보드를 전혀 건드릴 이유가 없다. 실제로 개발자 사무실과 운영진 사무실들에는 음성 어시스턴트의 모습을 심심찮게 볼 수 있다.
SAP 컨커(SAP Consur)나 세일즈포스(Salesforce.com), 오라클(Oracle)과 같은 애플리케이션들과 에코의 결합도 주목해야 할 부분이다. 에코 없이도 이미 수많은 사용자를 거느린 서비스들이 에코를 탑재하게 되면 음성 인식 서비스는 걷잡을 수 없이 퍼져나갈 것이다. 모든 회사의 IT 팀이 최신식 기술에 정통하지 않는 이상, 음성 어시스턴트로 인한 문제 발생 시 급한 해결을 하기 힘들 것이라는 뜻이다.
보안 업체 데미스토(Demisto)의 공동 창립자인 리시 바르가바(Rishi Bhargava)는 “장비와 사용자 간 직접적인 연결 끈이 없어지게 될 것이 염려된다”고 말한다. 무슨 말일까? “음성 어시스턴트가 사무실 내에서 어떤 명령을 입력 받고 수행했다고 합시다. 그렇다면 해당 명령이 어떤 개인에게서 나왔는지 추적이 가능할까요? 그렇다고 단 한 사람만 음성 입력을 할 수 있도록 설정하면 사용성이 극히 낮아지죠. 결국 음성 인식 인공지능 기술을 사무실 안으로 들여 오려면 음성 명령과 명령자 간의 추적이 가능하도록 해야 한다는 겁니다.”
음성 명령자만 추적해낼 수 있다면 기업에서 에코를 사용해도 안전할까? 어떤 문제가 더 남아있을까? “이미 지난 주 부부 대화 녹음 사건에서 봤듯이 음성을 잘못 인식 혹은 해석하는 현상을 해결해야 합니다. 사용자의 연속된 음성 속에서 의도치 않은 명령을 인식한다는 건 커다란 문제입니다. 익스플로잇 가능성도 있고, 업무상 커다란 사고가 발생할 수도 있습니다.”
얼마 전 중국 전문가들은 사람 귀에 들리지 않는 명령을 시리에 내리는 데 성공하기도 했다. 이를 ‘돌고래 공격(Dolphin Attack)’이라고 불렀는데, 아마존 에코에서도 이런 공격이 가능할 수도 있다. 인공지능 스피커가 인식할 수 있는 소리의 범위는 사람의 그것보다 훨씬 넓기 때문이다.
모랄레스는 “음성 어시스턴트들을 업무 환경에 들여 놓기 전에 꼼꼼한 실험부터 진행하고, 모든 위험 가능성을 충분히 평가한 후에 해야 한다”고 강조한다. 바르가바 역시 여기에 동의한다. 하지만 “그런 조심성을 발휘할 기업이 그리 많지 않을 것 같다”고 말한다. “보안이나 안전은 늘 사건 발생 후에 생각하는 문제거든요.”
[국제부 문가용 기자(globoan@boannews.com)]
업무 환경에 음성 어시스턴트 들이기 위한 노력 이어지고 있는데
[보안뉴스 문가용 기자] 지난 주 아마존 에코(Amazon Echo)가 탑재된 장비가 사용자의 대화 내용을 녹음해 연락처 목록에 있는 사람에게 전송한 사건이 발생했다. 이 때문에 사물인터넷을 구매하고자 했던 사람들의 소비 심리가 잔뜩 위축되기도 했다.
[이미지 = iclickart]
아마존은 무슨 일이 일어났는지 해명을 했지만 소비자들의 꺼림칙한 심리를 해결해주기에는 역부족이었다. 다만 소비자들의 인공지능 스피커 제품만의 이야기가 아니다. 최근 SAP이나 세일즈포스(Salesforce.com)와 같은 서비스들도 에코와의 결합을 도모하고 있었는데, 이들 역시 이 사건으로 사업 진행에 제동이 걸리게 된 것이다.
보이스봇(Voicebot.ai)라는 업체의 올해 1월 분석에 의하면 현재 미국에는 2만 5천 7백개의 스킬(아마존 에코용 애플리케이션)이 유통되고 있다고 한다. 대부분 스마트 하우스 통제용 스킬 등 일반 소비자들을 위한 것이 대부분이지만, 스킬들이 판매되고 있는 아마존 알렉사 스킬즈 마켓(Amazon Alexa Skills Market)에 접속해보면 업무용 스킬도 약 1천여 개 존재하는 걸 알 수 있다.
“대형 벤더들이 최근 아마존의 음성 인공지능 서비스와의 결합을 위해 바삐 움직이고 있었습니다. 특히 업무용으로 알렉사를 활용하려는 시도들이 있었죠. 현존하는 업무용 앱들에 음성 인식 기술을 입히는 것이 그 목적이었습니다.” 보안 업체 벡트라(Vectra)의 분석 전문가 크리스 모랄레스(Chris Marales)의 설명이다.
또 다른 분석 업체 오붐 리서치(Ovum Research)에 의하면 가상 디지털 어시스턴트들이 2021년에는 인간 어시스턴트들보다 더 많아질 것이라고 한다. 음성 어시스턴트들을 업무 환경에서 더 많이 차용함에 따라 IT 전문가 및 보안 전문가들은 이 새로운 기술을 예의 주시하고 있다.
그렇다면 지난 주 사건은 왜 발생한 것일까? 아마존에 의하면 “지나치게 민감한 음성 인식 기술과, 무시된 음성 프롬프트의 코메디 같은 조합으로 발생한 일”이라고 한다. 사용자들의 대화 중 어떤 소리의 조합이 우연히 스피커를 잠에서 깨도록 하는 명령어처럼 알렉사에게 들렸던 것이고, 비슷한 방식으로 사용자의 대화 중 나오는 소리를 ‘명령’으로 인식하게 된 것. 그러나 중요한 건 에코가 파일을 녹음하거나 전송하는 과정 중에 한 번도 재차 확인하지 않았다는 것이다. 사용자에게 ‘보낼까요?’라고 한 번이라도 물었다면 사고는 일어나지 않았을 것이다.
지난 4월에도 에코에서 비슷하다고 볼 수 있는 취약점이 발견된 바 있다. 에코가 ‘엿들은’ 내용을 텍스트로 전환해 개발자에게 전송하는 취약점이었다. 이 때문에 “에코가 도청장치 역할을 한다”는 내용의 헤드라인이 여러 매체에 걸렸다. 그리고 2017년, 구글도 홈 미니(Home Mini)가 꾸준히 음성을 녹음 및 기록한다는 사실을 발견하고는 이에 대한 패치를 배포한 바 있다. 음성 인식 인공지능에서의 문제가 어제 오늘 일이 아니라는 것이다.
게다가 이렇게 문제가 아직 해결되지 않은 상태인데, 음성 어시스턴트들이 하나 둘 사업장으로 들어오고 있다. 에코는 이미 아틀라시안 빌드 마이스터(Atlassian Build Meister)와 통합을 마쳤다. 개발자들이 빌드 상태를 확인해가며 협업할 수 있도록 마련된 장치다. 이 도구만 있으면 개발자들은 협업으로 이뤄가는 빌드 상황을 확인하기 위해 키보드를 전혀 건드릴 이유가 없다. 실제로 개발자 사무실과 운영진 사무실들에는 음성 어시스턴트의 모습을 심심찮게 볼 수 있다.
SAP 컨커(SAP Consur)나 세일즈포스(Salesforce.com), 오라클(Oracle)과 같은 애플리케이션들과 에코의 결합도 주목해야 할 부분이다. 에코 없이도 이미 수많은 사용자를 거느린 서비스들이 에코를 탑재하게 되면 음성 인식 서비스는 걷잡을 수 없이 퍼져나갈 것이다. 모든 회사의 IT 팀이 최신식 기술에 정통하지 않는 이상, 음성 어시스턴트로 인한 문제 발생 시 급한 해결을 하기 힘들 것이라는 뜻이다.
보안 업체 데미스토(Demisto)의 공동 창립자인 리시 바르가바(Rishi Bhargava)는 “장비와 사용자 간 직접적인 연결 끈이 없어지게 될 것이 염려된다”고 말한다. 무슨 말일까? “음성 어시스턴트가 사무실 내에서 어떤 명령을 입력 받고 수행했다고 합시다. 그렇다면 해당 명령이 어떤 개인에게서 나왔는지 추적이 가능할까요? 그렇다고 단 한 사람만 음성 입력을 할 수 있도록 설정하면 사용성이 극히 낮아지죠. 결국 음성 인식 인공지능 기술을 사무실 안으로 들여 오려면 음성 명령과 명령자 간의 추적이 가능하도록 해야 한다는 겁니다.”
음성 명령자만 추적해낼 수 있다면 기업에서 에코를 사용해도 안전할까? 어떤 문제가 더 남아있을까? “이미 지난 주 부부 대화 녹음 사건에서 봤듯이 음성을 잘못 인식 혹은 해석하는 현상을 해결해야 합니다. 사용자의 연속된 음성 속에서 의도치 않은 명령을 인식한다는 건 커다란 문제입니다. 익스플로잇 가능성도 있고, 업무상 커다란 사고가 발생할 수도 있습니다.”
얼마 전 중국 전문가들은 사람 귀에 들리지 않는 명령을 시리에 내리는 데 성공하기도 했다. 이를 ‘돌고래 공격(Dolphin Attack)’이라고 불렀는데, 아마존 에코에서도 이런 공격이 가능할 수도 있다. 인공지능 스피커가 인식할 수 있는 소리의 범위는 사람의 그것보다 훨씬 넓기 때문이다.
모랄레스는 “음성 어시스턴트들을 업무 환경에 들여 놓기 전에 꼼꼼한 실험부터 진행하고, 모든 위험 가능성을 충분히 평가한 후에 해야 한다”고 강조한다. 바르가바 역시 여기에 동의한다. 하지만 “그런 조심성을 발휘할 기업이 그리 많지 않을 것 같다”고 말한다. “보안이나 안전은 늘 사건 발생 후에 생각하는 문제거든요.”
[국제부 문가용 기자(globoan@boannews.com)]
Copyrighted 2015. UBM-Tech. 117153:0515BC
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-11-22] 
.jpg)
.jpg)
.jpg)
