미국과 일본의 대학 연구원들이 연구...음성 장비, 빛으로도 통제 가능
공격에 들어가는 비용은 600달러 정도...공격 가능한 최소 거리는 110미터
[보안뉴스 문가용 기자] 레이저를 사용해 음성 명령을 시리와 알렉사, 구글 어시스턴트에 입력시킬 수 있다는 연구 결과가 발표됐다. 미국 미시건대학교와 일본 전자통신대학의 전문가들이 힘을 합해 진행한 이번 연구를 통해 인공지능 음성 어시스턴트들을 공략하는 게 가능한 일이 되었다.
이 공격법에는 ‘광명령(Light Commands)’이라는 이름이 붙었다. 대부분의 현대 기기에 탑재된 ‘미세 전자 기계 시스템(Micro Electro Mechanical Systems, MEMS)’ 기반의 마이크로폰이 빛에 반응하기 때문에 성립 가능한 공격법이다.
마이크로폰은 음파를 전자 오디오 신호로 변환시키는 기계다. “하지만 레이저와 같은 광원에도 반응을 하더군요. 우연히 그 사실을 발견했습니다. 반응 방식은 음파에 반응하는 그것과 비슷하고요. 이를 활용해 마이크로폰에 빛을 주입함으로써 소리가 주입된 것과 같은 효과를 줄 수 있습니다.”
만약 스마트폰이나 패드 등에 탑재되어 있는 음성 어시스턴트 기술을 공격하고자 한다면, 공격자로서는 빛을 쏘아줌으로써 음성을 입력한 것과 동일한 효과를 얻을 수 있게 된다는 뜻이 된다. 장비는 음성 명령으로 이를 받아들여 처리할 것이고, 이를 통해 사용자가 예상치 못한 현상을 일으킬 수 있게 된다.
연구원들에 의하면 이러한 방법으로 다양한 명령을 실행하는 게 가능하다고 설명한다. “스마트 홈 장비를 통해 불을 마음대로 껐다 켰다 할 수도 있고, 차고 문을 열 수도 있으며, 차량에 멋대로 시동도 켜고, 대문을 열 수도 있습니다. 온라인 쇼핑도 마음껏 할 수 있고요.”
연구원들은 이러한 연구 결과를 상세히 보고서(https://lightcommands.com/20191104-Light-Commands.pdf)로 작성해 발표했으며, 광명령의 위험성을 알리기 위한 웹사이트(https://lightcommands.com/)도 개설했다. 영상 데모도 녹화해 공개하고 있다.
발표를 하기 전에 연구원들은 10개가 넘는 장비들을 전부 실험했다고 한다. 애플, 구글, 아마존, 페이스북, 삼성에서 나오는 대부분의 음성 어시스턴트 기반 장비들이 포함되어 있었다. 장비에 따라 결과가 조금씩 달라지긴 하지만, 최소 110미터 떨어진 거리에서 공격을 성공시킬 수 있었다고 한다. 연구실 복도 길이라는 한계가 있었기 때문에 최대 공격 가능 거리를 측정하기에는 무리가 있었다.
공격에 드는 비용은 600달러 정도라고 한다. “누구라도 살 수 있는 소비자용 레이저 장비를 구매하면 됩니다. 프레젠테이션 할 때 자주 사용하는 레이저 포인터 같은 것이면 되죠. 여기에 신호를 모듈화 할 수 있는 레이저 드라이버, 녹음된 명령을 재생시킬 증폭기, 레이저 빛을 한 곳에 모을 수 있는 렌즈가 더 필요합니다.” 공격 거리가 상당히 길 경우에는 별도의 광 초점 장비가 추가로 필요할 수 있다.
공격을 더 은밀히 진행하기 위해서 공격자들은 눈에 보이지 않는 레이저를 사용할 수 있다. 또한 다른 공격을 진행하기에 앞서 음성 어시스턴트에 스피커 볼륨을 낮추라는 명령을 전달하면, 음성 어시스턴트의 대답 소리가 잘 들리지 않게 되므로 공격을 훨씬 조용하게 진행할 수 있다.
연구원들에 의하면 이런 공격을 방어하는 가장 효과적인 방법은 “사용자 인증 장치를 하나 더 추가하는 것”이라고 한다. “여기에 더해 스피터가 있는 부분이 빛에 잘 닿지 않도록 막아두는 것도 좋은 방법입니다. 늘 들고다니며 움직이는 장비라면 레이저로 맞추기가 힘들지만, 가만히 한 곳에 서 있는 장비라면 마이크 앞에 뭔가 장애물을 두는 편이 좋습니다.”
3줄 요약
1. 많은 장비들에 탑재된 마이크로폰, 파동과 빛 모두에 반응.
2. 이를 악용해 레이저 포인터 등으로 가짜 명령 전달 가능.
3. 애플, 아마존, 구글, 삼성의 모든 인공지능 어시스턴트 공략 가능.
[국제부 문가용 기자(globoan@boannews.com)]
공격에 들어가는 비용은 600달러 정도...공격 가능한 최소 거리는 110미터
[보안뉴스 문가용 기자] 레이저를 사용해 음성 명령을 시리와 알렉사, 구글 어시스턴트에 입력시킬 수 있다는 연구 결과가 발표됐다. 미국 미시건대학교와 일본 전자통신대학의 전문가들이 힘을 합해 진행한 이번 연구를 통해 인공지능 음성 어시스턴트들을 공략하는 게 가능한 일이 되었다.
[이미지 = iclickart]
이 공격법에는 ‘광명령(Light Commands)’이라는 이름이 붙었다. 대부분의 현대 기기에 탑재된 ‘미세 전자 기계 시스템(Micro Electro Mechanical Systems, MEMS)’ 기반의 마이크로폰이 빛에 반응하기 때문에 성립 가능한 공격법이다.
마이크로폰은 음파를 전자 오디오 신호로 변환시키는 기계다. “하지만 레이저와 같은 광원에도 반응을 하더군요. 우연히 그 사실을 발견했습니다. 반응 방식은 음파에 반응하는 그것과 비슷하고요. 이를 활용해 마이크로폰에 빛을 주입함으로써 소리가 주입된 것과 같은 효과를 줄 수 있습니다.”
만약 스마트폰이나 패드 등에 탑재되어 있는 음성 어시스턴트 기술을 공격하고자 한다면, 공격자로서는 빛을 쏘아줌으로써 음성을 입력한 것과 동일한 효과를 얻을 수 있게 된다는 뜻이 된다. 장비는 음성 명령으로 이를 받아들여 처리할 것이고, 이를 통해 사용자가 예상치 못한 현상을 일으킬 수 있게 된다.
연구원들에 의하면 이러한 방법으로 다양한 명령을 실행하는 게 가능하다고 설명한다. “스마트 홈 장비를 통해 불을 마음대로 껐다 켰다 할 수도 있고, 차고 문을 열 수도 있으며, 차량에 멋대로 시동도 켜고, 대문을 열 수도 있습니다. 온라인 쇼핑도 마음껏 할 수 있고요.”
연구원들은 이러한 연구 결과를 상세히 보고서(https://lightcommands.com/20191104-Light-Commands.pdf)로 작성해 발표했으며, 광명령의 위험성을 알리기 위한 웹사이트(https://lightcommands.com/)도 개설했다. 영상 데모도 녹화해 공개하고 있다.
발표를 하기 전에 연구원들은 10개가 넘는 장비들을 전부 실험했다고 한다. 애플, 구글, 아마존, 페이스북, 삼성에서 나오는 대부분의 음성 어시스턴트 기반 장비들이 포함되어 있었다. 장비에 따라 결과가 조금씩 달라지긴 하지만, 최소 110미터 떨어진 거리에서 공격을 성공시킬 수 있었다고 한다. 연구실 복도 길이라는 한계가 있었기 때문에 최대 공격 가능 거리를 측정하기에는 무리가 있었다.
공격에 드는 비용은 600달러 정도라고 한다. “누구라도 살 수 있는 소비자용 레이저 장비를 구매하면 됩니다. 프레젠테이션 할 때 자주 사용하는 레이저 포인터 같은 것이면 되죠. 여기에 신호를 모듈화 할 수 있는 레이저 드라이버, 녹음된 명령을 재생시킬 증폭기, 레이저 빛을 한 곳에 모을 수 있는 렌즈가 더 필요합니다.” 공격 거리가 상당히 길 경우에는 별도의 광 초점 장비가 추가로 필요할 수 있다.
공격을 더 은밀히 진행하기 위해서 공격자들은 눈에 보이지 않는 레이저를 사용할 수 있다. 또한 다른 공격을 진행하기에 앞서 음성 어시스턴트에 스피커 볼륨을 낮추라는 명령을 전달하면, 음성 어시스턴트의 대답 소리가 잘 들리지 않게 되므로 공격을 훨씬 조용하게 진행할 수 있다.
연구원들에 의하면 이런 공격을 방어하는 가장 효과적인 방법은 “사용자 인증 장치를 하나 더 추가하는 것”이라고 한다. “여기에 더해 스피터가 있는 부분이 빛에 잘 닿지 않도록 막아두는 것도 좋은 방법입니다. 늘 들고다니며 움직이는 장비라면 레이저로 맞추기가 힘들지만, 가만히 한 곳에 서 있는 장비라면 마이크 앞에 뭔가 장애물을 두는 편이 좋습니다.”
3줄 요약
1. 많은 장비들에 탑재된 마이크로폰, 파동과 빛 모두에 반응.
2. 이를 악용해 레이저 포인터 등으로 가짜 명령 전달 가능.
3. 애플, 아마존, 구글, 삼성의 모든 인공지능 어시스턴트 공략 가능.
[국제부 문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-10-05] 
.jpg)
.jpg)
