.jpg)
테슬라와 모바일아이의 시스템이 실험 대상...벤구리온대학에서 실험 실시
차량 앞에 장애물로 보이는 이미지 투사했더니...급정거, 차선 변경 등 이루어져
[보안뉴스 문가용 기자] 테슬라 등 유명 차량들에 탑재되어 있는 오토파일럿 혹은 자율주행 기능을 가짜 사진이나 이미지들로 간단히 속일 수 있다는 내용의 연구 결과가 발표됐다. 드론이나 광고판 등을 통해 투사되는 형상을 진짜로 인식하는 경우가 있다는 것이다. 공격자들이 이를 악용할 경우, 차량과 탑승자에 큰 피해를 입힐 수도 있다고 연구원들은 경고했다.
문제의 근원은 고급 주행 보조 시스템(ADAS)이다. 반 자율주행 차량에 탑재되는 기술로, 운전자가 차량을 운행할 때나 주차할 때 보조적인 역할을 담당한다. 특히 장애물을 미리 탐지함으로써 운전자의 안전을 도모한다는 게 ADAS의 목적이다. 이를 가짜 이미지로 속일 수 있다는 것이 벤구리온대학(Ben-Gurion University) 연구원들이 밝혀낸 바다.
연구원들은 이 공격의 성립 가능성을 증명하기 위해 두 개의 ADAS 기술을 실험 대상으로 삼았다. 모바일아이 630 프로(Mobileye 630 PRO)와 테슬라의 HW 2.5 자율주행 시스템이었다. 두 가지 모두 완전 자율 주행이 아니라 반 자율 주행을 가능케 해주는 시스템으로, 운전자가 차량 조작을 어느 정도는 해야만 한다. 또한 둘 다 다양한 센서와 광학 카메라를 기반으로 하고 있다.
이 두 가지 시스템을 속이기 위해 벤구리온대학의 연구원들은 몇 가지 실험용 이미지를 준비했다. ADAS 기술이 인식할 수 있을 정도로만 밝기와 선명도를 키운 것이 전부였다고 한다. “수직면에 이미지를 투사하는 상황에서는 준비할 게 거의 아무 것도 없었습니다.” 이번 연구를 이끈 벤 나시(Ben Nassi)의 설명이다. “하지만 수평면에 이미지를 투사해야 할 때(예를 들어 사람이 길 위에 서 있는 것과 같은 상황을 조성할 때)는 연구해야 할 게 많더군요. 게다가 실제 차도는 빛을 거의 반사하지 않기도 하고요.”
결국 주변 광고판이나 차량, 드론까지 동원한 연구원들은 수평면에 가짜 이미지를 투사하는 데 성공했다. 그랬더니 테슬라 모델 X를 간단히 급정거시킬 수 있었다고 한다. “사람이 길 위에 서 있는 상황을 이미지로 연출했죠. 주행하던 테슬라 앞에 이미지를 투사했는데, 차가 갑자기 멈추더라고요. 비슷한 실험을 계속 했을 때, 주행 코스를 바꾸거나 차선을 변경하도록 만들 수도 있었습니다.”
연구원들은 “아직까지 이러한 방법으로 차량이나 특정 인물을 공격한 실제 사례는 없는 것으로 보인다”고 말했지만 “공격 난이도와 투자 액수가 매우 낮은 편에 속하기 때문에 언제고 마음만 먹으면 실행할 수 있다”고 경고하기도 했다. “공격자가 드론을 사용한다면, 원격 공격도 가능합니다. 사고를 일으킬 수도 있고, 따라서 생명을 위협할 수도 있습니다.”
물론 이것이 반 자율주행 시스템의 보안 취약점이라고 정의하기 힘들다는 걸 연구원들도 잘 알고 있다. “하지만 현존하는 자율주행 시스템들이 가지고 있는 객체 인식 방법에 근본적인 문제가 있고, 반드시 보완해야 한다는 건 분명합니다. 특히 진짜와 가짜 객체를 구분하는 부분에서 보강이 있어야 할 것입니다.”
테슬라와 모바일아이는 모두 버그바운티 프로그램을 진행하고 있다. 그러나 벤구리온대학의 연구원들이 발견한 이 공격 방법은 상금을 받기에 적절하지 않다고 두 회사 모두 알려왔다. “보안 취약점을 익스플로잇 하는 공격 방법이 아니기 때문”이다. “모바일아이 측은 취약점이나 오류에 대한 익스플로잇이 이뤄진 게 아니며 오히려 센서들이 잘 작동하는 게 증명된 게 아니냐고 되묻더군요.” 나시의 설명이다.
벤구리온 대학의 보안 전문가들은 ADAS 시스템을 개발하는 회사들이 객체를 인식하는 것을 넘어, 주변 환경의 전체적인 맥락을 같이 파악해야 한다고 주장하고 있다. “저기에 어떤 객체가 서 있다는 것만을 알아채는 것으로는 충분치 않습니다. 전체 맥락을 봐야 합니다. 예를 들어 빛이 현재 어떤 식으로 반사되고 있고, 물체의 표면을 분석했을 때 빛의 그러한 반사가 올바른 것인지 판단할 수 있어야 한다는 겁니다. 그래야 진짜와 가짜를 좀 더 정확하게 구분할 수 있게 됩니다.”
3줄 요약
1. 드론과 벽면, 차량 등 활용해 이미지 투사만 할 수 있다면 자율주행 방해 가능.
2. 직접 실험하니 자율주행 차량 급정거와 차선 변경 등 유도할 수 있었음.
3. 사물 인지에 있어서 맥락 파악이라는 개념도 포함되어야 함.
[국제부 문가용 기자(globoan@boannews.com)]
차량 앞에 장애물로 보이는 이미지 투사했더니...급정거, 차선 변경 등 이루어져
[보안뉴스 문가용 기자] 테슬라 등 유명 차량들에 탑재되어 있는 오토파일럿 혹은 자율주행 기능을 가짜 사진이나 이미지들로 간단히 속일 수 있다는 내용의 연구 결과가 발표됐다. 드론이나 광고판 등을 통해 투사되는 형상을 진짜로 인식하는 경우가 있다는 것이다. 공격자들이 이를 악용할 경우, 차량과 탑승자에 큰 피해를 입힐 수도 있다고 연구원들은 경고했다.
[이미지 = iclickart]
문제의 근원은 고급 주행 보조 시스템(ADAS)이다. 반 자율주행 차량에 탑재되는 기술로, 운전자가 차량을 운행할 때나 주차할 때 보조적인 역할을 담당한다. 특히 장애물을 미리 탐지함으로써 운전자의 안전을 도모한다는 게 ADAS의 목적이다. 이를 가짜 이미지로 속일 수 있다는 것이 벤구리온대학(Ben-Gurion University) 연구원들이 밝혀낸 바다.
연구원들은 이 공격의 성립 가능성을 증명하기 위해 두 개의 ADAS 기술을 실험 대상으로 삼았다. 모바일아이 630 프로(Mobileye 630 PRO)와 테슬라의 HW 2.5 자율주행 시스템이었다. 두 가지 모두 완전 자율 주행이 아니라 반 자율 주행을 가능케 해주는 시스템으로, 운전자가 차량 조작을 어느 정도는 해야만 한다. 또한 둘 다 다양한 센서와 광학 카메라를 기반으로 하고 있다.
이 두 가지 시스템을 속이기 위해 벤구리온대학의 연구원들은 몇 가지 실험용 이미지를 준비했다. ADAS 기술이 인식할 수 있을 정도로만 밝기와 선명도를 키운 것이 전부였다고 한다. “수직면에 이미지를 투사하는 상황에서는 준비할 게 거의 아무 것도 없었습니다.” 이번 연구를 이끈 벤 나시(Ben Nassi)의 설명이다. “하지만 수평면에 이미지를 투사해야 할 때(예를 들어 사람이 길 위에 서 있는 것과 같은 상황을 조성할 때)는 연구해야 할 게 많더군요. 게다가 실제 차도는 빛을 거의 반사하지 않기도 하고요.”
결국 주변 광고판이나 차량, 드론까지 동원한 연구원들은 수평면에 가짜 이미지를 투사하는 데 성공했다. 그랬더니 테슬라 모델 X를 간단히 급정거시킬 수 있었다고 한다. “사람이 길 위에 서 있는 상황을 이미지로 연출했죠. 주행하던 테슬라 앞에 이미지를 투사했는데, 차가 갑자기 멈추더라고요. 비슷한 실험을 계속 했을 때, 주행 코스를 바꾸거나 차선을 변경하도록 만들 수도 있었습니다.”
연구원들은 “아직까지 이러한 방법으로 차량이나 특정 인물을 공격한 실제 사례는 없는 것으로 보인다”고 말했지만 “공격 난이도와 투자 액수가 매우 낮은 편에 속하기 때문에 언제고 마음만 먹으면 실행할 수 있다”고 경고하기도 했다. “공격자가 드론을 사용한다면, 원격 공격도 가능합니다. 사고를 일으킬 수도 있고, 따라서 생명을 위협할 수도 있습니다.”
물론 이것이 반 자율주행 시스템의 보안 취약점이라고 정의하기 힘들다는 걸 연구원들도 잘 알고 있다. “하지만 현존하는 자율주행 시스템들이 가지고 있는 객체 인식 방법에 근본적인 문제가 있고, 반드시 보완해야 한다는 건 분명합니다. 특히 진짜와 가짜 객체를 구분하는 부분에서 보강이 있어야 할 것입니다.”
테슬라와 모바일아이는 모두 버그바운티 프로그램을 진행하고 있다. 그러나 벤구리온대학의 연구원들이 발견한 이 공격 방법은 상금을 받기에 적절하지 않다고 두 회사 모두 알려왔다. “보안 취약점을 익스플로잇 하는 공격 방법이 아니기 때문”이다. “모바일아이 측은 취약점이나 오류에 대한 익스플로잇이 이뤄진 게 아니며 오히려 센서들이 잘 작동하는 게 증명된 게 아니냐고 되묻더군요.” 나시의 설명이다.
벤구리온 대학의 보안 전문가들은 ADAS 시스템을 개발하는 회사들이 객체를 인식하는 것을 넘어, 주변 환경의 전체적인 맥락을 같이 파악해야 한다고 주장하고 있다. “저기에 어떤 객체가 서 있다는 것만을 알아채는 것으로는 충분치 않습니다. 전체 맥락을 봐야 합니다. 예를 들어 빛이 현재 어떤 식으로 반사되고 있고, 물체의 표면을 분석했을 때 빛의 그러한 반사가 올바른 것인지 판단할 수 있어야 한다는 겁니다. 그래야 진짜와 가짜를 좀 더 정확하게 구분할 수 있게 됩니다.”
3줄 요약
1. 드론과 벽면, 차량 등 활용해 이미지 투사만 할 수 있다면 자율주행 방해 가능.
2. 직접 실험하니 자율주행 차량 급정거와 차선 변경 등 유도할 수 있었음.
3. 사물 인지에 있어서 맥락 파악이라는 개념도 포함되어야 함.
[국제부 문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-04-18] 
.jpg)
.jpg)
