.jpg)
.jpg)
인터넷 공간에 널리 퍼진 각종 정보들만 적당히 수집하고 조합해도 공격자들은 인공지능이라는 기술을 가지고 매우 그럴싸한 콘텐츠를 만들 수 있다. 그렇기 때문에 납치되어 도움을 요청하는 자녀의 목소리도 얼마든지 생성할 수 있다.
[보안뉴스 문정후 기자] 당신의 사랑하는 자녀가 울부짖으며 도와달라고 전화를 했다면, 침착하게 대응할 확률은 얼마나 될까? 아니, 침착한 대응을 넘어 의심 가득한 말투로 조롱하거나 아예 전화를 끊어버리고도 아무렇지 않을 확률은 얼마나 될까? 보안 업체 트렌드마이크로(Trend Micro)의 연구원 두 명이 올해 열릴 블랙햇유럽(Black Hat Europe)에서 ‘가상의 납치’라는 주제로 발표를 진행하며 이 질문을 다룰 예정이라고 해 관심을 끌고 있다.
가상의 납치라는 개념은 새로운 것이 전혀 아니다. 이미 공격자들과 보안 전문가들 사이에서는 잘 알려져 있다. 사이버 공격을 통해 시스템이나 네트워크를 침해하고, 소셜미디어나 다크웹에서 첩보를 수집하고, 음성을 복제할 수 있는 인공지능 기반 소프트웨어를 활용한다면 가상의 납치 혹은 가상의 유괴극이 얼마든지 가능하다는 건 잘 알려져 있기까지 하다. 아무리 사랑하는 이의 목소리라 하더라도 정교한 인공지능으로 얼마든지 재현할 수 있고, 이를 귀로 구분하는 건 대단히 어렵다. 공격자들이 실제로 인공지능의 이러한 기능에 주목하는 이유다.
“다크웹 해킹 포럼에 가보면 가상의 납치를 진지하게 논하는 사람들을 많이 찾을 수 있습니다. 공격자들은 가상으로 납치하는 것의 장점과 특징들을 계속해서 이야기하고 있으며, 이런 주제의 게시글은 어느 해킹 포럼에서나 꾸준히 올라옵니다.” 트렌드마이크로의 수석 위협 방어 아키텍트인 크레이그 깁슨(Craig Gibson)의 설명이다. “여기서 꾸준하다는 건 언제 어디에서나 접속해도 최소 150건의 새 글을 볼 수 있다는 겁니다.”
가상의 납치, 어떤 식으로 벌어지는가?
진짜 납치와 마찬가지로 가상의 납치 역시 납치 대상자를 물색하는 것부터 시작한다. 당연하지만 납치될 대상자와 함께 협상의 대상자까지도 같이 고려해야 한다. 즉 아무런 가족이나 친지도 없는 사람을 납치해봐야 큰 소득이 없을 수 있으니 가족이 있는 사람 중 협상에 쉽게 응할 만한 사람을 찾는 게 중요하다고 깁슨은 짚는다.
“하지만 범죄자들이라고 해서 납치할 대상자를 24시간 사시사철 마음 속에 두고 있지는 않습니다. 범죄는 저지르고 싶은데 대상자가 없을 수 있습니다. 그럴 때 그들은 소셜미디어나 다크웹에서 유통되는 개인정보를 탐색합니다. 그러면서 눈에 띄는 사람을 찾는 것이죠. 이 단계에서도 소프트웨어의 강력함을 활용하는 게 가능합니다. 예를 들어 광고 분석용 소프트웨어를 사용해 데이터들을 분석하면 공격자가 원하는 조건에 맞춰 가장 바람직한 표적이 될 만한 사람을 간편하게 찾아낼 수 있습니다. 이런 말들은 이미 다크웹에서 충분이 오가는 중입니다.”
‘누구를 공격할 것인가’를 충분히 해결했다면 다음으로는 ‘언제 공격할 것인가’를 정해야 한다. 소셜미디어의 세부적인 정보를 통해 이에 대한 답을 찾아내는 게 가능하다. 얼마 전 실제로 가상 유괴극에 당했던 제니퍼 드스테파노(Jennifer DeStefano)의 경우에도 소셜미디어가 공격자들에게 많은 힌트를 제공한 것으로 보인다고 증언한 바 있다. “지난 4월의 어느 오후 저에게 전화가 걸려왔습니다. 모르는 번호였어요. 받았더니 큰 딸이 울면서 “엄마!”하고 부르더라고요. “다 망쳤어요!”라면서요.
당시 드스테파노의 큰 딸은 북부 지역에서 스키 경주를 앞두고 한창 훈련을 받고 있었다. 그래서 드스테파노는 딸이 부상을 입었을 것이라고 생각했다. 그런데 갑자기 다른 목소리가 전화기에서 흘러나왔다. “당신 잘 들어. 당신 딸은 우리가 데리고 있어. 경찰이나 다른 어떤 사람한테 이 사실을 알리면 온갖 마약을 딸 몸에 쑤셔 넣을 거야. 그런 다음 내가 마음대로 데리고 놀다가 멕시코 아무데나 떨어트려 놓겠어. 그럼 당신은 딸을 영원히 못 보겠지.” 그러면서 이 자는 100만 달러를 현금으로 요구했다.
나중에 밝혀진 사실이지만 당시 범인들이 사용했던 큰 딸의 목소리는 인공지능으로 만들어 녹음해 둔 것이었다. 드스테파노는 기계에서 나온 것이라고는 상상도 하지 못했다. 너무나 진짜와 똑같았기 때문이다. 인공지능의 목소리가 얼마나 실감났던지 수시간 뒤 아들이 자기 누나와 통화 연결에 성공해서 엄마인 드스테파노에게 바꿔줬을 때, 그래서 큰 딸의 진짜 목소리를 수화기로 들었을 때조차 믿을 수 없었다고 한다. “아이의 도와달라는 목소리가 계속 귀에서 맴돌아서 진짜 딸의 목소리를 듣고도 그게 딸이라는 걸 믿을 수 없었습니다.”
납치범들의 실력은 계속 좋아질 것
드스테파노의 집안을 상대로 가짜 납치극을 벌인 범인들은 소셜미디어를 통해 집안 살림이 넉넉하고 딸이 집에서 언제 떨어져 있는지를 상세히 파악한 것으로 보인다. 그래서 표적으로 설정한 뒤 딸에게 전화를 걸어 통화를 해가며 목소리 샘플을 수집했을 것으로 추정된다. 아니면 인터넷 어딘가에서 목소리를 확보했을 수도 있다. 그렇게 해서 이번 공격은 거의 성공할 뻔 했으나 아슬아슬하게 실패했다.
공격이 실패로 끝났다고 해서 안심할 수 있는 건 아니다. 공격자들은 계속해서 발전하고 있기 때문이다. 예를 들어 심스와핑 공격을 드스테파노 가상 납치 사건의 범인들이 혼합했다면 어떻게 됐을까? 공격자들은 딸의 핸드폰으로 들어오는 통화 요청이나 문자 메시지를 중간에서 가로챔으로써 가상 납치극을 보다 현실감 있게 뒤바꿀 수 있었을 것이다. 그러므로 아들이 딸에게 전화를 걸어 가짜 납치극의 정체가 탄로나는 일도 없었을 것이다.
인공지능 기술 자체의 발전 역시 이런 식의 공격을 보다 날카롭고 실제적으로 만들어준다. “챗GPT라는 도구를 활용한다면 공격자들은 피해자와 관련된 방대한 분량의 데이터를 분석해 패턴을 만들어낼 수 있고, 그렇게 된다면 음성이나 영상 정보 외에 다른 정보들도 활용할 수 있게 됩니다. 피해자와 똑같은 소리와 모습만 만들어내는 게 아니라, 그걸 보다 입체적인 상황 안에서 활용할 수 있게 된다는 것이죠. 피해자나 피해자의 가족이 속을 수밖에 없는 겁니다.”
게다가 음성을 텍스트로 변환시켜 주는 자동화 소프트웨어와 챗GPT를 결합해서 사용하면 어떻게 될까? 이론 상 피해자의 목소리를 실시간으로 흉내 낼 수 있게 되며, 따라서 피해자의 목소리로 대화를 진행할 수도 있게 된다. 이러한 실험은 이미 여러 연구자들이 진행한 바 있으며, 적잖은 성공을 거둔 경우들도 적지 않다. “이런 기술을 피해자에게만 적용할까요? 범인이 영어를 잘 못하는 사람이라면 어떨까요? 챗GPT나 각종 인공지능 기술 덕에 갑자기 영어로 협박하고 협상하는 게 가능해집니다. 어느 나라의 사람이건 가상의 납치를 할 수 있다는 뜻입니다.” 깁슨의 지적이다.
가상의 납치, 어떻게 방어해야 하는가?
사이버 범죄자들은 기존의 사이버 협박 공격보다 인공지능을 활용한 ‘가상의 납치’를 선호하기 시작했다고 깁슨은 말한다. "그리고 거기에는 다 이유가 있습니다. 기존의 사이버 공격이나 사이버 사기 및 협박 사건은 IT 기술과 생태계라는 원 안에서 이뤄졌습니다. 보안 장치나 기술들도 다 그 원 안에서만 존재했죠. 공격자들도요. 그리고 그 원 밖에는 인간의 세상이 있고요. 그런데 이 가상의 납치라는 범죄 유형이 나타나면서 갑자기 사이버 공격이 원 밖으로 나와 인간 세상을 직접 공격하기 시작했습니다. 우리에게는 아직 이런 공격에 대한 방어 기술이 없습니다. 원 안의 문제 따로, 원 밖의 문제 따로 해결하는 게 우리의 한계였지요.”
깁슨의 말대로 아직 우리에게는 기술적으로 가상의 납치극에 대항할 만한 능력이 없다. “모르는 번호로 걸려온 전화를 받지 않는 게 지금으로서는 가장 현실적인 방어법이 아닐까 합니다. 아니면 아무도 모르게 외국어를 익혀 수상한 전화를 받으면 곧바로 그 언어로 대화를 시도한다든지 하는 방법도 있을 수 있습니다. 제2 외국어를 활용한다면 인공지능 알고리즘을 혼란스럽게 할 수 있습니다.”
글 : 네이트 넬슨(Nate Nelson), IT 칼럼니스트
[국제부 문정후 기자(globoan@boannews.com)]
[보안뉴스 문정후 기자] 당신의 사랑하는 자녀가 울부짖으며 도와달라고 전화를 했다면, 침착하게 대응할 확률은 얼마나 될까? 아니, 침착한 대응을 넘어 의심 가득한 말투로 조롱하거나 아예 전화를 끊어버리고도 아무렇지 않을 확률은 얼마나 될까? 보안 업체 트렌드마이크로(Trend Micro)의 연구원 두 명이 올해 열릴 블랙햇유럽(Black Hat Europe)에서 ‘가상의 납치’라는 주제로 발표를 진행하며 이 질문을 다룰 예정이라고 해 관심을 끌고 있다.
[이미지 = gettyimagesbank]
가상의 납치라는 개념은 새로운 것이 전혀 아니다. 이미 공격자들과 보안 전문가들 사이에서는 잘 알려져 있다. 사이버 공격을 통해 시스템이나 네트워크를 침해하고, 소셜미디어나 다크웹에서 첩보를 수집하고, 음성을 복제할 수 있는 인공지능 기반 소프트웨어를 활용한다면 가상의 납치 혹은 가상의 유괴극이 얼마든지 가능하다는 건 잘 알려져 있기까지 하다. 아무리 사랑하는 이의 목소리라 하더라도 정교한 인공지능으로 얼마든지 재현할 수 있고, 이를 귀로 구분하는 건 대단히 어렵다. 공격자들이 실제로 인공지능의 이러한 기능에 주목하는 이유다.
“다크웹 해킹 포럼에 가보면 가상의 납치를 진지하게 논하는 사람들을 많이 찾을 수 있습니다. 공격자들은 가상으로 납치하는 것의 장점과 특징들을 계속해서 이야기하고 있으며, 이런 주제의 게시글은 어느 해킹 포럼에서나 꾸준히 올라옵니다.” 트렌드마이크로의 수석 위협 방어 아키텍트인 크레이그 깁슨(Craig Gibson)의 설명이다. “여기서 꾸준하다는 건 언제 어디에서나 접속해도 최소 150건의 새 글을 볼 수 있다는 겁니다.”
가상의 납치, 어떤 식으로 벌어지는가?
진짜 납치와 마찬가지로 가상의 납치 역시 납치 대상자를 물색하는 것부터 시작한다. 당연하지만 납치될 대상자와 함께 협상의 대상자까지도 같이 고려해야 한다. 즉 아무런 가족이나 친지도 없는 사람을 납치해봐야 큰 소득이 없을 수 있으니 가족이 있는 사람 중 협상에 쉽게 응할 만한 사람을 찾는 게 중요하다고 깁슨은 짚는다.
“하지만 범죄자들이라고 해서 납치할 대상자를 24시간 사시사철 마음 속에 두고 있지는 않습니다. 범죄는 저지르고 싶은데 대상자가 없을 수 있습니다. 그럴 때 그들은 소셜미디어나 다크웹에서 유통되는 개인정보를 탐색합니다. 그러면서 눈에 띄는 사람을 찾는 것이죠. 이 단계에서도 소프트웨어의 강력함을 활용하는 게 가능합니다. 예를 들어 광고 분석용 소프트웨어를 사용해 데이터들을 분석하면 공격자가 원하는 조건에 맞춰 가장 바람직한 표적이 될 만한 사람을 간편하게 찾아낼 수 있습니다. 이런 말들은 이미 다크웹에서 충분이 오가는 중입니다.”
‘누구를 공격할 것인가’를 충분히 해결했다면 다음으로는 ‘언제 공격할 것인가’를 정해야 한다. 소셜미디어의 세부적인 정보를 통해 이에 대한 답을 찾아내는 게 가능하다. 얼마 전 실제로 가상 유괴극에 당했던 제니퍼 드스테파노(Jennifer DeStefano)의 경우에도 소셜미디어가 공격자들에게 많은 힌트를 제공한 것으로 보인다고 증언한 바 있다. “지난 4월의 어느 오후 저에게 전화가 걸려왔습니다. 모르는 번호였어요. 받았더니 큰 딸이 울면서 “엄마!”하고 부르더라고요. “다 망쳤어요!”라면서요.
당시 드스테파노의 큰 딸은 북부 지역에서 스키 경주를 앞두고 한창 훈련을 받고 있었다. 그래서 드스테파노는 딸이 부상을 입었을 것이라고 생각했다. 그런데 갑자기 다른 목소리가 전화기에서 흘러나왔다. “당신 잘 들어. 당신 딸은 우리가 데리고 있어. 경찰이나 다른 어떤 사람한테 이 사실을 알리면 온갖 마약을 딸 몸에 쑤셔 넣을 거야. 그런 다음 내가 마음대로 데리고 놀다가 멕시코 아무데나 떨어트려 놓겠어. 그럼 당신은 딸을 영원히 못 보겠지.” 그러면서 이 자는 100만 달러를 현금으로 요구했다.
나중에 밝혀진 사실이지만 당시 범인들이 사용했던 큰 딸의 목소리는 인공지능으로 만들어 녹음해 둔 것이었다. 드스테파노는 기계에서 나온 것이라고는 상상도 하지 못했다. 너무나 진짜와 똑같았기 때문이다. 인공지능의 목소리가 얼마나 실감났던지 수시간 뒤 아들이 자기 누나와 통화 연결에 성공해서 엄마인 드스테파노에게 바꿔줬을 때, 그래서 큰 딸의 진짜 목소리를 수화기로 들었을 때조차 믿을 수 없었다고 한다. “아이의 도와달라는 목소리가 계속 귀에서 맴돌아서 진짜 딸의 목소리를 듣고도 그게 딸이라는 걸 믿을 수 없었습니다.”
납치범들의 실력은 계속 좋아질 것
드스테파노의 집안을 상대로 가짜 납치극을 벌인 범인들은 소셜미디어를 통해 집안 살림이 넉넉하고 딸이 집에서 언제 떨어져 있는지를 상세히 파악한 것으로 보인다. 그래서 표적으로 설정한 뒤 딸에게 전화를 걸어 통화를 해가며 목소리 샘플을 수집했을 것으로 추정된다. 아니면 인터넷 어딘가에서 목소리를 확보했을 수도 있다. 그렇게 해서 이번 공격은 거의 성공할 뻔 했으나 아슬아슬하게 실패했다.
공격이 실패로 끝났다고 해서 안심할 수 있는 건 아니다. 공격자들은 계속해서 발전하고 있기 때문이다. 예를 들어 심스와핑 공격을 드스테파노 가상 납치 사건의 범인들이 혼합했다면 어떻게 됐을까? 공격자들은 딸의 핸드폰으로 들어오는 통화 요청이나 문자 메시지를 중간에서 가로챔으로써 가상 납치극을 보다 현실감 있게 뒤바꿀 수 있었을 것이다. 그러므로 아들이 딸에게 전화를 걸어 가짜 납치극의 정체가 탄로나는 일도 없었을 것이다.
인공지능 기술 자체의 발전 역시 이런 식의 공격을 보다 날카롭고 실제적으로 만들어준다. “챗GPT라는 도구를 활용한다면 공격자들은 피해자와 관련된 방대한 분량의 데이터를 분석해 패턴을 만들어낼 수 있고, 그렇게 된다면 음성이나 영상 정보 외에 다른 정보들도 활용할 수 있게 됩니다. 피해자와 똑같은 소리와 모습만 만들어내는 게 아니라, 그걸 보다 입체적인 상황 안에서 활용할 수 있게 된다는 것이죠. 피해자나 피해자의 가족이 속을 수밖에 없는 겁니다.”
게다가 음성을 텍스트로 변환시켜 주는 자동화 소프트웨어와 챗GPT를 결합해서 사용하면 어떻게 될까? 이론 상 피해자의 목소리를 실시간으로 흉내 낼 수 있게 되며, 따라서 피해자의 목소리로 대화를 진행할 수도 있게 된다. 이러한 실험은 이미 여러 연구자들이 진행한 바 있으며, 적잖은 성공을 거둔 경우들도 적지 않다. “이런 기술을 피해자에게만 적용할까요? 범인이 영어를 잘 못하는 사람이라면 어떨까요? 챗GPT나 각종 인공지능 기술 덕에 갑자기 영어로 협박하고 협상하는 게 가능해집니다. 어느 나라의 사람이건 가상의 납치를 할 수 있다는 뜻입니다.” 깁슨의 지적이다.
가상의 납치, 어떻게 방어해야 하는가?
사이버 범죄자들은 기존의 사이버 협박 공격보다 인공지능을 활용한 ‘가상의 납치’를 선호하기 시작했다고 깁슨은 말한다. "그리고 거기에는 다 이유가 있습니다. 기존의 사이버 공격이나 사이버 사기 및 협박 사건은 IT 기술과 생태계라는 원 안에서 이뤄졌습니다. 보안 장치나 기술들도 다 그 원 안에서만 존재했죠. 공격자들도요. 그리고 그 원 밖에는 인간의 세상이 있고요. 그런데 이 가상의 납치라는 범죄 유형이 나타나면서 갑자기 사이버 공격이 원 밖으로 나와 인간 세상을 직접 공격하기 시작했습니다. 우리에게는 아직 이런 공격에 대한 방어 기술이 없습니다. 원 안의 문제 따로, 원 밖의 문제 따로 해결하는 게 우리의 한계였지요.”
깁슨의 말대로 아직 우리에게는 기술적으로 가상의 납치극에 대항할 만한 능력이 없다. “모르는 번호로 걸려온 전화를 받지 않는 게 지금으로서는 가장 현실적인 방어법이 아닐까 합니다. 아니면 아무도 모르게 외국어를 익혀 수상한 전화를 받으면 곧바로 그 언어로 대화를 시도한다든지 하는 방법도 있을 수 있습니다. 제2 외국어를 활용한다면 인공지능 알고리즘을 혼란스럽게 할 수 있습니다.”
글 : 네이트 넬슨(Nate Nelson), IT 칼럼니스트
[국제부 문정후 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-11-01] 
