상용화된 음성복제 AI 서비스, 목소리 샘플로 특정인의 어투·감정표현까지 가능해
‘여보세요’ 한 마디만으로 목소리 복제 가능...딥보이스 피싱 피해 확대
예방법은 무반응 전화에는 무응답, 당사자들 간만 소통 가능한 ‘암호 설정’ 등
신기술 범죄 예방 기술 개발 및 플랫폼 차원의 대응 필요성 대두
[보안뉴스 이소미 기자] AI 기술의 발달로 사람이 표현하고 학습할 수 있는 것을 다 할 수 있다는 인공지능, 이러한 신기술 발달로 최근 사회적으로도 큰 충격을 안겼던, 청소년이 가해자 비율 1위를 차지한 딥페이크 범죄 이슈가 여전히 지속되고 있습니다.
■ 방송 : 보안뉴스TV(bnTV) <보안家 핫이슈>
■ 진행 : 이소미 보안뉴스 기자
AI 복제기술...얼굴·목소리까지 도용해 보이스피싱 범죄 악용 소지
얼굴뿐만 아니라 목소리까지 도용해 보이스피싱 범죄에 악용될 우려가 있어 사회적 불안감을 야기시키고 있습니다. 경찰청은 내 가족이나 지인의 목소리와 말투까지 그대로 흉내내 금전을 갈취하는 ‘신종 딥보이스 피싱’에 대해 주의를 당부했습니다.
‘딥보이스(Deep Voice)’는 딥러닝(Deep Learning)과 목소리(Voice)의 합성어로 AI 기반 음성 합성 기술을 말하는데요. 최근에는 유튜브에서 AI 커버 영상들을 쉽게 접할 수가 있는데, 예를 들어 블랙핑크 멤버의 목소리로 뉴진스의 하입보이를 부르는 식입니다.
이러한 기술의 발달로 적은 양의 목소리 샘플만 있어도 텍스트 입력을 통해 간단하게 고품질 음성으로 합성이 가능해졌습니다.
30초 분량 목소리 샘플로 다양한 국가 언어 구동은 물론 특정인 말투까지 재현 가능
현재 해외에서 상용화된 음성 복제 AI 서비스 ‘일레븐랩스(Eleven Labs)’의 경우, 텍스트-음성변환 서비스로 한국어를 포함한 다른 국가 언어로 구동 가능하며, 특정인의 말투까지 국경 없이 재현 가능합니다.
30초에서 1분가량의 특정인 목소리를 입력하면 톤과 말투까지 분석·복제할 수 있는데요. 특히 감정 표현까지 가능하다는 점은 국민을 상대로 해외에서의 딥보이스 피싱 공격까지 수월해진다는 것을 의미합니다. 이러한 딥보이스 기술 범죄는 불법 성적 콘텐츠 제작뿐 아니라 보이스 피싱에도 악용되고 있는 실정인데요.
최근 SNS의 발달로 온라인상에 올라온 영상 속 특정인의 목소리는 물론 전화상에서 통화된 내용 몇 마디만으로도 복제가 가능한 것으로 알려졌습니다.
해외 실사례, 현지 은행도 딥보이스 피싱에 당해
실제 해외에서 발생했던 사례로 3년 전인 2021년 아랍에미리트의 한 은행에서 기존 거래 고객이던 대기업 임원의 전화를 받고 420억 원을 송금했지만, 이는 사실 해당 기업 임원을 사칭한 딥보이스 피싱이었습니다.
또 다른 사례로 캐나다에서 아들의 목소리로 걸려온 전화에 한화 2천만 원에 달하는 현금을 비트코인으로 전환해 의문의 변호사에게 송금한 사건도 있었는데요. 피해자는 통화 내용이 의심스러웠지만, 아들의 목소리가 분명해 송금하게 됐다고 피해자는 설명했습니다.
통화 중 ‘여보세요’ 한 마디도 딥보이스 피싱에 악용될 수 있어
그렇다면 공격자들은 온라인상에서 탈취할 수 없는 특정인의 목소리는 어떻게 탈취할까요? 국내 한 대학생 커뮤니티에 한 사연이 올라왔습니다. 모르는 번호로 걸려온 전화 속 상대방이 아무런 말도 하지 않았다는 내용이었는데요. 이는 딥보이스 피싱에 악용할 타깃 대상의 음성을 빼내기 위한 수단이었다고 보도된 바 있습니다. 따라서 무심코 받은 전화에 대답한 ‘여보세요’라는 한 마디가 AI 딥보이스 피싱에 악용될 수 있다는 점 꼭 기억하셔야겠습니다.
또한 해당 글을 쓴 사연자나 혹은 그의 가족이나 지인 중 누군가의 개인정보가 공격자의 수중에 들어갔다는 건데요. 이미 보이스피싱 범죄 수법은 개인 타깃형 시나리오로 고도화된 지 오래입니다. 탈취한 개인정보를 토대로 시나리오를 짜는데 여기에는 가족·지인 연락처를 토대로 제2·3의 피해로 번질 수 있다는 것을 의미합니다.
따라서 딥보이스 피싱에 무심코 걸려들지 않으려면 모르는 번호로 걸려온 전화는 먼저 의심하고, 만약 상대방이 아무 말도 하지 않는다면 대응하지 않는 것이 안전하다는 게 전문가들의 의견입니다.
가족·지인 등의 갑작스러운 금전 요구 시 ‘재확인’ 또는 당사자들간 ‘암호 설정’ 등 안전장치 마련
이처럼 고도화된 딥보이스 피싱에 피해를 입지 않으려면 사용자들의 철저한 주의가 필요합니다. 갑작스럽게 지인이나 가족이 금전 등을 요구할 때는 의심하고 반드시 상대방이 맞는지 확인하는 절차를 거쳐야 합니다. 예를 들면, 서로 신뢰되는 사람들 간 일종의 ‘암호’를 만들거나 당사자들끼리만 알 수 있는 질문 등으로 상대방의 진위 여부를 반드시 확인해야 합니다.
또한 개인 SNS 관리에도 주의를 기울여야 하는데요. SNS에 음성이 포함된 게시물을 올릴 때도 주의하셔야겠습니다.
신기술 범죄 예방 기술 개발 및 플랫폼 차원의 대응 필요
한편 보안업계에서는 AI 등 신기술 범죄 예방을 위한 신기술 연구 및 대응 방안 마련이 중요하고, 범죄가 발생하는 플랫폼 차원에서의 대응 노력도 필요하다는 목소리가 나오고 있습니다.
정부도 ‘보이스피싱·불법사금융 척결 합동 태스크포스’에서 ‘딥보이스 피해방지 정책’을 논의하는 등 대응에 나선 상태입니다.
[이소미 기자(boan4@boannews.com)]
‘여보세요’ 한 마디만으로 목소리 복제 가능...딥보이스 피싱 피해 확대
예방법은 무반응 전화에는 무응답, 당사자들 간만 소통 가능한 ‘암호 설정’ 등
신기술 범죄 예방 기술 개발 및 플랫폼 차원의 대응 필요성 대두
[보안뉴스 이소미 기자] AI 기술의 발달로 사람이 표현하고 학습할 수 있는 것을 다 할 수 있다는 인공지능, 이러한 신기술 발달로 최근 사회적으로도 큰 충격을 안겼던, 청소년이 가해자 비율 1위를 차지한 딥페이크 범죄 이슈가 여전히 지속되고 있습니다.
■ 방송 : 보안뉴스TV(bnTV) <보안家 핫이슈>
■ 진행 : 이소미 보안뉴스 기자
▲보안家 핫이슈 ‘내 목소리 빼앗는 ‘딥보이스피싱’ 주의보’ 시작 화면[이미지=보안뉴스]
AI 복제기술...얼굴·목소리까지 도용해 보이스피싱 범죄 악용 소지
얼굴뿐만 아니라 목소리까지 도용해 보이스피싱 범죄에 악용될 우려가 있어 사회적 불안감을 야기시키고 있습니다. 경찰청은 내 가족이나 지인의 목소리와 말투까지 그대로 흉내내 금전을 갈취하는 ‘신종 딥보이스 피싱’에 대해 주의를 당부했습니다.
‘딥보이스(Deep Voice)’는 딥러닝(Deep Learning)과 목소리(Voice)의 합성어로 AI 기반 음성 합성 기술을 말하는데요. 최근에는 유튜브에서 AI 커버 영상들을 쉽게 접할 수가 있는데, 예를 들어 블랙핑크 멤버의 목소리로 뉴진스의 하입보이를 부르는 식입니다.
이러한 기술의 발달로 적은 양의 목소리 샘플만 있어도 텍스트 입력을 통해 간단하게 고품질 음성으로 합성이 가능해졌습니다.
30초 분량 목소리 샘플로 다양한 국가 언어 구동은 물론 특정인 말투까지 재현 가능
현재 해외에서 상용화된 음성 복제 AI 서비스 ‘일레븐랩스(Eleven Labs)’의 경우, 텍스트-음성변환 서비스로 한국어를 포함한 다른 국가 언어로 구동 가능하며, 특정인의 말투까지 국경 없이 재현 가능합니다.
30초에서 1분가량의 특정인 목소리를 입력하면 톤과 말투까지 분석·복제할 수 있는데요. 특히 감정 표현까지 가능하다는 점은 국민을 상대로 해외에서의 딥보이스 피싱 공격까지 수월해진다는 것을 의미합니다. 이러한 딥보이스 기술 범죄는 불법 성적 콘텐츠 제작뿐 아니라 보이스 피싱에도 악용되고 있는 실정인데요.
최근 SNS의 발달로 온라인상에 올라온 영상 속 특정인의 목소리는 물론 전화상에서 통화된 내용 몇 마디만으로도 복제가 가능한 것으로 알려졌습니다.
해외 실사례, 현지 은행도 딥보이스 피싱에 당해
실제 해외에서 발생했던 사례로 3년 전인 2021년 아랍에미리트의 한 은행에서 기존 거래 고객이던 대기업 임원의 전화를 받고 420억 원을 송금했지만, 이는 사실 해당 기업 임원을 사칭한 딥보이스 피싱이었습니다.
또 다른 사례로 캐나다에서 아들의 목소리로 걸려온 전화에 한화 2천만 원에 달하는 현금을 비트코인으로 전환해 의문의 변호사에게 송금한 사건도 있었는데요. 피해자는 통화 내용이 의심스러웠지만, 아들의 목소리가 분명해 송금하게 됐다고 피해자는 설명했습니다.
통화 중 ‘여보세요’ 한 마디도 딥보이스 피싱에 악용될 수 있어
그렇다면 공격자들은 온라인상에서 탈취할 수 없는 특정인의 목소리는 어떻게 탈취할까요? 국내 한 대학생 커뮤니티에 한 사연이 올라왔습니다. 모르는 번호로 걸려온 전화 속 상대방이 아무런 말도 하지 않았다는 내용이었는데요. 이는 딥보이스 피싱에 악용할 타깃 대상의 음성을 빼내기 위한 수단이었다고 보도된 바 있습니다. 따라서 무심코 받은 전화에 대답한 ‘여보세요’라는 한 마디가 AI 딥보이스 피싱에 악용될 수 있다는 점 꼭 기억하셔야겠습니다.
또한 해당 글을 쓴 사연자나 혹은 그의 가족이나 지인 중 누군가의 개인정보가 공격자의 수중에 들어갔다는 건데요. 이미 보이스피싱 범죄 수법은 개인 타깃형 시나리오로 고도화된 지 오래입니다. 탈취한 개인정보를 토대로 시나리오를 짜는데 여기에는 가족·지인 연락처를 토대로 제2·3의 피해로 번질 수 있다는 것을 의미합니다.
따라서 딥보이스 피싱에 무심코 걸려들지 않으려면 모르는 번호로 걸려온 전화는 먼저 의심하고, 만약 상대방이 아무 말도 하지 않는다면 대응하지 않는 것이 안전하다는 게 전문가들의 의견입니다.
가족·지인 등의 갑작스러운 금전 요구 시 ‘재확인’ 또는 당사자들간 ‘암호 설정’ 등 안전장치 마련
이처럼 고도화된 딥보이스 피싱에 피해를 입지 않으려면 사용자들의 철저한 주의가 필요합니다. 갑작스럽게 지인이나 가족이 금전 등을 요구할 때는 의심하고 반드시 상대방이 맞는지 확인하는 절차를 거쳐야 합니다. 예를 들면, 서로 신뢰되는 사람들 간 일종의 ‘암호’를 만들거나 당사자들끼리만 알 수 있는 질문 등으로 상대방의 진위 여부를 반드시 확인해야 합니다.
또한 개인 SNS 관리에도 주의를 기울여야 하는데요. SNS에 음성이 포함된 게시물을 올릴 때도 주의하셔야겠습니다.
신기술 범죄 예방 기술 개발 및 플랫폼 차원의 대응 필요
한편 보안업계에서는 AI 등 신기술 범죄 예방을 위한 신기술 연구 및 대응 방안 마련이 중요하고, 범죄가 발생하는 플랫폼 차원에서의 대응 노력도 필요하다는 목소리가 나오고 있습니다.
정부도 ‘보이스피싱·불법사금융 척결 합동 태스크포스’에서 ‘딥보이스 피해방지 정책’을 논의하는 등 대응에 나선 상태입니다.
[이소미 기자(boan4@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
이소미기자 기사보기
[2024-10-31] 
