.jpg)
‘2023 딥페이크 현황’ 보고서, 딥페이크 성착취물에 가장 취약한 국가로 ‘한국’ 지목
‘K-보안’에 걸맞은 딥페이크 탐지 및 제어기술 개발 필요
[보안뉴스= 배종찬 인사이트케이 연구소장] 인터넷 강국으로 평가받는 대한민국에 지금도 따라 다니는 낯 뜨거운 꼬리표가 있다. 작년 발표 기준으로 딥페이크 성(性) 착취물, 음란물에 무방비 상태인 국가라는 부끄러운 이름표다.
보안 서비스 업체 ‘시큐리티 히어로’는 지난해 공개한 ‘2023 딥페이크 현황’ 보고서에서 딥페이크 성착취물에 가장 취약한 국가로 한국을 지목했다. 지난해 7월부터 8월까지 상위 10개 딥페이크 포르노 웹사이트와 유튜브, 데일리모션 등에 있는 85개 딥페이크 채널을 분석한 결과, 딥페이크 성착취물에 등장한 인물 중 53%가 한국 국적임을 명시한 것이다.
2위인 미국(20%), 3위 일본(10%)과도 격차가 커 보인다. 한국의 딥페이크 피해자가 대부분 가수나 배우 등 연예인이라는 점도 특이하다. 딥페이크 음란물 제작에 가장 많이 사용된 세계 상위 10명 중 1~7위, 9위가 다름 아닌 한국 가수라니....
이 보고서는 “한국은 딥페이크 음란물의 가장 큰 표적이 되는 나라”라고 지목하면서 “딥페이크는 엔터테인먼트·정치·허위 조작 정보 등 다양한 목적으로 이용되지만, 어떤 국가에서는 특히 노골적인 성격의 딥페이크 제작물에 더 취약하다”고 꼬집었다.
그렇다면 빅데이터는 한국에서 딥페이크가 만연한 상황에 대해 어떤 어떤 반응을 보일까. 빅데이터 심층 분석 도구인 썸트렌드(SomeTrend)로 올해 1월 3일부터 2월 2일까지 딥페이크에 대한 빅데이터 감성 연관어를 도출해 보았다. 딥페이크에 대한 빅데이터 감성 연관어는 ‘범죄’, ‘피해’, ‘강화하다’, ‘혐의’, ‘불법’, ‘악용하다’, ‘최신’, ‘신상’, ‘허위’, ‘가짜’, ‘안전’, ‘진심’, ‘중징계’, ‘과실’, ‘논란’, ‘조치취하다’, ‘폭행’, ‘가능하다’, ‘기여하다’, ‘최선다하다’, ‘적극적’, ‘실망’, ‘염려’, ‘무료’, ‘명예훼손’, ‘의심’, ‘도움’, ‘강화하다’, ‘정교하다’, ‘불안’ 등으로 나타났다(아래 그림).
빅데이터 감성 연관어만 놓고 분석하면 딥페이크에 대한 인식은 매우 부정적이다. 그럼에도 불구하고 ‘악용하다’, ‘명예훼손’과 같은 연관어가 등장할 정도로 딥페이크 피해가 좀처럼 차단되지 않는 것으로 우려된다.
미국의 월스트리트저널이 소개한 ‘2023년 딥페이크 실태 보고서’를 살펴봐도 그 폐해는 좀처럼 수그러들지 않고 있다. AI 경쟁력을 강조하는 한국에서 기술적으로 딥페이크 영상이 잘 걸러지지 않는다는 점도 오명이 아닐 수 없다.
그래서인지 새해 들어 정부는 딥페이크 차단에 박차를 가하는 모양새다. 경찰이 딥페이크 및 딥보이스·가짜뉴스 탐지를 위한 기술 개발을 위해 연구비 91억원을 지원하는 사업계획을 공표한 것도 같은 맥락이다.
현재 경찰의 수사 방식은 관련 콘텐츠에 일일이 별도로 대응해야 하므로 인력 구조상 원활한 수사를 기대하기 어려운 상황이다. 이 때문에 신종 범죄에 대응할 수 있는 기술적인 시스템이 필요하다는 지적이 지속적으로 제기돼왔다.
정부가 이런 딥페이크·가짜뉴스 판별 시스템 연구에 나선 배경은 관련 사건이 눈에 띄게 급증하고 있기 때문이다. 경찰은 신종 범죄에 대응하고자 복합정보처리 형태 탐지 알고리즘을 개발해 딥페이크 영상을 탐지하는 방안도 강구하고 있다.
또한 음성 주파수·시간분석 등을 활용해 딥보이스에 대한 정교한 분석·탐지에 나설 것이라는 입장도 밝힌 바 있다. 가짜뉴스의 경우, 생성형 AI로 만들어진 기사 여부를 판별하고 에코 체임버(유사한 정보나 뉴스가 증폭돼 나타나는 현상)을 분석하고 원천 게시물을 추적할 방침이라는 점도 강조하고 있다.
중국의 새로운 AI로 요즘 주목받고 있는 딥시크의 출현으로 미중 사이 AI 경쟁은 더욱 가속화될 것으로 관측된다. 아울러 딥페이크에 대한 유혹 또한 더욱 확대될 공산도 커 보인다.
진정한 AI 강자의 자리에 우뚝 서려면 딥페이크를 걸러내고 막아낼 수 있는 기술적 요건도 갖춰야 할 것으로 판단된다. 개인 및 국가 경쟁력으로 볼 때 정보가 유출되거나 유출된 신상 정보가 딥페이크나 가짜뉴스 등으로 악용되는 사례를 최소화할 수 있는 능력이야말로 ‘최강 AI’의 필요충분조건이 아닌가 하는 생각도 든다. 정부가 딥페이크나 딥보이스를 정밀하게 탐지하는 기술 개발에도 공을 들인다고 하니 자체에 ‘K-보안’에 걸맞은 딥페이크 탐지 및 제어기술이 등장하기를 기대해 본다.
[글_ 배종찬 인사이트케이 연구소장]
저자 소개_ 연세대 정치외교학과를 졸업하고 서울대 국제대학원에서 석사 학위를 받았다. 고려대 행정학과 박사과정을 수료했다. 이 외에 미국, 일본, 홍콩 등에서 연구 경험을 가지고 있다. 주된 관심은 정치시사와 경제정책인데 특히 대통령 지지율과 국정 리더십, 글로벌 경제 분석 그리고 AI 인공지능 및 블록체인 보안 이슈다. 한국교육개발원·국가경영전략연구원·한길리서치에서 근무하고 리서치앤리서치 본부장을 거친 데이터 분석 전문가다. 현재 인사이트케이 연구소장을 맡아 심층 리서치뿐 아니라 빅데이터·유튜브까지 업무영역을 확대하고 있다.
‘K-보안’에 걸맞은 딥페이크 탐지 및 제어기술 개발 필요
[보안뉴스= 배종찬 인사이트케이 연구소장] 인터넷 강국으로 평가받는 대한민국에 지금도 따라 다니는 낯 뜨거운 꼬리표가 있다. 작년 발표 기준으로 딥페이크 성(性) 착취물, 음란물에 무방비 상태인 국가라는 부끄러운 이름표다.
보안 서비스 업체 ‘시큐리티 히어로’는 지난해 공개한 ‘2023 딥페이크 현황’ 보고서에서 딥페이크 성착취물에 가장 취약한 국가로 한국을 지목했다. 지난해 7월부터 8월까지 상위 10개 딥페이크 포르노 웹사이트와 유튜브, 데일리모션 등에 있는 85개 딥페이크 채널을 분석한 결과, 딥페이크 성착취물에 등장한 인물 중 53%가 한국 국적임을 명시한 것이다.
2위인 미국(20%), 3위 일본(10%)과도 격차가 커 보인다. 한국의 딥페이크 피해자가 대부분 가수나 배우 등 연예인이라는 점도 특이하다. 딥페이크 음란물 제작에 가장 많이 사용된 세계 상위 10명 중 1~7위, 9위가 다름 아닌 한국 가수라니....
이 보고서는 “한국은 딥페이크 음란물의 가장 큰 표적이 되는 나라”라고 지목하면서 “딥페이크는 엔터테인먼트·정치·허위 조작 정보 등 다양한 목적으로 이용되지만, 어떤 국가에서는 특히 노골적인 성격의 딥페이크 제작물에 더 취약하다”고 꼬집었다.
그렇다면 빅데이터는 한국에서 딥페이크가 만연한 상황에 대해 어떤 어떤 반응을 보일까. 빅데이터 심층 분석 도구인 썸트렌드(SomeTrend)로 올해 1월 3일부터 2월 2일까지 딥페이크에 대한 빅데이터 감성 연관어를 도출해 보았다. 딥페이크에 대한 빅데이터 감성 연관어는 ‘범죄’, ‘피해’, ‘강화하다’, ‘혐의’, ‘불법’, ‘악용하다’, ‘최신’, ‘신상’, ‘허위’, ‘가짜’, ‘안전’, ‘진심’, ‘중징계’, ‘과실’, ‘논란’, ‘조치취하다’, ‘폭행’, ‘가능하다’, ‘기여하다’, ‘최선다하다’, ‘적극적’, ‘실망’, ‘염려’, ‘무료’, ‘명예훼손’, ‘의심’, ‘도움’, ‘강화하다’, ‘정교하다’, ‘불안’ 등으로 나타났다(아래 그림).
▲‘딥페이크’에 대해 도출된 빅데이터 연관어[자료=인사이트케이]
빅데이터 감성 연관어만 놓고 분석하면 딥페이크에 대한 인식은 매우 부정적이다. 그럼에도 불구하고 ‘악용하다’, ‘명예훼손’과 같은 연관어가 등장할 정도로 딥페이크 피해가 좀처럼 차단되지 않는 것으로 우려된다.
미국의 월스트리트저널이 소개한 ‘2023년 딥페이크 실태 보고서’를 살펴봐도 그 폐해는 좀처럼 수그러들지 않고 있다. AI 경쟁력을 강조하는 한국에서 기술적으로 딥페이크 영상이 잘 걸러지지 않는다는 점도 오명이 아닐 수 없다.
그래서인지 새해 들어 정부는 딥페이크 차단에 박차를 가하는 모양새다. 경찰이 딥페이크 및 딥보이스·가짜뉴스 탐지를 위한 기술 개발을 위해 연구비 91억원을 지원하는 사업계획을 공표한 것도 같은 맥락이다.
현재 경찰의 수사 방식은 관련 콘텐츠에 일일이 별도로 대응해야 하므로 인력 구조상 원활한 수사를 기대하기 어려운 상황이다. 이 때문에 신종 범죄에 대응할 수 있는 기술적인 시스템이 필요하다는 지적이 지속적으로 제기돼왔다.
정부가 이런 딥페이크·가짜뉴스 판별 시스템 연구에 나선 배경은 관련 사건이 눈에 띄게 급증하고 있기 때문이다. 경찰은 신종 범죄에 대응하고자 복합정보처리 형태 탐지 알고리즘을 개발해 딥페이크 영상을 탐지하는 방안도 강구하고 있다.
또한 음성 주파수·시간분석 등을 활용해 딥보이스에 대한 정교한 분석·탐지에 나설 것이라는 입장도 밝힌 바 있다. 가짜뉴스의 경우, 생성형 AI로 만들어진 기사 여부를 판별하고 에코 체임버(유사한 정보나 뉴스가 증폭돼 나타나는 현상)을 분석하고 원천 게시물을 추적할 방침이라는 점도 강조하고 있다.
▲배종찬 연구소장[사진=인사이트케이]
진정한 AI 강자의 자리에 우뚝 서려면 딥페이크를 걸러내고 막아낼 수 있는 기술적 요건도 갖춰야 할 것으로 판단된다. 개인 및 국가 경쟁력으로 볼 때 정보가 유출되거나 유출된 신상 정보가 딥페이크나 가짜뉴스 등으로 악용되는 사례를 최소화할 수 있는 능력이야말로 ‘최강 AI’의 필요충분조건이 아닌가 하는 생각도 든다. 정부가 딥페이크나 딥보이스를 정밀하게 탐지하는 기술 개발에도 공을 들인다고 하니 자체에 ‘K-보안’에 걸맞은 딥페이크 탐지 및 제어기술이 등장하기를 기대해 본다.
[글_ 배종찬 인사이트케이 연구소장]
저자 소개_ 연세대 정치외교학과를 졸업하고 서울대 국제대학원에서 석사 학위를 받았다. 고려대 행정학과 박사과정을 수료했다. 이 외에 미국, 일본, 홍콩 등에서 연구 경험을 가지고 있다. 주된 관심은 정치시사와 경제정책인데 특히 대통령 지지율과 국정 리더십, 글로벌 경제 분석 그리고 AI 인공지능 및 블록체인 보안 이슈다. 한국교육개발원·국가경영전략연구원·한길리서치에서 근무하고 리서치앤리서치 본부장을 거친 데이터 분석 전문가다. 현재 인사이트케이 연구소장을 맡아 심층 리서치뿐 아니라 빅데이터·유튜브까지 업무영역을 확대하고 있다.
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
권준기자 기사보기
[2025-02-03] 
