.jpg)
AI에 기반한 가짜 영상물 딥페이크, 투자사기와 가짜뉴스에 이어 음란물로 확산
범죄 처벌 강화와 범죄자 추적, 가짜 영상 식별 등의 기술적 문제 해결 시급
음란물 영상 딥페이크 제작 의뢰하는 블랙마켓도 존재...제작자 및 의뢰자도 처벌해야
[보안뉴스 김경애 기자] AI에 기반한 가짜 영상물인 딥페이크가 음란물로 확산되며 사회적 파장이 커지고 있다. 연예인은 물론 일반인까지 피해가 커지고 있어 대책이 시급하다는 지적이다.
초창기 딥페이크는 투자 사기로 기승을 부렸다. 배우, 가수, 개그맨 등 유명 연예인이나 셀럽의 이미지를 AI를 활용해 가짜 영상을 제작·유포하며 투자 사기에 악용했다.
이후 유튜브에 가짜 뉴스가 무분별하게 제작·유포되며 파장을 일으켰고, 지금도 여러 가짜 뉴스가 쏟아지고 있다. 최근에는 미국 선거 시즌에 맞춰 바이든 대통령, 해리스 부통령, 트럼프 전 대통령의 딥페이크 영상과 가짜 뉴스가 쏟아지고 있다.
연예인과 셀럽 등 피해 확산
그런데 이러한 딥페이크가 음란물로 제작·유포되며, 디지털 성범죄로까지 확대되고 있다. 연예인은 물론 중고등학생, 일반인까지 피해를 보고 있기 때문이다. 자신이 좋아하는 연예인이나 지인의 사진을 음란물 영상으로 만들어 달라고 의뢰하고 텔레그램을 통해 유포하는 등 딥페이크에 대한 우려가 커지고 있다.
미국의 보안기업 ‘시큐리티 히어로’에 따르면 전 세계 딥페이크 영상물 중 53%가 한국인을 대상으로 한 것으로 가장 높은 수치를 기록했다. 특히 가수, 여배우 등 연예인이 상위 10위에 올라 피해가 큰 것으로 조사됐다.
딥페이크 피해를 본 여자 아이돌그룹 ‘트와이스’의 소속사는 강력대응에 나섰다. JYP엔터테인먼트는 “최근 JYP엔터테인먼트 소속 아티스트를 대상으로 한 딥페이크 영상 확산에 대해 심각하게 보고 있다”며 “불법 행위에 대해 관련 자료를 수집하고 있으며, 전문 법무법인과 함께 법적 대응을 진행 중”이라고 밝혔다.
딥페이크는 일반인도 예외가 아니다. 서울대학교 동문 여학생의 얼굴을 합성해 음란 영상물을 제작·유포한 서울대 출신 A씨가 징역형을 선고받았다. 서울중앙지법 형사14단독 김유량 부장판사는 지난 28일 성폭력처벌법상 허위영상물 등 혐의로 구속 기소된 범죄를 일으킨 A씨에게 징역 5년을 선고했다. 특히 익명성과 편의성을 악용해 수치심이나 부끄러움을 느끼지 못하고 스트레스 해소용으로 이를 도구화한 점에 대해 지적했다.
처벌 강화와 추적, 가짜 영상 식별 등 문제 해결 시급
이처럼 딥페이크 문제는 심각하다. 딥페이크 영상 제작·유포·의뢰 등의 범죄 처벌 강화와 범죄자 추적, 가짜 영상 식별 등 기술적 문제까지 해결이 시급한 상황이다.
이와 관련해 정부와 여당인 국민의힘은 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’를 열고 처벌 강화 방안을 추진하겠다고 밝혔다. 불법 영상물 등에 대해 현행 최대 5년 징역에서 7년으로 높여 처벌을 강화하겠다는 것.
이와 관련 누리랩 최원혁 대표는 “최근 AI 기술의 발달로 인해 딥페이크로 인한 이미지 및 동영상 제작 유포가 쉬워졌다”며 “하지만 딥페이크 기술 활용에 어려움이 있는 사람들의 경우 텔레그램을 통해 자신이 좋아하는 연예인 또는 지인의 음란물 영상 딥페이크 제작을 의뢰하는 블랙마켓도 존재하고 있어 제작 유포자에 대한 처벌도 필요하지만 제작 의뢰자에 대한 처벌도 함께 고려해야 한다”고 강조했다.
플레인비트 김진국 대표는 “딥페이크는 최근 AI를 이용하면 쉽게 만들 수 있지만 식별하기는 어려운 기술”이라며 “AI 기술이 발전하면서 식별은 더 어려워지고 있기 때문에 개별 사건에 대한 대응과 함께 사회적으로 해당 기술 악용이 범죄라는 인식이 확산되도록 노력하고 처벌 규정을 강화해야 한다”고 강조했다.
고려대학교 이상진 교수는 “딥페이크를 제작하는 소프트웨어는 딥페이크 영상임을 알 수 있게 워터마킹 삽입 의무화를 고려해야 한다”며 “대부분 공개 딥페이크 영상 제작 도구를 사용하기 때문에 총기 사용을 경찰서에 등록하는 것처럼, 딥페이크 영상 제작 도구는 생성된 영상물에 딥페이크임을 검증할 수 있는 기능을 의무화해야 한다”고 밝혔다. 이어 이 교수는 “워터마킹을 삽입하지 않은 딥페이크 영상은 철처하게 추적해 사용을 제한해야 한다”고 덧붙였다.
리니어리티 한승연 대표는 “앞으로는 딥페이크 음란물뿐만 아니라 피싱이나 사기 등 다양한 범죄에 AI 영상 기술이 활용되면서 여러 형태의 피해가 발생할 것으로 예상된다”면서, “외국에서 제작된 영상이 추적이 어려운 채널을 통해 유포된다면, 현재로서는 이를 효과적으로 차단할 방법이 쉽지 않다”고 밝혔다.
이어 한 대표는 “AI를 활용한 범죄가 지속되고 막기 어려울 가능성을 고려해 관련 법제도와 국제공조 체계를 마련하는 동시에 사회 구성원들이 이러한 유형의 공격에 대해 이해하고 대비할 수 있도록 해야 한다”고 말했다.
[김경애 기자(boan3@boannews.com)]
범죄 처벌 강화와 범죄자 추적, 가짜 영상 식별 등의 기술적 문제 해결 시급
음란물 영상 딥페이크 제작 의뢰하는 블랙마켓도 존재...제작자 및 의뢰자도 처벌해야
[보안뉴스 김경애 기자] AI에 기반한 가짜 영상물인 딥페이크가 음란물로 확산되며 사회적 파장이 커지고 있다. 연예인은 물론 일반인까지 피해가 커지고 있어 대책이 시급하다는 지적이다.
[이미지=gettyimagesbank]
초창기 딥페이크는 투자 사기로 기승을 부렸다. 배우, 가수, 개그맨 등 유명 연예인이나 셀럽의 이미지를 AI를 활용해 가짜 영상을 제작·유포하며 투자 사기에 악용했다.
이후 유튜브에 가짜 뉴스가 무분별하게 제작·유포되며 파장을 일으켰고, 지금도 여러 가짜 뉴스가 쏟아지고 있다. 최근에는 미국 선거 시즌에 맞춰 바이든 대통령, 해리스 부통령, 트럼프 전 대통령의 딥페이크 영상과 가짜 뉴스가 쏟아지고 있다.
연예인과 셀럽 등 피해 확산
그런데 이러한 딥페이크가 음란물로 제작·유포되며, 디지털 성범죄로까지 확대되고 있다. 연예인은 물론 중고등학생, 일반인까지 피해를 보고 있기 때문이다. 자신이 좋아하는 연예인이나 지인의 사진을 음란물 영상으로 만들어 달라고 의뢰하고 텔레그램을 통해 유포하는 등 딥페이크에 대한 우려가 커지고 있다.
미국의 보안기업 ‘시큐리티 히어로’에 따르면 전 세계 딥페이크 영상물 중 53%가 한국인을 대상으로 한 것으로 가장 높은 수치를 기록했다. 특히 가수, 여배우 등 연예인이 상위 10위에 올라 피해가 큰 것으로 조사됐다.
딥페이크 피해를 본 여자 아이돌그룹 ‘트와이스’의 소속사는 강력대응에 나섰다. JYP엔터테인먼트는 “최근 JYP엔터테인먼트 소속 아티스트를 대상으로 한 딥페이크 영상 확산에 대해 심각하게 보고 있다”며 “불법 행위에 대해 관련 자료를 수집하고 있으며, 전문 법무법인과 함께 법적 대응을 진행 중”이라고 밝혔다.
딥페이크는 일반인도 예외가 아니다. 서울대학교 동문 여학생의 얼굴을 합성해 음란 영상물을 제작·유포한 서울대 출신 A씨가 징역형을 선고받았다. 서울중앙지법 형사14단독 김유량 부장판사는 지난 28일 성폭력처벌법상 허위영상물 등 혐의로 구속 기소된 범죄를 일으킨 A씨에게 징역 5년을 선고했다. 특히 익명성과 편의성을 악용해 수치심이나 부끄러움을 느끼지 못하고 스트레스 해소용으로 이를 도구화한 점에 대해 지적했다.
처벌 강화와 추적, 가짜 영상 식별 등 문제 해결 시급
이처럼 딥페이크 문제는 심각하다. 딥페이크 영상 제작·유포·의뢰 등의 범죄 처벌 강화와 범죄자 추적, 가짜 영상 식별 등 기술적 문제까지 해결이 시급한 상황이다.
이와 관련해 정부와 여당인 국민의힘은 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’를 열고 처벌 강화 방안을 추진하겠다고 밝혔다. 불법 영상물 등에 대해 현행 최대 5년 징역에서 7년으로 높여 처벌을 강화하겠다는 것.
이와 관련 누리랩 최원혁 대표는 “최근 AI 기술의 발달로 인해 딥페이크로 인한 이미지 및 동영상 제작 유포가 쉬워졌다”며 “하지만 딥페이크 기술 활용에 어려움이 있는 사람들의 경우 텔레그램을 통해 자신이 좋아하는 연예인 또는 지인의 음란물 영상 딥페이크 제작을 의뢰하는 블랙마켓도 존재하고 있어 제작 유포자에 대한 처벌도 필요하지만 제작 의뢰자에 대한 처벌도 함께 고려해야 한다”고 강조했다.
플레인비트 김진국 대표는 “딥페이크는 최근 AI를 이용하면 쉽게 만들 수 있지만 식별하기는 어려운 기술”이라며 “AI 기술이 발전하면서 식별은 더 어려워지고 있기 때문에 개별 사건에 대한 대응과 함께 사회적으로 해당 기술 악용이 범죄라는 인식이 확산되도록 노력하고 처벌 규정을 강화해야 한다”고 강조했다.
고려대학교 이상진 교수는 “딥페이크를 제작하는 소프트웨어는 딥페이크 영상임을 알 수 있게 워터마킹 삽입 의무화를 고려해야 한다”며 “대부분 공개 딥페이크 영상 제작 도구를 사용하기 때문에 총기 사용을 경찰서에 등록하는 것처럼, 딥페이크 영상 제작 도구는 생성된 영상물에 딥페이크임을 검증할 수 있는 기능을 의무화해야 한다”고 밝혔다. 이어 이 교수는 “워터마킹을 삽입하지 않은 딥페이크 영상은 철처하게 추적해 사용을 제한해야 한다”고 덧붙였다.
리니어리티 한승연 대표는 “앞으로는 딥페이크 음란물뿐만 아니라 피싱이나 사기 등 다양한 범죄에 AI 영상 기술이 활용되면서 여러 형태의 피해가 발생할 것으로 예상된다”면서, “외국에서 제작된 영상이 추적이 어려운 채널을 통해 유포된다면, 현재로서는 이를 효과적으로 차단할 방법이 쉽지 않다”고 밝혔다.
이어 한 대표는 “AI를 활용한 범죄가 지속되고 막기 어려울 가능성을 고려해 관련 법제도와 국제공조 체계를 마련하는 동시에 사회 구성원들이 이러한 유형의 공격에 대해 이해하고 대비할 수 있도록 해야 한다”고 말했다.
[김경애 기자(boan3@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김경애기자 기사보기
[2024-09-14] 
