.jpg)
‘딥페이크 성범죄’ 연령·대상 불문 피해자 확산...10대 가해자 비율 75.8%
초·중·고 졸업앨범 사진 악용되기도...‘능욕’이란 이름의 ‘학교 폭력’
서울시-방심위, 딥페이크 피해자 전담 상담 창구 운영...‘24시간 원스톱 삭제·차단’
[보안뉴스 이소미 기자] 딥페이크 기술의 발달과 대중화로 텔레그램 N번방 지옥이 다시금 되풀이되고 있습니다. 이제는 누군가의 ‘지인’이 되는 것조차 두려워하는 분위기가 형성되고 있는데요. 이는 최근 딥페이크 성범죄가 연령과 대상을 가리지 않고 우리 사회를 위협하고 있기 때문입니다. 특히 10대 청소년들의 범죄가 폭증하고 있는 것으로 나타나며, 사회적인 대혼란을 야기하고 있습니다.
■ 방송 : 보안뉴스TV(bnTV) <보안家 핫이슈>
■ 진행 : 이소미 보안뉴스 기자
딥페이크 범죄, 10대 가해자 비율 75.8% 차지...아동·청소년 대상 법적제재 강화돼야
딥페이크 범죄의 10대 가해자 비율이 75.8%를 차지한다는 통계가 나왔습니다. 이에 따라 딥페이크 범죄를 단순 호기심이나 장난으로 여기는 아동·청소년들을 대상으로 강력한 법적제재 등을 통해 경각심을 높여야 한다는 목소리가 곳곳에서 나오고 있습니다.
최근 일부 커뮤니티에서 참여자들 간 특정 지역 또는 학교별로 일명 ‘겹지인방’이라는 공유 채널을 만들어 실제 지인의 사진, 학생의 경우는 졸업앨범 사진 등을 이용해 불법 딥페이크 영상물을 제작·공유하고 있는 사실이 적발돼 사회적인 충격을 더하고 있는데요.
이러한 딥페이크 기술은 고도의 기술이 요구되는 것이 아닌, 누구나 딥페이크 봇으로 허위영상물을 제작하는 등 쉬운 접근성이 특징인 만큼 청소년들의 범행도 증가하고 있습니다.
딥페이크 범죄 대상이 아동·청소년일 경우, ‘아동·청소년성착취물’에 해당돼 청소년성보호법 제11조에 의거해 처벌받게 됩니다. 성인이 대상일 경우, ‘허위영상물’로 성폭력처벌법 제14조의2에 의거해 5년 이하의 징역 또는 5천만 원 이하의 벌금형에 처해집니다. 만약 이를 영리 목적으로 배포한 경우라면 7년 이하의 징역에 처하게 됩니다.
초·중·고등학교 졸업앨범 사진 악용 등 또 다른 ‘학교 폭력’...교육부 최대 ‘퇴학’ 조치
청소년 딥페이크 범죄의 심각성이 고조됨에 따라 교육부는 교내 딥페이크 가해자의 학교폭력대책심의위원회(이하 학폭위)의 징계 수위와 관련해 “고의적이고 큰 피해를 미치는 딥페이크 범죄에 대해 가장 수위 높은 학교 폭력으로 최대 ‘퇴학 조치’까지 진행할 수 있다”고 전했습니다. 단, 의무교육인 초등학교와 중학교에선 ‘전학’ 조치가 최대 징계치로 네티즌들 사이에서는 ‘촉법소년’에 대한 논란이 다시금 불거지고 있습니다.
여성가족부가 밝힌 딥페이크 피해 지원 건수는 올해만 781건으로. 한국여성인권진흥원에 디지털성범죄피해자지원센터가 설치된 2018년 기준 69건에서 무려 11배 넘게 늘어난 것으로 나타났습니다.
정부 및 지자체·유관기관 ‘딥페이크 성범죄’ 대응 가속화...
이처럼 딥페이크 성범죄 확산이 가속화됨에 따라, 이에 대응하기 위한 정부와 지자체 및 유관 기관들도 발 벗고 나섰는데요. 과학기술정보통신부와 여성가족부는 디지털 성범죄 불법 딥페이크 기술을 탐지하고, 사진 한 장만으로도 허위 영상추적이 가능한 시스템 고도화 등 양 부처 간 협력 방안을 논의 중이라고 밝혔습니다.
경찰청은 시도경찰청과의 긴밀한 협력을 통해 딥페이크 탐지 소프트웨어를 활용한 분석과 국제공조 등 수사에 필요한 사항들을 적극적으로 지원할 예정입니다.
관련 개정법 여전히 낮은 처벌·형량 지적...AI 등 신기술 활용 교육 시 윤리 교육 병행해야
한편, 국회는 2020년 6월 N번방 사건을 계기로 ‘딥페이크 처벌법’이라 불리는 성폭력범죄의 처벌 등에 관한 특례법을 개정해 처벌 수위를 높였지만, 여전히 낮은 처벌·형량 문제와 사각지대가 존재한다는 점은 계속해서 지적되고 있는 부분입니다. 또한 유사 성범죄와 관련해 집행유예나 무죄를 받은 사례가 몇몇 대형 온라인 커뮤니티에 버젓이 공유되는 등 정작 가해자들이 문제의 심각성을 인지하지 못하는 행태도 관찰되고 있습니다.
참고로 2019년 9월 텔레그램 N번방으로 알려진 ‘박사방’을 조직적으로 운영한 혐의를 받은 조주빈은 대법원에서 징역 42년 4개월을 확정받았고, 2020년 7월부터 올해 4월에 걸쳐 서울대 동문 여성들의 졸업 사진과 SNS 사진을 악용해 딥페이크 불법 합성물을 제작·유포한 ‘서울대 N번방’ 사건의 주범 박씨에게 징역 5년을 선고해 검찰은 형량이 낮다는 이유로 항소한 상황입니다.
각계 전문가들은 AI 등 신기술 활용에 대한 교육과 함께 윤리 교육도 필수적으로 병행해야 한다고 강조하고 있는데요. 나아가 딥페이크 성범죄와 관련된 형량에 대해 영국·미국과 같은 해외 사례처럼 강력히 제재해야 한다고 목소리를 높이고 있습니다.
‘24시간 삭제 핫라인’ 구축 및 카카오톡 전담 상담창구 개설...기존 복잡하던 신고·삭제 과정 간소화
또한 딥페이크 불법 영상물 피해가 급속도로 번지고 있는 가운데 신속 대응을 위해 서울시와 방송통신심의위원회(이하 방심위)가 딥페이크 불법 영상물에 대한 ‘24시간 삭제 핫라인’ 구축 협약을 체결했습니다. 이에 따라 기존 신고·접수·삭제 등의 과정에서 시일이 걸리던 복잡한 신고 과정이 간소화됐습니다. 만약 딥페이크 불법 영상이 SNS 등 공개 사이트에 유포될 경우, 핫라인 신고 체계를 통해 24시간 내로 △신속 모니터링 △삭제 △차단 조치가 가능하도록 할 방침이라고 전했습니다. 신고 대량 건수도 일시적으로 삭제 요청할 수 있게 됩니다. 방심위를 통한다면 그동안 삭제·차단 조치가 어려웠던 텔레그램 내 자료 삭제율도 현저히 높아질 것으로 기대됩니다.
이외에도 딥페이크 범죄 피해자들을 위해 카카오톡 오픈채팅방 ‘딥페이크 SOS 전담 상담창구’를 개설해 빠른 신고 접수와 전담피해지원관을 통한 법률상담까지 원스톱으로 지원할 예정이라고 밝혔습니다. 현재 서울 디지털성범죄 안심지원센터에서 운영하고 있는 ‘딥페이크 SOS 전담 상담창구’는 채널명 ‘디지털성범죄SOS상담’을 통해 상담 지원을 받을 수 있습니다.
[이소미 기자(boan4@boannews.com)]
초·중·고 졸업앨범 사진 악용되기도...‘능욕’이란 이름의 ‘학교 폭력’
서울시-방심위, 딥페이크 피해자 전담 상담 창구 운영...‘24시간 원스톱 삭제·차단’
[보안뉴스 이소미 기자] 딥페이크 기술의 발달과 대중화로 텔레그램 N번방 지옥이 다시금 되풀이되고 있습니다. 이제는 누군가의 ‘지인’이 되는 것조차 두려워하는 분위기가 형성되고 있는데요. 이는 최근 딥페이크 성범죄가 연령과 대상을 가리지 않고 우리 사회를 위협하고 있기 때문입니다. 특히 10대 청소년들의 범죄가 폭증하고 있는 것으로 나타나며, 사회적인 대혼란을 야기하고 있습니다.
■ 방송 : 보안뉴스TV(bnTV) <보안家 핫이슈>
■ 진행 : 이소미 보안뉴스 기자
▲보안家 핫이슈 ‘10대 아동·청소년 무법지대, 딥페이크 성범죄 대책은?’ 시작 화면[이미지=보안뉴스]
딥페이크 범죄, 10대 가해자 비율 75.8% 차지...아동·청소년 대상 법적제재 강화돼야
딥페이크 범죄의 10대 가해자 비율이 75.8%를 차지한다는 통계가 나왔습니다. 이에 따라 딥페이크 범죄를 단순 호기심이나 장난으로 여기는 아동·청소년들을 대상으로 강력한 법적제재 등을 통해 경각심을 높여야 한다는 목소리가 곳곳에서 나오고 있습니다.
최근 일부 커뮤니티에서 참여자들 간 특정 지역 또는 학교별로 일명 ‘겹지인방’이라는 공유 채널을 만들어 실제 지인의 사진, 학생의 경우는 졸업앨범 사진 등을 이용해 불법 딥페이크 영상물을 제작·공유하고 있는 사실이 적발돼 사회적인 충격을 더하고 있는데요.
이러한 딥페이크 기술은 고도의 기술이 요구되는 것이 아닌, 누구나 딥페이크 봇으로 허위영상물을 제작하는 등 쉬운 접근성이 특징인 만큼 청소년들의 범행도 증가하고 있습니다.
딥페이크 범죄 대상이 아동·청소년일 경우, ‘아동·청소년성착취물’에 해당돼 청소년성보호법 제11조에 의거해 처벌받게 됩니다. 성인이 대상일 경우, ‘허위영상물’로 성폭력처벌법 제14조의2에 의거해 5년 이하의 징역 또는 5천만 원 이하의 벌금형에 처해집니다. 만약 이를 영리 목적으로 배포한 경우라면 7년 이하의 징역에 처하게 됩니다.
초·중·고등학교 졸업앨범 사진 악용 등 또 다른 ‘학교 폭력’...교육부 최대 ‘퇴학’ 조치
청소년 딥페이크 범죄의 심각성이 고조됨에 따라 교육부는 교내 딥페이크 가해자의 학교폭력대책심의위원회(이하 학폭위)의 징계 수위와 관련해 “고의적이고 큰 피해를 미치는 딥페이크 범죄에 대해 가장 수위 높은 학교 폭력으로 최대 ‘퇴학 조치’까지 진행할 수 있다”고 전했습니다. 단, 의무교육인 초등학교와 중학교에선 ‘전학’ 조치가 최대 징계치로 네티즌들 사이에서는 ‘촉법소년’에 대한 논란이 다시금 불거지고 있습니다.
여성가족부가 밝힌 딥페이크 피해 지원 건수는 올해만 781건으로. 한국여성인권진흥원에 디지털성범죄피해자지원센터가 설치된 2018년 기준 69건에서 무려 11배 넘게 늘어난 것으로 나타났습니다.
정부 및 지자체·유관기관 ‘딥페이크 성범죄’ 대응 가속화...
이처럼 딥페이크 성범죄 확산이 가속화됨에 따라, 이에 대응하기 위한 정부와 지자체 및 유관 기관들도 발 벗고 나섰는데요. 과학기술정보통신부와 여성가족부는 디지털 성범죄 불법 딥페이크 기술을 탐지하고, 사진 한 장만으로도 허위 영상추적이 가능한 시스템 고도화 등 양 부처 간 협력 방안을 논의 중이라고 밝혔습니다.
경찰청은 시도경찰청과의 긴밀한 협력을 통해 딥페이크 탐지 소프트웨어를 활용한 분석과 국제공조 등 수사에 필요한 사항들을 적극적으로 지원할 예정입니다.
관련 개정법 여전히 낮은 처벌·형량 지적...AI 등 신기술 활용 교육 시 윤리 교육 병행해야
한편, 국회는 2020년 6월 N번방 사건을 계기로 ‘딥페이크 처벌법’이라 불리는 성폭력범죄의 처벌 등에 관한 특례법을 개정해 처벌 수위를 높였지만, 여전히 낮은 처벌·형량 문제와 사각지대가 존재한다는 점은 계속해서 지적되고 있는 부분입니다. 또한 유사 성범죄와 관련해 집행유예나 무죄를 받은 사례가 몇몇 대형 온라인 커뮤니티에 버젓이 공유되는 등 정작 가해자들이 문제의 심각성을 인지하지 못하는 행태도 관찰되고 있습니다.
참고로 2019년 9월 텔레그램 N번방으로 알려진 ‘박사방’을 조직적으로 운영한 혐의를 받은 조주빈은 대법원에서 징역 42년 4개월을 확정받았고, 2020년 7월부터 올해 4월에 걸쳐 서울대 동문 여성들의 졸업 사진과 SNS 사진을 악용해 딥페이크 불법 합성물을 제작·유포한 ‘서울대 N번방’ 사건의 주범 박씨에게 징역 5년을 선고해 검찰은 형량이 낮다는 이유로 항소한 상황입니다.
각계 전문가들은 AI 등 신기술 활용에 대한 교육과 함께 윤리 교육도 필수적으로 병행해야 한다고 강조하고 있는데요. 나아가 딥페이크 성범죄와 관련된 형량에 대해 영국·미국과 같은 해외 사례처럼 강력히 제재해야 한다고 목소리를 높이고 있습니다.
‘24시간 삭제 핫라인’ 구축 및 카카오톡 전담 상담창구 개설...기존 복잡하던 신고·삭제 과정 간소화
또한 딥페이크 불법 영상물 피해가 급속도로 번지고 있는 가운데 신속 대응을 위해 서울시와 방송통신심의위원회(이하 방심위)가 딥페이크 불법 영상물에 대한 ‘24시간 삭제 핫라인’ 구축 협약을 체결했습니다. 이에 따라 기존 신고·접수·삭제 등의 과정에서 시일이 걸리던 복잡한 신고 과정이 간소화됐습니다. 만약 딥페이크 불법 영상이 SNS 등 공개 사이트에 유포될 경우, 핫라인 신고 체계를 통해 24시간 내로 △신속 모니터링 △삭제 △차단 조치가 가능하도록 할 방침이라고 전했습니다. 신고 대량 건수도 일시적으로 삭제 요청할 수 있게 됩니다. 방심위를 통한다면 그동안 삭제·차단 조치가 어려웠던 텔레그램 내 자료 삭제율도 현저히 높아질 것으로 기대됩니다.
이외에도 딥페이크 범죄 피해자들을 위해 카카오톡 오픈채팅방 ‘딥페이크 SOS 전담 상담창구’를 개설해 빠른 신고 접수와 전담피해지원관을 통한 법률상담까지 원스톱으로 지원할 예정이라고 밝혔습니다. 현재 서울 디지털성범죄 안심지원센터에서 운영하고 있는 ‘딥페이크 SOS 전담 상담창구’는 채널명 ‘디지털성범죄SOS상담’을 통해 상담 지원을 받을 수 있습니다.
[이소미 기자(boan4@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
이소미기자 기사보기
[2024-09-14] 
