.jpg)
‘서울 디지털성범죄 안심지원센터’ AI 도입 7개월 만에 45만건 이상 영상물 모니터링
[보안뉴스 박미영 기자] 서울시가 디지털성범죄 예방과 피해자 지원을 위해 AI(인공지능) 기술을 활용한 24시간 자동 추적·감시 시스템을 도입한 지 7개월 만에 총 45만7,440건(2023.3.29.~10.31.)의 영상물을 모니터링하는 성과를 냈다. 이는 AI 도입 전 사람(삭제지원관)이 직접 모니터링했을 때(3만3,511건, 2022.3.29~10.31)와 비교하면 무려 1,265%나 상승한 규모다.
서울시는 디지털성범죄 예방과 피해자 지원을 위해 2022년 3월 ‘서울 디지털성범죄 안심지원센터’(이하 센터, 서울시여성가족재단 운영)를 개관했으며, 올해 3월에는 개관 1년을 맞아 서울연구원과 함께 전국 최초로 AI 삭제 지원 기술을 개발·도입한 바 있다. 3개월간의 테스트 기간을 거쳐 현재 SNS상의 피해영상물을 24시간 실시간 자동으로 추적·감시해 찾아내는 역할을 하고 있다.
실제 피해영상물을 찾아내기까지 걸리는 시간도 크게 줄었다. 키워드 입력부터 영상물 검출까지 사람이 직접 했을 때는 평균 2시간이 소요됐던 것에 비해, AI 기술은 3분이 소요돼 검출시간이 97.5%가 단축됐다.
사회관계망서비스(SNS) 특성상 전파·공유가 쉽고 유포 속도가 매우 빠른 만큼, 피해 영상물이 재확산되는 걸 막기 위해서는 24시간 모니터링이 반드시 필요하다. AI는 자동 모니터링이 가능하기 때문에 사람이 일하지 않는 새벽시간대에도 모니터링이 가능하고, 삭제지원관이 피해 영상물을 접하면서 발생할 수 있는 트라우마와 스트레스를 줄일 수 있는 장점이 있다.
특히, 최근 디지털 성범죄 유포 방식은 검거를 피하기 위해 금요일 밤에 올리고 주말에만 유포하며, 짧은 시간 유포하고 다시 삭제하는 등 지능형 범죄가 증가함에 따라 삭제지원관이 근무하지 않는 시간에 AI를 통해 실시간 모니터링을 하는 부분은 매우 중요하다.
모니터링이 가능한 영상물의 절대 숫자는 크게 늘고 피해영상물 검출시간은 대폭 줄면서, 피해영상물 삭제 지원 역시 2배로 늘었다. AI 기술이 도입되기 전(2022.3.29.~10.31.) 2,049건에서 AI 기술 도입 이후(2023.3.29.~10.31.) 4,141건으로 102% 증가했다.
서울시는 디지털성범죄 AI 삭제 지원 프로그램이 올해 처음 적용된 만큼, 향후 AI 학습 데이터가 축적되면서 정확도와 속도가 지속적으로 향상될 것으로 기대하고 있다.
서울시는 ‘서울 디지털성범죄 안심지원센터’를 통해 피해영상물 삭제 지원은 물론, 긴급상담부터 수사·법률 지원, 심리치료·의료 지원에 이르는 원스톱 지원에 나서고 있다. 올해는 10월 말까지 392명의 피해자를 지원했으며, 총 지원 건수는 1만5,002건으로 이미 작년 지원 건수(6,241건)를 140% 상회했다.
시가 지원한 피해자의 연령대는 10~20대(51%, 200명)가 가장 높은 비율을 차지했으며, 이 중 10대 비율은 13.5%(53명)이었다. 시는 경찰과의 협력을 통해 1,060건의 수사를 지원했으며, 이 과정에서 가해자를 검거·특정하는 성과도 거뒀다. 574건의 법률·소송, 1,383건의 심리치료도 지원했다.
한편, 서울시는 디지털성범죄뿐 아니라 스토킹 피해자, 아동·청소년을 대상으로 한 성착취 등 최근 증가하고 있는 신종 성범죄에 대한 예방과 지원에 총력을 다하고 있다.
스토킹은 살인·폭행 등의 강력범죄로 이어질 가능성이 높으며, 10명 중 1명 이상이 재차 범행을 저지르는 매우 위험한 범죄다. 상황이 수시로 변하는 비정형성을 띠고 있어 무엇보다 피해자의 안전과 신속한 지원을 위한 체계적인 시스템이 중요하다.
우선 스토킹 범죄의 경우 피해자의 안전과 일상 회복을 위해 올해 9월 전국 최초의 전담 조직인 ‘스토킹 피해자 원스톱 지원 사업단’을 출범했다. 서울 경찰과 긴밀한 공조 아래, 출범 한 달 만에 총 200건, 39명을 지원했다.
서울 스토킹 피해자 원스톱 지원 사업단은 안전 지원 3종(이주비·민간경호·보호시설), 일상 회복 지원 3종(법률·심리·의료)을 통해 안전부터 일상 회복까지 원스톱으로 지원한다.
세부 지원 건수는 상담 및 모니터링 87건, 법률·심리치료 등 일상 회복 지원 17건, 이주비·민간경호 등 안전 지원 65건, 기타 31건이다.
기존에는 사건 종결 후 피해자가 다시 신고하기 전까지는 재발되는 스토킹 범죄를 파악하기 어려웠다면, 이제 서울 경찰과 ‘스토킹 피해자 핫라인 시스템’이 구축됨에 따라 사례 관리를 통해 피해자의 안전 상황 및 스토킹 재발 여부를 확인할 수 있게 됐다.
사업단은 피해자의 욕구에 맞는 지원 대책을 마련하고 위험단계별로 1~3개월간 피해자를 모니터링한다. 스토킹 범죄는 재발 가능성이 매우 크므로 지속적인 관리 체계가 중요하다.
특히, 스토킹 가해자 76.7%가 연인·배우자·직장동료 등 가까운 관계인 경우가 많고, 피해자와 거주지·직장 등이 노출된 경우가 많은 만큼 피해자의 ‘안전’을 최우선으로 지원한다.
사업단 지원 피해자의 가해자 관계를 살펴보면 전 연인이 20명(66.7%)으로 가장 많고 낯선 사람 4명(13.3%), 전 배우자 및 직장동료 3명(10%) 등을 차지한다.
이를 위해 서울시-서울경찰청-민간경호업체 간 협력을 통해 지자체 최초로 ‘고위험 스토킹범죄 피해자 민간 경호 서비스’를 10월부터 본격 운영하고 있으며, 한 달간 총 10건을 지원했다. 서비스 이용자들은 스토킹 피해자 보호를 위해 해당 사업이 매우 필요하며 서비스 전반에 만족하고, 안전하게 보호받고 있다는 의견을 밝혔다.
민간 경호 서비스는 △가해자 격리(구속·유치) △피해자 은폐(임시숙소, 주거이전 등)가 어려운 경우 △기타 경찰서장이 필요하다고 판단한 경우 지원한다. 1일 10시간씩, 총 7일간 2인 1조의 경호 지원을 받을 수 있다. 위해 가능성 등 상황에 따라 기간은 시와 경찰이 협의해 조정할 수 있다.
또한, 서울시는 지자체 최초로 스토킹 피해자 보호시설을 운영 중이며(총 5개소), 거주 이주비를 200만원 한도 내에서 지원하고 있다. 특히, 가해자의 위협이 현존하는 긴급한 상황이거나 경제적으로 어려운 피해자의 경우 이사 완료 전이라도 사전에 이주비를 지급한다. 피해자의 안전을 최우선으로 확보하기 위함이다. 사업단에서는 운영 한 달 만에 피해자 6명을 대상으로 거주 이주비를 지원하고 있다.
아울러 서울시는 갈수록 심각해지는 성착취로부터 아동·청소년을 보호하기 위해 전국 최초로 ‘서울시 아동·청소년 성착취 방지 및 피해자 지원 조례’를 제정(2022.10.17. 시행), 정책 기반을 마련했다. 피해 아동·청소년 경찰 조사 시 상담원을 파견하는 ‘전문 상담원 동석 지원 제도’를 신설하고, ‘인권보호 안내서’를 서울시 소속 경찰서 31곳에 제작·배포하는 등 피해 지원에 나서고 있다.
올해 5월에는 ‘성착취 피해 아동·청소년 통합지원센터’를 확대 운영, 성매매뿐 아니라 다양한 성착취 피해를 지원하고 성폭력·스토킹·협박 등의 중층피해를 겪는 아동·청소년 116명(2,273건)에게 심리·의료·법률 서비스 등을 지원했다. 원가정 복귀가 어려운 성매매 피해자 지원시설 퇴소 청소년을 위한 ‘자립정착금’(1,000만원)도 지원(2명)했다.
이 밖에도 고위험군 대상 소그룹 예방교육(491명)을 실시했으며, 장애 피해 아동･청소년 대상 자기방어 특화 프로그램(53명)을 신설하고, 남성 피해 청소년에게 정신건강의학과 진료 등 건강 지원(229건)을 했다.
오세훈 서울시장은 “n번방 사건 등 디지털 성범죄는 우리 사회에 큰 충격을 줬으며, 최근에는 무차별 범죄 등으로 시민들의 불안감이 커지고 있다”며, “서울시는 디지털 성범죄 AI 삭제 지원과 같은 신기술을 통해 신종 범죄에 신속하게 대응하고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱 지원을 통해 시민 누구나 안심하고 살 수 있는 ‘안심도시 서울’을 만드는 데 최선을 다하겠다”고 말했다.
[박미영 기자(mypark@boannews.com)]
[보안뉴스 박미영 기자] 서울시가 디지털성범죄 예방과 피해자 지원을 위해 AI(인공지능) 기술을 활용한 24시간 자동 추적·감시 시스템을 도입한 지 7개월 만에 총 45만7,440건(2023.3.29.~10.31.)의 영상물을 모니터링하는 성과를 냈다. 이는 AI 도입 전 사람(삭제지원관)이 직접 모니터링했을 때(3만3,511건, 2022.3.29~10.31)와 비교하면 무려 1,265%나 상승한 규모다.
[사진=서울시]
서울시는 디지털성범죄 예방과 피해자 지원을 위해 2022년 3월 ‘서울 디지털성범죄 안심지원센터’(이하 센터, 서울시여성가족재단 운영)를 개관했으며, 올해 3월에는 개관 1년을 맞아 서울연구원과 함께 전국 최초로 AI 삭제 지원 기술을 개발·도입한 바 있다. 3개월간의 테스트 기간을 거쳐 현재 SNS상의 피해영상물을 24시간 실시간 자동으로 추적·감시해 찾아내는 역할을 하고 있다.
실제 피해영상물을 찾아내기까지 걸리는 시간도 크게 줄었다. 키워드 입력부터 영상물 검출까지 사람이 직접 했을 때는 평균 2시간이 소요됐던 것에 비해, AI 기술은 3분이 소요돼 검출시간이 97.5%가 단축됐다.
사회관계망서비스(SNS) 특성상 전파·공유가 쉽고 유포 속도가 매우 빠른 만큼, 피해 영상물이 재확산되는 걸 막기 위해서는 24시간 모니터링이 반드시 필요하다. AI는 자동 모니터링이 가능하기 때문에 사람이 일하지 않는 새벽시간대에도 모니터링이 가능하고, 삭제지원관이 피해 영상물을 접하면서 발생할 수 있는 트라우마와 스트레스를 줄일 수 있는 장점이 있다.
특히, 최근 디지털 성범죄 유포 방식은 검거를 피하기 위해 금요일 밤에 올리고 주말에만 유포하며, 짧은 시간 유포하고 다시 삭제하는 등 지능형 범죄가 증가함에 따라 삭제지원관이 근무하지 않는 시간에 AI를 통해 실시간 모니터링을 하는 부분은 매우 중요하다.
모니터링이 가능한 영상물의 절대 숫자는 크게 늘고 피해영상물 검출시간은 대폭 줄면서, 피해영상물 삭제 지원 역시 2배로 늘었다. AI 기술이 도입되기 전(2022.3.29.~10.31.) 2,049건에서 AI 기술 도입 이후(2023.3.29.~10.31.) 4,141건으로 102% 증가했다.
서울시는 디지털성범죄 AI 삭제 지원 프로그램이 올해 처음 적용된 만큼, 향후 AI 학습 데이터가 축적되면서 정확도와 속도가 지속적으로 향상될 것으로 기대하고 있다.
서울시는 ‘서울 디지털성범죄 안심지원센터’를 통해 피해영상물 삭제 지원은 물론, 긴급상담부터 수사·법률 지원, 심리치료·의료 지원에 이르는 원스톱 지원에 나서고 있다. 올해는 10월 말까지 392명의 피해자를 지원했으며, 총 지원 건수는 1만5,002건으로 이미 작년 지원 건수(6,241건)를 140% 상회했다.
시가 지원한 피해자의 연령대는 10~20대(51%, 200명)가 가장 높은 비율을 차지했으며, 이 중 10대 비율은 13.5%(53명)이었다. 시는 경찰과의 협력을 통해 1,060건의 수사를 지원했으며, 이 과정에서 가해자를 검거·특정하는 성과도 거뒀다. 574건의 법률·소송, 1,383건의 심리치료도 지원했다.
한편, 서울시는 디지털성범죄뿐 아니라 스토킹 피해자, 아동·청소년을 대상으로 한 성착취 등 최근 증가하고 있는 신종 성범죄에 대한 예방과 지원에 총력을 다하고 있다.
스토킹은 살인·폭행 등의 강력범죄로 이어질 가능성이 높으며, 10명 중 1명 이상이 재차 범행을 저지르는 매우 위험한 범죄다. 상황이 수시로 변하는 비정형성을 띠고 있어 무엇보다 피해자의 안전과 신속한 지원을 위한 체계적인 시스템이 중요하다.
우선 스토킹 범죄의 경우 피해자의 안전과 일상 회복을 위해 올해 9월 전국 최초의 전담 조직인 ‘스토킹 피해자 원스톱 지원 사업단’을 출범했다. 서울 경찰과 긴밀한 공조 아래, 출범 한 달 만에 총 200건, 39명을 지원했다.
서울 스토킹 피해자 원스톱 지원 사업단은 안전 지원 3종(이주비·민간경호·보호시설), 일상 회복 지원 3종(법률·심리·의료)을 통해 안전부터 일상 회복까지 원스톱으로 지원한다.
세부 지원 건수는 상담 및 모니터링 87건, 법률·심리치료 등 일상 회복 지원 17건, 이주비·민간경호 등 안전 지원 65건, 기타 31건이다.
기존에는 사건 종결 후 피해자가 다시 신고하기 전까지는 재발되는 스토킹 범죄를 파악하기 어려웠다면, 이제 서울 경찰과 ‘스토킹 피해자 핫라인 시스템’이 구축됨에 따라 사례 관리를 통해 피해자의 안전 상황 및 스토킹 재발 여부를 확인할 수 있게 됐다.
사업단은 피해자의 욕구에 맞는 지원 대책을 마련하고 위험단계별로 1~3개월간 피해자를 모니터링한다. 스토킹 범죄는 재발 가능성이 매우 크므로 지속적인 관리 체계가 중요하다.
특히, 스토킹 가해자 76.7%가 연인·배우자·직장동료 등 가까운 관계인 경우가 많고, 피해자와 거주지·직장 등이 노출된 경우가 많은 만큼 피해자의 ‘안전’을 최우선으로 지원한다.
사업단 지원 피해자의 가해자 관계를 살펴보면 전 연인이 20명(66.7%)으로 가장 많고 낯선 사람 4명(13.3%), 전 배우자 및 직장동료 3명(10%) 등을 차지한다.
이를 위해 서울시-서울경찰청-민간경호업체 간 협력을 통해 지자체 최초로 ‘고위험 스토킹범죄 피해자 민간 경호 서비스’를 10월부터 본격 운영하고 있으며, 한 달간 총 10건을 지원했다. 서비스 이용자들은 스토킹 피해자 보호를 위해 해당 사업이 매우 필요하며 서비스 전반에 만족하고, 안전하게 보호받고 있다는 의견을 밝혔다.
민간 경호 서비스는 △가해자 격리(구속·유치) △피해자 은폐(임시숙소, 주거이전 등)가 어려운 경우 △기타 경찰서장이 필요하다고 판단한 경우 지원한다. 1일 10시간씩, 총 7일간 2인 1조의 경호 지원을 받을 수 있다. 위해 가능성 등 상황에 따라 기간은 시와 경찰이 협의해 조정할 수 있다.
또한, 서울시는 지자체 최초로 스토킹 피해자 보호시설을 운영 중이며(총 5개소), 거주 이주비를 200만원 한도 내에서 지원하고 있다. 특히, 가해자의 위협이 현존하는 긴급한 상황이거나 경제적으로 어려운 피해자의 경우 이사 완료 전이라도 사전에 이주비를 지급한다. 피해자의 안전을 최우선으로 확보하기 위함이다. 사업단에서는 운영 한 달 만에 피해자 6명을 대상으로 거주 이주비를 지원하고 있다.
아울러 서울시는 갈수록 심각해지는 성착취로부터 아동·청소년을 보호하기 위해 전국 최초로 ‘서울시 아동·청소년 성착취 방지 및 피해자 지원 조례’를 제정(2022.10.17. 시행), 정책 기반을 마련했다. 피해 아동·청소년 경찰 조사 시 상담원을 파견하는 ‘전문 상담원 동석 지원 제도’를 신설하고, ‘인권보호 안내서’를 서울시 소속 경찰서 31곳에 제작·배포하는 등 피해 지원에 나서고 있다.
올해 5월에는 ‘성착취 피해 아동·청소년 통합지원센터’를 확대 운영, 성매매뿐 아니라 다양한 성착취 피해를 지원하고 성폭력·스토킹·협박 등의 중층피해를 겪는 아동·청소년 116명(2,273건)에게 심리·의료·법률 서비스 등을 지원했다. 원가정 복귀가 어려운 성매매 피해자 지원시설 퇴소 청소년을 위한 ‘자립정착금’(1,000만원)도 지원(2명)했다.
이 밖에도 고위험군 대상 소그룹 예방교육(491명)을 실시했으며, 장애 피해 아동･청소년 대상 자기방어 특화 프로그램(53명)을 신설하고, 남성 피해 청소년에게 정신건강의학과 진료 등 건강 지원(229건)을 했다.
오세훈 서울시장은 “n번방 사건 등 디지털 성범죄는 우리 사회에 큰 충격을 줬으며, 최근에는 무차별 범죄 등으로 시민들의 불안감이 커지고 있다”며, “서울시는 디지털 성범죄 AI 삭제 지원과 같은 신기술을 통해 신종 범죄에 신속하게 대응하고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱 지원을 통해 시민 누구나 안심하고 살 수 있는 ‘안심도시 서울’을 만드는 데 최선을 다하겠다”고 말했다.
[박미영 기자(mypark@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박미영기자 기사보기
[2024-11-22] .jpg)
.jpg)
.jpg)
.jpg)
.jpg)
