전국 최초로 디지털 성범죄 AI 삭제 지원 프로그램 개발 및 활용
[보안뉴스 박미영 기자] 서울시가 ‘전국 최초, 디지털 성범죄 AI 삭제 지원 프로그램’으로 행정안전부가 개최한 ‘2023 정부혁신 우수 사례 경진대회’에서 대통령상 ‘대상’을 수상했다고 밝혔다.
매년 정부혁신 우수 사례를 발굴해 범정부적으로 공유·확산하는 이번 경진대회에는 전 행정기관(중앙부처·자치단체·교육청) 및 공공기관 등에서 제출한 533건의 정부혁신 우수 사례가 접수됐다.
이 중 전문가 심사와 2만1,000명이 참여하는 온라인 국민 심사 등 1·2차 예선을 거쳐 총 13건이 본선에 진출했으며, 지난 15일 3차 경진대회를 개최해 최종 순위를 결정했다.
정부혁신 경진대회에는 전문가(10명)·국민평가단(100명)이 참여해 대상 1점(대통령상)과 금상 5점(대통령상)·은상 7점(국무총리상)을 선정했으며, 서울시는 ‘디지털 성범죄 AI 삭제 지원 프로그램’으로 최종 ‘대상’의 영예를 안았다.
서울시 ‘디지털 성범죄 AI 삭제 지원 프로그램’은 인공지능(AI) 기술이 24시간 실시간 모니터링을 통해 피해 영상물을 자동으로 검출, 보다 빠르게 영상물을 삭제하고 재유포를 막는 시스템이다.
서울시와 서울연구원은 2022년 7월 프로그램 개발에 착수, 올해 3월 프로그램 개발을 완료했다. AI가 기존 피해 영상물의 삭제 지원에 비해 보다 빠르고 정확하게 삭제 지원을 할 수 있다는 점, 이를 통해 피해자의 고통을 줄이고 일상 회복을 지원할 수 있어 기존의 디지털 성범죄의 가장 고질적인 문제를 해결할 수 있다는 점에서 높은 평가를 받았다.
서울시는 ‘서울 디지털 성범죄 안심지원센터(서울시여성가족재단 운영)’를 통해 AI를 도입한 지 7개월 만에 총 45만 건의 영상물을 모니터링했으며, 이는 AI 도입 전 사람(삭제지원관)이 직접 모니터링했을 때와 비교하면(3만3,511건, 2022.3.29~10.31) 무려 1,265%나 상승한 규모다.
또한, 키워드 입력부터 영상물 검출까지 사람이 직접 했을 때는 평균 2시간이 소요됐던 것에 비해, AI 기술은 3분이 소요돼 검출시간이 97.5%가 단축돼 피해영상물 삭제 지원 역시 2배로 늘었다.
서울시는 인공지능(AI) 기술 도입과 함께 아동·청소년 피해 예방에 주력할 계획이다. 최근 아동·청소년을 대상으로 한 디지털 성범죄 피해건수가 지속적으로 증가하고, 특히 피해자나 가족의 신고 없이 온라인상에서 유포되는 피해 영상물이 많은 데 따른 것이다.
본인이 삭제를 요청해야 삭제 지원이 가능한 성인과 달리 아동·청소년은 ‘아동·청소년의 성보호에 관한 법률’ 등에 따라 당사자나 부모님의 신고 없이도 즉시 삭제가 가능한 만큼, 인공지능(AI) 추적·감시를 통해 디지털성범죄 피해 예방에 선제적으로 나선다.
하지만 아동·청소년 피해 영상물이 성인의 영상과 잘 구분되지 않아 삭제 지원에 어려움이 있다는 점에 착안해 서울연구원과 함께 내년 상반기를 목표로 ‘AI 기반 아동·청소년 피해 영상물 삭제 지원 프로그램’도 개발 중에 있다.
‘AI 기반 아동·청소년 삭제 지원 프로그램’은 아동·청소년 피해 영상물의 얼굴 및 배경 사물(객체) 인식뿐만 아니라 아동·청소년 연관 게시글을 종합 분석해 성별 등을 예측하는 모델로 프로그램이 개발되면 아동·청소년 선제적 삭제 지원에 큰 도움이 될 것으로 기대된다.
서울시는 ‘디지털 성범죄 AI 삭제 지원 프로그램’ 개발뿐 아니라 ‘서울 디지털 성범죄 안심지원센터’ 운영 등 예방부터 재발 방지에 이르는 ‘디지털 성범죄 통합대응정책’을 국내뿐 아니라 해외에 확산‧전파하기 위해 2024 UN공공행정상(UNPSA)에도 본 사업을 응모·제출했다.
김선순 서울시 여성가족정책실장은 “디지털 성범죄 삭제 지원은 많은 분들이 가장 필요로 하는 지원이었다”며, “디지털 성범죄 AI 삭제 지원과 같은 혁신 기술을 통해 피해자의 고통을 경감하고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱 지원을 통해 피해자 한분 한분이 빠르게 일상을 회복할 수 있도록 최선을 다하겠다”고 말했다.
[박미영 기자(mypark@boannews.com)]
[보안뉴스 박미영 기자] 서울시가 ‘전국 최초, 디지털 성범죄 AI 삭제 지원 프로그램’으로 행정안전부가 개최한 ‘2023 정부혁신 우수 사례 경진대회’에서 대통령상 ‘대상’을 수상했다고 밝혔다.
[사진=서울시]
매년 정부혁신 우수 사례를 발굴해 범정부적으로 공유·확산하는 이번 경진대회에는 전 행정기관(중앙부처·자치단체·교육청) 및 공공기관 등에서 제출한 533건의 정부혁신 우수 사례가 접수됐다.
이 중 전문가 심사와 2만1,000명이 참여하는 온라인 국민 심사 등 1·2차 예선을 거쳐 총 13건이 본선에 진출했으며, 지난 15일 3차 경진대회를 개최해 최종 순위를 결정했다.
정부혁신 경진대회에는 전문가(10명)·국민평가단(100명)이 참여해 대상 1점(대통령상)과 금상 5점(대통령상)·은상 7점(국무총리상)을 선정했으며, 서울시는 ‘디지털 성범죄 AI 삭제 지원 프로그램’으로 최종 ‘대상’의 영예를 안았다.
서울시 ‘디지털 성범죄 AI 삭제 지원 프로그램’은 인공지능(AI) 기술이 24시간 실시간 모니터링을 통해 피해 영상물을 자동으로 검출, 보다 빠르게 영상물을 삭제하고 재유포를 막는 시스템이다.
서울시와 서울연구원은 2022년 7월 프로그램 개발에 착수, 올해 3월 프로그램 개발을 완료했다. AI가 기존 피해 영상물의 삭제 지원에 비해 보다 빠르고 정확하게 삭제 지원을 할 수 있다는 점, 이를 통해 피해자의 고통을 줄이고 일상 회복을 지원할 수 있어 기존의 디지털 성범죄의 가장 고질적인 문제를 해결할 수 있다는 점에서 높은 평가를 받았다.
서울시는 ‘서울 디지털 성범죄 안심지원센터(서울시여성가족재단 운영)’를 통해 AI를 도입한 지 7개월 만에 총 45만 건의 영상물을 모니터링했으며, 이는 AI 도입 전 사람(삭제지원관)이 직접 모니터링했을 때와 비교하면(3만3,511건, 2022.3.29~10.31) 무려 1,265%나 상승한 규모다.
또한, 키워드 입력부터 영상물 검출까지 사람이 직접 했을 때는 평균 2시간이 소요됐던 것에 비해, AI 기술은 3분이 소요돼 검출시간이 97.5%가 단축돼 피해영상물 삭제 지원 역시 2배로 늘었다.
서울시는 인공지능(AI) 기술 도입과 함께 아동·청소년 피해 예방에 주력할 계획이다. 최근 아동·청소년을 대상으로 한 디지털 성범죄 피해건수가 지속적으로 증가하고, 특히 피해자나 가족의 신고 없이 온라인상에서 유포되는 피해 영상물이 많은 데 따른 것이다.
본인이 삭제를 요청해야 삭제 지원이 가능한 성인과 달리 아동·청소년은 ‘아동·청소년의 성보호에 관한 법률’ 등에 따라 당사자나 부모님의 신고 없이도 즉시 삭제가 가능한 만큼, 인공지능(AI) 추적·감시를 통해 디지털성범죄 피해 예방에 선제적으로 나선다.
하지만 아동·청소년 피해 영상물이 성인의 영상과 잘 구분되지 않아 삭제 지원에 어려움이 있다는 점에 착안해 서울연구원과 함께 내년 상반기를 목표로 ‘AI 기반 아동·청소년 피해 영상물 삭제 지원 프로그램’도 개발 중에 있다.
‘AI 기반 아동·청소년 삭제 지원 프로그램’은 아동·청소년 피해 영상물의 얼굴 및 배경 사물(객체) 인식뿐만 아니라 아동·청소년 연관 게시글을 종합 분석해 성별 등을 예측하는 모델로 프로그램이 개발되면 아동·청소년 선제적 삭제 지원에 큰 도움이 될 것으로 기대된다.
서울시는 ‘디지털 성범죄 AI 삭제 지원 프로그램’ 개발뿐 아니라 ‘서울 디지털 성범죄 안심지원센터’ 운영 등 예방부터 재발 방지에 이르는 ‘디지털 성범죄 통합대응정책’을 국내뿐 아니라 해외에 확산‧전파하기 위해 2024 UN공공행정상(UNPSA)에도 본 사업을 응모·제출했다.
김선순 서울시 여성가족정책실장은 “디지털 성범죄 삭제 지원은 많은 분들이 가장 필요로 하는 지원이었다”며, “디지털 성범죄 AI 삭제 지원과 같은 혁신 기술을 통해 피해자의 고통을 경감하고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱 지원을 통해 피해자 한분 한분이 빠르게 일상을 회복할 수 있도록 최선을 다하겠다”고 말했다.
[박미영 기자(mypark@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박미영기자 기사보기
[2024-05-02] 
