[보안뉴스 박미영 기자] 디지털 성범죄 영상물은 한번 유포되면 여러 사이트로 확산돼 피해자의 고통이 장기간 지속된다. 서울기술연구원은 이러한 시민 피해를 최소화하기 위해 성범죄 피해 영상물을 끝까지 추적하고 삭제하는 AI 기술 개발을 본격 추진한다.
서울기술연구원과 서울시 양성평등정책담당관은 날로 지능화되는 디지털 성범죄에 선제 대응하기 위해 AI 융합기술을 활용해 성범죄 피해 영상물 식별 및 삭제 지원 기술 도입을 지자체 최초로 추진할 계획이다. 디지털 성범죄 피해를 지원하는 ‘서울 디지털성범죄 안심지원센터’에서는 ‘불법 촬영물 추적시스템’의 안면인식 기술을 활용 재유포 차단 및 삭제를 지원 중이나, 빠르게 확산하는 피해 영상물을 감시하고 대응하기 위해서는 기술적 개선이 시급하다.
서울기술연구원의 AI 기술은 성범죄 피해 영상을 자동으로 정확하게 찾아내고 삭제 요청까지 원스톱으로 지원하는 방식이며, 유해 사이트 간 확산도 방지해 나가는 방식으로 개발된다. 디지털 성범죄 추적 AI 기술은 비디오, 오디오, 텍스트 데이터 등의 분석기술이 융합돼 적용된다. 기존 방식이었던 피해자 영상 속 얼굴 매칭뿐 아니라 움직임 패턴과 오디오의 주파수나 대화 내용까지 복합적 분석이 이뤄지는 방식으로, 사이버 공간에서 불법 영상 추적 시 정확도 향상이 기대된다.
서울기술연구원은 기존 안면매칭 기법만을 이용해 정확도가 떨어지는 한계를 개선하기 위해 AI 기반의 융합분석기술 개발에 머신러닝과 딥러닝 기술을 적용한 비디오, 오디오, 텍스트 데이터의 융합적인 분석기술을 통해 검색 정확도를 최고 수준으로 높일 예정이다. 그간 연구원의 축적된 AI 융합분석기술 및 경험이 디지털 성범죄 추적 기술 개발에 초석이 돼 실용적인 성과 도출을 할 것으로 기대된다.
서울기술연구원은 2020년부터 지속적으로 인공지능, 빅데이터, 데이터 사이언스 기반 융합분석기술의 현장 실증을 통해 실효성 있는 연구 성과를 도출했다. 한 예로 2020년 AI 기반 CCTV 동영상 학습을 통한 한강교량 투신 상황 탐지 기술을 개발 완료했으며, 2021년 서울시 소방재난본부와 현장 실증을 통해 ‘한강교량 인공지능 기반 CCTV 선별관제기술’의 실효성을 검증했다.
AI 기반 선별관제기술은 딥러닝 영상분석을 통해 투신 시도자의 패턴을 학습해 위험 상황을 탐지한다. 이후 해당 지점의 CCTV 영상만을 ‘선별’해 관제요원의 모니터에 표출한다. AI 기반의 선별관제를 통해 투신 전후 상황에 신속한 대응이 가능해지고, 모니터링 공백을 최소화해 관제의 효율성을 크게 높이는 성과를 도출했다. 또한 영상을 삭제해도 시간이 지나면 다시 확산되는 특성을 고려해 AI 기반의 디지털 성범죄 유해 사이트 자동 검색 기능을 개발할 예정이다. 실제 성범죄 피해 영상의 경우 유해 사이트가 서버를 바꿔가기도 하고, 새롭게 생성되기도 하면서 동영상이 빠르게 유포되는 특성이 있어 재확산 방지에도 큰 역할을 할 것으로 보인다. AI를 기반으로 웹크롤링(웹사이트 정보를 자동으로 추출하는 기술)과 웹스크래핑(웹사이트에 게시된 영상, 이미지 등의 데이터를 추출해 분석하는 기술) 기능을 상시 운용해 디지털 성범죄에 악용되는 유해 사이트를 자동을 찾아내는 기능을 구현할 예정이다.
서울시는 지난 3월 ‘서울 디지털성범죄 안심지원센터’를 개관해 상담부터 피해 영상 삭제·심리치료 등을 지원 중이며, AI 기술이 추가 도입될 경우 피해 영상물의 재확산을 막고 보다 빠른 삭제 지원이 가능할 것으로 보인다. 디지털성범죄 피해자가 가장 필요로 하는 지원이 ‘삭제 지원’인 만큼, AI 기술이 도입되면 보다 빠른 삭제 지원을 통해 디지털성범죄 피해자의 일상 회복이 좀 더 빨라질 것으로 기대된다. 또한 피해 영상물 삭제 지원 인력의 과도한 영상 노출로 인한 업무 스트레스가 높은 만큼, AI 기술을 통한 영상물 검색의 정확도 향상·자동 검색 기능은 피해자 보호 및 직원의 심리적 고통 완화에 큰 도움이 될 것으로 기대된다. 기존에는 성범죄 피해 영상을 찾아내고 삭제 요청하는 과정에서 삭제 지원 직원의 수작업으로 인한 업무 피로도 증가, 범죄 영상에 과도한 노출 스트레스 등의 문제가 발생하나 AI 기술 도입으로 이런 부분이 상당히 개선될 것으로 보인다.
서울기술연구원은 AI 기술을 2023년 상반기 내에 마무리해 ‘서울 디지털성범죄 안심지원센터’의 피해 영상 추적 시스템으로 운용할 예정이다. 임성은 서울기술연구원장은 “날로 진화하고 있는 디지털 성범죄에 대응할 수 있도록 연구원의 AI 역량을 집중할 계획”이라며, “AI 삭제지원시스템 개발을 성공적으로 마무리하고 24시간 가동될 수 있도록 해 디지털 성범죄 없는 ‘안심 서울’을 만들도록 노력할 것”이라고 밝혔다.
[박미영 기자(mypark@boannews.com)]
서울기술연구원과 서울시 양성평등정책담당관은 날로 지능화되는 디지털 성범죄에 선제 대응하기 위해 AI 융합기술을 활용해 성범죄 피해 영상물 식별 및 삭제 지원 기술 도입을 지자체 최초로 추진할 계획이다. 디지털 성범죄 피해를 지원하는 ‘서울 디지털성범죄 안심지원센터’에서는 ‘불법 촬영물 추적시스템’의 안면인식 기술을 활용 재유포 차단 및 삭제를 지원 중이나, 빠르게 확산하는 피해 영상물을 감시하고 대응하기 위해서는 기술적 개선이 시급하다.
서울기술연구원의 AI 기술은 성범죄 피해 영상을 자동으로 정확하게 찾아내고 삭제 요청까지 원스톱으로 지원하는 방식이며, 유해 사이트 간 확산도 방지해 나가는 방식으로 개발된다. 디지털 성범죄 추적 AI 기술은 비디오, 오디오, 텍스트 데이터 등의 분석기술이 융합돼 적용된다. 기존 방식이었던 피해자 영상 속 얼굴 매칭뿐 아니라 움직임 패턴과 오디오의 주파수나 대화 내용까지 복합적 분석이 이뤄지는 방식으로, 사이버 공간에서 불법 영상 추적 시 정확도 향상이 기대된다.
서울기술연구원은 기존 안면매칭 기법만을 이용해 정확도가 떨어지는 한계를 개선하기 위해 AI 기반의 융합분석기술 개발에 머신러닝과 딥러닝 기술을 적용한 비디오, 오디오, 텍스트 데이터의 융합적인 분석기술을 통해 검색 정확도를 최고 수준으로 높일 예정이다. 그간 연구원의 축적된 AI 융합분석기술 및 경험이 디지털 성범죄 추적 기술 개발에 초석이 돼 실용적인 성과 도출을 할 것으로 기대된다.
서울기술연구원은 2020년부터 지속적으로 인공지능, 빅데이터, 데이터 사이언스 기반 융합분석기술의 현장 실증을 통해 실효성 있는 연구 성과를 도출했다. 한 예로 2020년 AI 기반 CCTV 동영상 학습을 통한 한강교량 투신 상황 탐지 기술을 개발 완료했으며, 2021년 서울시 소방재난본부와 현장 실증을 통해 ‘한강교량 인공지능 기반 CCTV 선별관제기술’의 실효성을 검증했다.
AI 기반 선별관제기술은 딥러닝 영상분석을 통해 투신 시도자의 패턴을 학습해 위험 상황을 탐지한다. 이후 해당 지점의 CCTV 영상만을 ‘선별’해 관제요원의 모니터에 표출한다. AI 기반의 선별관제를 통해 투신 전후 상황에 신속한 대응이 가능해지고, 모니터링 공백을 최소화해 관제의 효율성을 크게 높이는 성과를 도출했다. 또한 영상을 삭제해도 시간이 지나면 다시 확산되는 특성을 고려해 AI 기반의 디지털 성범죄 유해 사이트 자동 검색 기능을 개발할 예정이다. 실제 성범죄 피해 영상의 경우 유해 사이트가 서버를 바꿔가기도 하고, 새롭게 생성되기도 하면서 동영상이 빠르게 유포되는 특성이 있어 재확산 방지에도 큰 역할을 할 것으로 보인다. AI를 기반으로 웹크롤링(웹사이트 정보를 자동으로 추출하는 기술)과 웹스크래핑(웹사이트에 게시된 영상, 이미지 등의 데이터를 추출해 분석하는 기술) 기능을 상시 운용해 디지털 성범죄에 악용되는 유해 사이트를 자동을 찾아내는 기능을 구현할 예정이다.
서울시는 지난 3월 ‘서울 디지털성범죄 안심지원센터’를 개관해 상담부터 피해 영상 삭제·심리치료 등을 지원 중이며, AI 기술이 추가 도입될 경우 피해 영상물의 재확산을 막고 보다 빠른 삭제 지원이 가능할 것으로 보인다. 디지털성범죄 피해자가 가장 필요로 하는 지원이 ‘삭제 지원’인 만큼, AI 기술이 도입되면 보다 빠른 삭제 지원을 통해 디지털성범죄 피해자의 일상 회복이 좀 더 빨라질 것으로 기대된다. 또한 피해 영상물 삭제 지원 인력의 과도한 영상 노출로 인한 업무 스트레스가 높은 만큼, AI 기술을 통한 영상물 검색의 정확도 향상·자동 검색 기능은 피해자 보호 및 직원의 심리적 고통 완화에 큰 도움이 될 것으로 기대된다. 기존에는 성범죄 피해 영상을 찾아내고 삭제 요청하는 과정에서 삭제 지원 직원의 수작업으로 인한 업무 피로도 증가, 범죄 영상에 과도한 노출 스트레스 등의 문제가 발생하나 AI 기술 도입으로 이런 부분이 상당히 개선될 것으로 보인다.
서울기술연구원은 AI 기술을 2023년 상반기 내에 마무리해 ‘서울 디지털성범죄 안심지원센터’의 피해 영상 추적 시스템으로 운용할 예정이다. 임성은 서울기술연구원장은 “날로 진화하고 있는 디지털 성범죄에 대응할 수 있도록 연구원의 AI 역량을 집중할 계획”이라며, “AI 삭제지원시스템 개발을 성공적으로 마무리하고 24시간 가동될 수 있도록 해 디지털 성범죄 없는 ‘안심 서울’을 만들도록 노력할 것”이라고 밝혔다.
[박미영 기자(mypark@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박미영기자 기사보기
[2024-05-02] 
