딥페이크 탐지 서비스 출시, 실질적인 대안 확보 위한 노력
누구나 무료로 쉽고 편리하게 사용 가능, 사회 공헌 차원의 해결책 마련
디지털 범죄 근절과 국민 불안 불식에 보탬이 되기 위해 민간에 개방
[보안뉴스 박은주 기자] 인공지능(AI) 기반 사이버 위협 인텔리전스(CTI) 전문 보안 기업 샌즈랩(대표 김기홍) 생성형 AI 역기능 중 하나인 딥페이크를 탐지하는 서비스 페이크체크(fakecheck.io)를 출시했다고 5일 밝혔다.
페이크체크는 사용자가 직접 웹사이트에 접속해 딥페이크가 의심되는 이미지를 올리면 수 초 내로 위조 진위를 분석해 판별 결과를 알려주는 서비스다. 남녀노소 누구나 쉽게 서비스를 이용할 수 있도록 회원가입이나 인증 등 번거로운 절차들을 없애고 순수한 기능에 집중했다.
해당 서비스는 무료로 제공되며 누구나 이용할 수 있다. 샌즈랩은 현재 국민이 직면한 사회적 이슈에 조금이나마 도움을 보태기 위해 해당 서비스를 자체 구축하고 유지하는데 드는 클라우드 서비스 등의 모든 비용을 사회 공헌 차원에서 직접 부담하기로 했다. 당장 서비스 수익보다 딥페이크로 인한 2·3차 피해 확산 방지가 우선이라는 판단에서다.
샌즈랩은 당초 생성형 AI 역기능 탐지 및 대응 기술에 대한 연구개발을 통해 페이크체크와 같은 기능의 국민 체감형 플랫폼을 구축하는 국가 과제를 수행하고 있었다. 그러나 착수 이후 반년도 채 지나지 않은 시점에서 AI 역기능이 사회적 문제로 심화함에 따라 디지털 범죄 근절과 국민 불안을 불식시키기 위한 사회적 기업 차원에서의 책임감에 따른 노력의 일환으로 서비스를 민간에 개방했다.
페이크체크는 다양한 AI 모델을 활용해 사람의 얼굴 이미지의 위·변조 여부 판별이 가능하도록 개발됐다. 범죄 예방 목적 서비스다 보니 사람 얼굴 외 동물이나 사물의 딥페이크 이미지는 판별하지 않는다. 다만 완전히 개발이 완료된 서비스가 아닌 일종의 오픈 베타 테스트 버전 형태로 출시했기 때문에 지속적인 의견 수렴과 업데이트를 통해 탐지 대상 확대나 탐지율 향상은 물론 영상의 위·변조 여부 판별까지 추후 지원될 수도 있다는 게 샌즈랩의 설명이다.
샌즈랩 김기홍 대표는 “페이크체크 서비스는 딥페이크 침해 사고에 대한 대응책이 필요한 사회적 기대에 부응하기 위해 임직원들이 한마음 한뜻으로 만들어낸 실질적인 대안 확보 사례”라며, “이번 서비스 출시로 수행 중인 과기정통부 정보통신기획평가원의 정보보호핵심원천기술개발사업인 생성형 AI 역기능 억제를 위한 국민 체감형 플랫폼 구축 토대를 견고히 다져 미래 사이버 보안을 위한 AI 기술 개발로 사회에 이바지할 수 있도록 앞장서겠다”고 밝혔다.
[박은주 기자(boan5@boannews.com)]
누구나 무료로 쉽고 편리하게 사용 가능, 사회 공헌 차원의 해결책 마련
디지털 범죄 근절과 국민 불안 불식에 보탬이 되기 위해 민간에 개방
[보안뉴스 박은주 기자] 인공지능(AI) 기반 사이버 위협 인텔리전스(CTI) 전문 보안 기업 샌즈랩(대표 김기홍) 생성형 AI 역기능 중 하나인 딥페이크를 탐지하는 서비스 페이크체크(fakecheck.io)를 출시했다고 5일 밝혔다.
▲딥페이크 탐지 서비스 페이크체크 메인 화면[이미지=샌즈랩]
페이크체크는 사용자가 직접 웹사이트에 접속해 딥페이크가 의심되는 이미지를 올리면 수 초 내로 위조 진위를 분석해 판별 결과를 알려주는 서비스다. 남녀노소 누구나 쉽게 서비스를 이용할 수 있도록 회원가입이나 인증 등 번거로운 절차들을 없애고 순수한 기능에 집중했다.
해당 서비스는 무료로 제공되며 누구나 이용할 수 있다. 샌즈랩은 현재 국민이 직면한 사회적 이슈에 조금이나마 도움을 보태기 위해 해당 서비스를 자체 구축하고 유지하는데 드는 클라우드 서비스 등의 모든 비용을 사회 공헌 차원에서 직접 부담하기로 했다. 당장 서비스 수익보다 딥페이크로 인한 2·3차 피해 확산 방지가 우선이라는 판단에서다.
샌즈랩은 당초 생성형 AI 역기능 탐지 및 대응 기술에 대한 연구개발을 통해 페이크체크와 같은 기능의 국민 체감형 플랫폼을 구축하는 국가 과제를 수행하고 있었다. 그러나 착수 이후 반년도 채 지나지 않은 시점에서 AI 역기능이 사회적 문제로 심화함에 따라 디지털 범죄 근절과 국민 불안을 불식시키기 위한 사회적 기업 차원에서의 책임감에 따른 노력의 일환으로 서비스를 민간에 개방했다.
▲딥페이크 이미지를 분석한 실제 결과 화면[이미지=샌즈랩]
페이크체크는 다양한 AI 모델을 활용해 사람의 얼굴 이미지의 위·변조 여부 판별이 가능하도록 개발됐다. 범죄 예방 목적 서비스다 보니 사람 얼굴 외 동물이나 사물의 딥페이크 이미지는 판별하지 않는다. 다만 완전히 개발이 완료된 서비스가 아닌 일종의 오픈 베타 테스트 버전 형태로 출시했기 때문에 지속적인 의견 수렴과 업데이트를 통해 탐지 대상 확대나 탐지율 향상은 물론 영상의 위·변조 여부 판별까지 추후 지원될 수도 있다는 게 샌즈랩의 설명이다.
샌즈랩 김기홍 대표는 “페이크체크 서비스는 딥페이크 침해 사고에 대한 대응책이 필요한 사회적 기대에 부응하기 위해 임직원들이 한마음 한뜻으로 만들어낸 실질적인 대안 확보 사례”라며, “이번 서비스 출시로 수행 중인 과기정통부 정보통신기획평가원의 정보보호핵심원천기술개발사업인 생성형 AI 역기능 억제를 위한 국민 체감형 플랫폼 구축 토대를 견고히 다져 미래 사이버 보안을 위한 AI 기술 개발로 사회에 이바지할 수 있도록 앞장서겠다”고 밝혔다.
[박은주 기자(boan5@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박은주기자 기사보기
[2024-09-19] 
.jpg)
