.jpg)
KAIST, 산학협력으로 딥페이크 탐지 앱 카이캐치(KaiCatch) 선봬
mp4, avi 등 영상 파일과 BMP, TIF, TIFF, PNG 등 이미지 파일도 지원
향후 iOS 버전은 물론, 외국어 버전도 출시 예정
[보안뉴스 이상우 기자] 인공신경망을 기반으로 딥페이크 및 사진 위변조를 탐지할 수 있는 애플리케이션 ‘카이캐치’ 서비스가 공개됐다. KAIST(총장 이광형) 전산학부 이흥규 교수 연구팀은 딥페이크 탐지 기술을 모바일 앱 형태로 개발해 디지털콘텐츠 위변조 탐지가 필요한 공공기관, 산업계, 언론 및 방송사, 각종 포털 사이트 종사자는 물론 일반인까지도 손쉽게 활용할 수 있을 것이라며 기대감을 나타냈다.
이번 모바일 앱 서비스는 일반인도 손쉽게 디지털콘텐츠 위변조 탐지 기술을 활용할 수 있도록 실용화했다는 점에서 의미가 크다. 사용자는 구글 플레이스토어에서 ‘카이캐치’를 검색해 앱을 설치할 수 있으며, 이를 통해 딥페이크 및 이미지 위변조 분석을 할 수 있다.
주로 사람의 얼굴을 대상으로 하는 딥페이크 기술은 얼굴 교체, 얼굴 재현, 얼굴 속성 변환으로 크게 3가지 유형으로 나눌 수 있다. 그중 얼굴 교체와 얼굴 재현을 악의적으로 사용할 경우, 가짜 뉴스로 인한 사회적 혼란을 야기할 수 있다. 또한, 음란물 제작 등에도 악용돼 개인의 인권을 크게 침해할 수 있으며, 얼굴 속성 변환은 영상 증거를 조작하는데 악용될 수 있다.
연구팀이 개발한 기술은 딥페이크 생성 유형에 상관없이 딥페이크 여부를 탐지하기 위해 영상의 미세 변형 신호 흔적과 미세 이상 신호 흔적 탐지 기술을 적용한 신호처리 및 인공지능 기술로 개발됐다. 이러한 핵심 기술을 통해 얼굴 영역의 미세 변형과 코, 입, 얼굴 윤곽 등 얼굴 내 기하학적 왜곡 발생 가능 영역의 이상 신호 흔적을 분석하고 딥페이크를 탐지한다.
딥페이크 탐지 기술의 경우, avi 나 mp4 형식의 딥페이크 의심 동영상이 주어지면 개별 프레임으로 자른 뒤 분석하고자 하는 프레임을 이미지로 변환한 후 딥페이크 탐지를 수행한다. 동영상 내의 얼굴이 지나치게 작거나(128*128 픽셀 이하) 동영상 내 사람 얼굴이 상당 부분 잘린 경우가 아니면 정상적인 탐지가 가능하다. 따라서 동영상의 한 프레임을 잘라 이미지로 만들어 카이캐치 앱에 넣으면 손쉽게 딥페이크 여부를 확인할 수 있다. 분석 결과는 0에서 100(%) 값으로 표시되며 숫자가 높을수록 딥페이크일 확률이 높은 것으로 판단한다.
사진 위변조 탐지 기술의 경우도 마찬가지로 카이캐치 앱에 해당 이미지를 업로드하면 위변조 분석 결과를 받아 볼 수 있다. 카이캐치는 BMP, TIF, TIFF, PNG 등 무압축, 무손실 압축을 포함해 50여 개의 표준 양자화 테이블과 1,000여 개가 넘는 비표준화된 양자화 테이블에 기반한 JPEG 이미지도 모두 처리할 수 있다. 사진 위변조가 의심되는 이미지를 업로드하면 해당 이미지를 분석한 결과를 시각화한 두 장의 분석 이미지를 도출하며, 분석 이미지 내에 위변조가 의심되는 특징들이 포함된 주요 영역들이 다른 주변 영역과 색상이 크게 다르거나 또는 주요 영역들에만 다양한 색상들이 혼재해 나타나면 해당 영역이 위변조된 것으로 일반인들도 간단하게 판단할 수 있다.
KAIST 이흥규 교수는 “카이캐치는 인공지능과 미세 이상 신호 흔적 분석 기법이라는 첨단 기술을 사용해 다양한 유형의 변형에 대응한 범용성을 가지도록 개발됐다”며, “우리가 예측하지 못하거나 모르는 변형 기법을 사용해도 90% 내외의 높은 신뢰도로 탐지한다“고 말했다.
이어 “이번에는 안드로이드 기반의 모바일 환경에서만 동작하는 앱 서비스 기술로 개발됐지만 가까운 기간 내 애플 iOS 기반의 앱 출시와 함께, 영어, 중국어, 일어 버전도 출시할 계획”이라며, “기존 탐지 기법과는 매우 상이한 기법들을 사용한 위변조 탐지 기술도 실용화해 카이캐치에 추가 탑재 운용함으로써, 탐지가 안 되는 각종 예외 경우를 대폭 줄이도록 노력하겠다”고 덧붙였다.
한편, 이번 연구는 KAIST 창업기업인 디지탈이노텍과 산학협력 연구로 수행했다.
[이상우 기자(boan@boannews.com)]
mp4, avi 등 영상 파일과 BMP, TIF, TIFF, PNG 등 이미지 파일도 지원
향후 iOS 버전은 물론, 외국어 버전도 출시 예정
[보안뉴스 이상우 기자] 인공신경망을 기반으로 딥페이크 및 사진 위변조를 탐지할 수 있는 애플리케이션 ‘카이캐치’ 서비스가 공개됐다. KAIST(총장 이광형) 전산학부 이흥규 교수 연구팀은 딥페이크 탐지 기술을 모바일 앱 형태로 개발해 디지털콘텐츠 위변조 탐지가 필요한 공공기관, 산업계, 언론 및 방송사, 각종 포털 사이트 종사자는 물론 일반인까지도 손쉽게 활용할 수 있을 것이라며 기대감을 나타냈다.
▲카이캐치 앱 화면[자료=보안뉴스]
이번 모바일 앱 서비스는 일반인도 손쉽게 디지털콘텐츠 위변조 탐지 기술을 활용할 수 있도록 실용화했다는 점에서 의미가 크다. 사용자는 구글 플레이스토어에서 ‘카이캐치’를 검색해 앱을 설치할 수 있으며, 이를 통해 딥페이크 및 이미지 위변조 분석을 할 수 있다.
주로 사람의 얼굴을 대상으로 하는 딥페이크 기술은 얼굴 교체, 얼굴 재현, 얼굴 속성 변환으로 크게 3가지 유형으로 나눌 수 있다. 그중 얼굴 교체와 얼굴 재현을 악의적으로 사용할 경우, 가짜 뉴스로 인한 사회적 혼란을 야기할 수 있다. 또한, 음란물 제작 등에도 악용돼 개인의 인권을 크게 침해할 수 있으며, 얼굴 속성 변환은 영상 증거를 조작하는데 악용될 수 있다.
연구팀이 개발한 기술은 딥페이크 생성 유형에 상관없이 딥페이크 여부를 탐지하기 위해 영상의 미세 변형 신호 흔적과 미세 이상 신호 흔적 탐지 기술을 적용한 신호처리 및 인공지능 기술로 개발됐다. 이러한 핵심 기술을 통해 얼굴 영역의 미세 변형과 코, 입, 얼굴 윤곽 등 얼굴 내 기하학적 왜곡 발생 가능 영역의 이상 신호 흔적을 분석하고 딥페이크를 탐지한다.
딥페이크 탐지 기술의 경우, avi 나 mp4 형식의 딥페이크 의심 동영상이 주어지면 개별 프레임으로 자른 뒤 분석하고자 하는 프레임을 이미지로 변환한 후 딥페이크 탐지를 수행한다. 동영상 내의 얼굴이 지나치게 작거나(128*128 픽셀 이하) 동영상 내 사람 얼굴이 상당 부분 잘린 경우가 아니면 정상적인 탐지가 가능하다. 따라서 동영상의 한 프레임을 잘라 이미지로 만들어 카이캐치 앱에 넣으면 손쉽게 딥페이크 여부를 확인할 수 있다. 분석 결과는 0에서 100(%) 값으로 표시되며 숫자가 높을수록 딥페이크일 확률이 높은 것으로 판단한다.
사진 위변조 탐지 기술의 경우도 마찬가지로 카이캐치 앱에 해당 이미지를 업로드하면 위변조 분석 결과를 받아 볼 수 있다. 카이캐치는 BMP, TIF, TIFF, PNG 등 무압축, 무손실 압축을 포함해 50여 개의 표준 양자화 테이블과 1,000여 개가 넘는 비표준화된 양자화 테이블에 기반한 JPEG 이미지도 모두 처리할 수 있다. 사진 위변조가 의심되는 이미지를 업로드하면 해당 이미지를 분석한 결과를 시각화한 두 장의 분석 이미지를 도출하며, 분석 이미지 내에 위변조가 의심되는 특징들이 포함된 주요 영역들이 다른 주변 영역과 색상이 크게 다르거나 또는 주요 영역들에만 다양한 색상들이 혼재해 나타나면 해당 영역이 위변조된 것으로 일반인들도 간단하게 판단할 수 있다.
KAIST 이흥규 교수는 “카이캐치는 인공지능과 미세 이상 신호 흔적 분석 기법이라는 첨단 기술을 사용해 다양한 유형의 변형에 대응한 범용성을 가지도록 개발됐다”며, “우리가 예측하지 못하거나 모르는 변형 기법을 사용해도 90% 내외의 높은 신뢰도로 탐지한다“고 말했다.
이어 “이번에는 안드로이드 기반의 모바일 환경에서만 동작하는 앱 서비스 기술로 개발됐지만 가까운 기간 내 애플 iOS 기반의 앱 출시와 함께, 영어, 중국어, 일어 버전도 출시할 계획”이라며, “기존 탐지 기법과는 매우 상이한 기법들을 사용한 위변조 탐지 기술도 실용화해 카이캐치에 추가 탑재 운용함으로써, 탐지가 안 되는 각종 예외 경우를 대폭 줄이도록 노력하겠다”고 덧붙였다.
한편, 이번 연구는 KAIST 창업기업인 디지탈이노텍과 산학협력 연구로 수행했다.
[이상우 기자(boan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
이상우기자 기사보기
[2024-11-22] .jpg)
.jpg)
.jpg)
.jpg)
.jpg)
