[보안뉴스 한세희 기자] 최근 이미지 생성 능력이 부쩍 좋아진 챗GPT가 진짜와 구분하기 어려운 여권 이미지까지 만들 수 있는 것으로 나타났다. 금융 앱 등의 비대면 인증 절차가 위험할 수 있다는 우려가 나온다.
폴란드 보안 연구자 보리스 무지엘락은 오픈AI의 GPT-4o 이미지 생성 서비스를 이용해 만든 자신의 가짜 여권 이미지를 X(구 트위터)에 최근 공개했다.
그는 GPT-4o로 5분 안에 만든 여권 이미지로 레볼루트나 바이낸스 등 주요 핀테크 앱 가입에 필요한 고객확인절차(KYC Know Your Customer)를 통과했다고 주장했다. 이들 앱은 비대면 회원 가입 절차에서 신분증 사진 제출만 요구한다.
통상 AI로 위조한 여권 이미지는 폰트나 문서 포맷 등이 어설픈 경우가 많아 쉽게 식별 가능하다. 하지만 최근 AI의 이미지 생성 기능이 개선되면서 금융 앱 등 민감한 디지털 서비스의 비대면 본인 확인 절차가 무력화될 우려가 제기된다. 오픈AI가 최근 공개한 GPT-4o 모델 기반 ‘이미지 생성’ 기능은 지브리스튜디오나 심슨 가족 스타일의 자연스러운 이미지를 생성하거나 4컷 만화를 그리는 등 향상된 이미지 생성 기능으로 화제가 되고 있다.
무지엘락은 “AI의 발달로 인증 절차에서 이미지를 증명으로 사용하는 것은 무의미해졌다”고 우려했다.
한편, 무지엘락이 X 계정에 가짜 여권 생성 사실을 공개한 후 오픈AI는 챗GPT에 여권 위조와 관련된 프로프트를 막은 것으로 보인다.
[한세희 기자(boan@boannews.com)]
폴란드 보안 연구자 보리스 무지엘락은 오픈AI의 GPT-4o 이미지 생성 서비스를 이용해 만든 자신의 가짜 여권 이미지를 X(구 트위터)에 최근 공개했다.
▲챗GPT 이미지 생성 기능으로 만든 정교한 가짜 여권 [출처: 무지엘락 X 계정]
그는 GPT-4o로 5분 안에 만든 여권 이미지로 레볼루트나 바이낸스 등 주요 핀테크 앱 가입에 필요한 고객확인절차(KYC Know Your Customer)를 통과했다고 주장했다. 이들 앱은 비대면 회원 가입 절차에서 신분증 사진 제출만 요구한다.
통상 AI로 위조한 여권 이미지는 폰트나 문서 포맷 등이 어설픈 경우가 많아 쉽게 식별 가능하다. 하지만 최근 AI의 이미지 생성 기능이 개선되면서 금융 앱 등 민감한 디지털 서비스의 비대면 본인 확인 절차가 무력화될 우려가 제기된다. 오픈AI가 최근 공개한 GPT-4o 모델 기반 ‘이미지 생성’ 기능은 지브리스튜디오나 심슨 가족 스타일의 자연스러운 이미지를 생성하거나 4컷 만화를 그리는 등 향상된 이미지 생성 기능으로 화제가 되고 있다.
무지엘락은 “AI의 발달로 인증 절차에서 이미지를 증명으로 사용하는 것은 무의미해졌다”고 우려했다.
한편, 무지엘락이 X 계정에 가짜 여권 생성 사실을 공개한 후 오픈AI는 챗GPT에 여권 위조와 관련된 프로프트를 막은 것으로 보인다.
[한세희 기자(boan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
한세희기자 기사보기
[2025-04-07] 
