딥페이크의 사회공학적 공격, 대한민국을 흔들다

MAGA 표방 SNS의 딥페이크 영상 활용한 한국 가짜 뉴스 살포

[보안뉴스 원병철 기자] 생성형 AI 기술의 확산으로 딥페이크가 사회적 문제로 떠오른 가운데, 최근에는 실제 촬영된 사진이나 영상마저 ‘AI가 만든 가짜’라고 주장하는 사례가 증가하고 있다. 딥페이크에 대한 경각심이 높아진 점을 역으로 이용해 이른바 ‘거짓 딥페이크 주장’이 여론조작 수법으로 부상한 것이다.

▲딥페이크와 결합해 우리나라 관련 가짜 뉴스를 유포한 MAGA 표방 계정 [출처: X 캡처]

최근 SNS상에서 G7 정상회의 만찬장에서 찍은 이재명 대통령과 도널드 트럼프 미국 대통령의 사진이 ‘가짜 합성’이라는 허위 주장이 제기돼 <보안뉴스>가 사실을 검증해 보도하기도 했다.

이렇게 딥페이크와 결합해 우리나라에 대해 가짜 뉴스를 유포하는 외국발 허위 정보의 심각성도 날로 커지고 있는데, 이 중에는 MAGA’s the Fix, MAGA Guardian 등 MAGA를 표방한 계정들도 있다.

▲‘MAGA’s the Fix와 ‘중국 공산당의 침투’ 게시글 [출처: X 캡처]

팔로워가 5만여명에 달하는 ‘MAGA’s the Fix’는 한국 및 아시아 관련 허위 정보를 유포하는 대표적인 MAGA 표방 계정이다. “중국 공산당의 침투로 한국의 군대와 선거가 부패하고 있다”거나, “중국인들이 한국 선거 시스템의 허점을 이용해 사전투표 기간 투표했다”는 등의 의혹을 제기하는 데 이어, “한국이 설립을 제안한 세계선거기관협의회(A-WEB)가 100여국에서 선거 조작 카르텔을 주도하고 있다”는 등의 주장을 펼쳤다. 특히 이 계정은 한국의 유튜브 영상 등을 왜곡·편집해 사실과 다른 가짜 뉴스를 혼합해 정보 혼란을 유도한 것으로 파악됐다.

▲MAGA Guardian과 ‘중국에 의한 한국 장악’ 게시글 [출처: X 캡처]

팔로워가 1만여명인 ‘MAGA Guardian’ 계정에서도 “한국은 중국에 의해 급속도로 장악을 당하고 있다”거나 “한국은 학생들에게 미국에 대한 증오심을 심어주고, 역사를 왜곡하는 심각한 교육정책을 펼치고 있다”는 취지의 주장을 유포하는 것으로 알려졌다.

▲The SCIF의 부정선거 게시글과 선관위의 팩트체크 카드뉴스 [출처: X 캡처]

트럼프 대통령이 트루스 소셜에 계정을 공유해 화제가 됐던 ‘The SCIF’는 팔로워가 30만6000여명에 달한다. ‘The SCIF’와 미국 정보기관의 특수정보구역인 ‘SCIF’(Sensitive Compartmented Information Facility)의 연관성은 확인되지 않고 있다. 다만 ‘The SCIF’는 스스로를 디지털 정보 조사관이라 부르고, 한국 정치권 관련 음모론을 번번이 게시 중인 것으로 알려졌으며, “미국 납세자들의 세금이 ‘선거 조작’과 같은 글로벌 공작에 악용되고 있고, 한국도 공작 대상 국가에 포함된다”고 주장하기도 했다. 또한 “한국은 선거 부정과 검열의 위협에 직면했다”거나, “한국 선관위가 국제 부정선거 카르텔의 한 축”이라는 등 한국의 부정선거 의혹을 지속적으로 제기해, 한국 선관위가 ‘The SCIF의 부정선거 주장에 대한 설명자료’를 배포하며 적극 반박하기도 했다.

▲The Monarch Report와 ‘한국 여권순위 급락’ 게시글 [출처: X 캡처]

‘The Monarch Report’라는 계정도 한국의 이재명 정부가 중국의 영향권 하에서 정책을 결정하는 것처럼 묘사하는 딥페이크 사진을 게재하는 등 한국에 대해 ‘공산정권’, ‘종교탄압국’이라는 주장을 지속 유포하고 있다. 팔로워가 1만명인 해당 계정은 “현 정부의 과도한 세금, 언론 검열 등으로 한국 여권 순위가 5년만에 급락했다”거나, “한국에는 정치권과 언론 전반에 걸쳐 선거 부정 의혹을 은폐하는 거대 카르텔이 존재한다”는 등의 음모론을 제기하며 여론을 호도하고 있다.

이처럼 SNS상에서 가짜 뉴스와 허위 정보의 심각성이 갈수록 확산하면서, 방송미디어통신위원회는 6월 26일 범부처 협업 대응 체계를 가동하기로 하는 등 정부의 대응도 확산되고 있다. 전문가들은 “해외 SNS 계정들이 한국 관련 허위 주장을 반복적으로 확산시키는 현상은 향후 AI 기반 딥페이크와 결합될 경우 영향력이 더욱 커질 수 있다”며, “국내외 플랫폼과의 협력, 신속한 팩트체크, 미디어 리터러시 제고를 아우르는 종합적인 대응이 필요하다”고 강조했다.

[원병철 기자(boanone@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다