결국... AI 활용한 제로데이 취약점 공격 악성코드 현실화

구글 클라우드 GTIG, 최신 AI 위협 추적 보고서 발표
AI 활용한 제로데이 위협 첫 사례 포착

[보안뉴스 한세희 기자] 구글이 인공지능(AI)을 악용한 제로데이 취약점 공격을 차단했다고 밝혔다.

구글 위협정보그룹(GTIG)은 11일(현지시간) 발표한 최신 AI 위협 추적 보고서에서 “대규모 취약점 공격을 준비하던 범죄 집단이 AI의 도움을 받아 개발한 것으로 추정되는 실제 작동 가능한 제로데이 취약점 공격 코드를 관찰했다”며 “이는 위협 행위자가 AI를 사용해 제로데이 개발에 성공한 최초 사례”라고 밝혔다.

최근 보안 취약점 탐지에 뛰어난 성능을 보이는 AI 모델들이 등장함에 따라 이 같은 제로데이 공격에 AI가 악용될 수 있다는 우려가 현실로 나타난 것이다.

이 공격 코드엔 AI 사용을 뒷받침하는 명확한 흔적들이 있었으나, 최근 관심을 모은 앤트로픽 ‘미토스’를 활용해 개발된 것은 아니라고 구글은 판단했다.

해커들은 소프트웨어 취약점을 이용해 ‘2단계 인증’을 우회하려 한 것으로 조사됐다. GTIG는 이 취약점을 개발사에 통보해 보안 패치를 완료, 위협을 차단했다고 밝혔다.

또 구글은 “북한과 중국 지원을 받는 위협 행위자들도 취약점 분석과 공격 코드 개발에 AI를 적극 활용하고 있다”고 밝혔다.

실제로 북한 APT45 그룹은 AI를 활용해 수천개 공격 코드를 검증하고, 공격 자산을 대규모로 구축한 것으로 조사됐다. 프롬프트를 수천 건 반복 전송해 다양한 취약점을 분석하고, 공격 코드를 검증하는 자동화 연구를 진행하고 있다는 징후를 찾았다는 설명이다.

오픈클로 같은 에이전틱 AI 도구를 이용한 자율적 해킹 공격, 대규모 AI 서비스를 공격에 학용하기 위한 초거대언어모델(LLM) 권한 확보 시도 등도 주의가 필요하다고 GTIG는 밝혔다.

[한세희 기자(hahn@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다