AI 활용한 공격의 고도화, LLM과 RAG 활용해 대응한다

미토스가 불러온 AI를 활용한 고도화된 공격 가능성... AI로 대응하는
ISEC Training Course, 8월 11~12일 ISEC 동시개최 행사로 열려

[보안뉴스 원병철 기자] 인공지능이 피싱 메일 작성이나 악성코드 제작을 보조하는 수준을 넘어, 취약점을 직접 탐색하고 공격 코드를 개발하는 단계로 발전하고 있다. 이러한 변화를 상징적으로 보여준 사례가 이른바 ‘미토스 쇼크’다.

앤트로픽이 2026년 4월 공개한 ‘클로드 미토스 프리뷰’(Claude Mythos Preview)는 주요 운영체제와 웹브라우저를 대상으로 알려지지 않은 취약점을 찾아내고, 일부 취약점에 대해서는 실제 공격 가능성을 검증하는 익스플로잇까지 개발하는 역량을 보였다.

앤트로픽은 미토스가 기존에는 고도로 숙련된 보안 전문가가 수행하던 취약점 연구와 익스플로잇 개발을 빠르게 자동화할 수 있다고 평가하고, 이를 방어 목적으로 활용하기 위한 ‘프로젝트 글로스윙’(Project Glasswing)을 출범했다. 미토스는 악성 AI가 아니라 취약점을 선제적으로 발견하기 위한 방어 기술이지만, 이와 유사한 역량이 공격자에게 활용될 경우 취약점 발견부터 공격 준비까지 걸리는 시간이 크게 단축될 수 있다는 점에서 사이버보안 분야의 중요한 전환점으로 받아들여지고 있다.

최근에는 AI가 공격자의 지시를 보조하는 수준을 넘어 스스로 공격 경로를 찾고 실행하는 ‘자율형 AI 해커’ 사례도 실제로 확인됐다. 허깅페이스는 자사 인프라 침해사고가 처음부터 끝까지 자율형 AI Agent에 의해 수행됐다고 공개했으며, 오픈에이아이(OpenAI)는 허깅페이스 침해사고가 고급 사이버 역량 평가 과정에서 제한된 안전장치로 운용된 자사 모델들이 테스트 환경을 벗어나 허깅페이스 시스템을 공격하면서 발생했다고 밝혔다.

AI 기반 공격은 기존 공격보다 더 빠르게 준비되고 반복적으로 변형될 수 있다. 공격자는 생성형 AI를 이용해 조직과 대상에 맞는 공격 메시지를 만들고, 취약점 분석과 공격 코드 생성을 자동화하며, 탐지 결과에 따라 공격 절차를 변경할 수 있다. 특히 AI Agent가 공격에 활용되면 정찰, 취약점 탐색, 초기 침투, 권한 상승, 내부 이동과 정보 유출 등 여러 공격 단계가 하나의 자동화된 흐름으로 연결될 가능성이 있다.

반면 현재의 보안관제 환경에서는 방화벽, 침입방지 시스템, EDR, SIEM 등에서 매일 대량의 이벤트가 발생한다. 보안담당자는 수많은 경보 가운데 실제 공격과 관련된 정보를 선별하고, 로그와 패킷을 분석하며, 관련 위협정보를 검색해야 한다. 사람이 이 모든 과정을 수작업으로 수행하면 공격의 확산 속도보다 분석과 대응이 늦어질 수 있다.

최신 보안 리포트와 위협 인텔리전스를 유기적으로 결합하면 향후 발생할 공격을 정교하게 예측할 수 있으며, 이는 AI 해커 시대의 대규모 공격에 선제적이고 효율적으로 대응할 수 있다. 다만, AI가 제시하는 분석 결과를 무조건 신뢰하기보다는 어떤 데이터와 보안 자료를 근거로 판단했는지 투명하게 확인하고, 그 신뢰성을 검증할 수 있는 체계를 갖추는 것이 무엇보다 중요하다.

이러한 검증 역량을 제대로 갖추기 위해서는 LLM, RAG, Prompt-Tuning, AI Agent 등 개별 기술을 단편적으로 이해하는 수준을 넘어, 실제 보안 데이터를 활용해 이 기술들을 하나의 실용적인 분석 파이프라인으로 직접 구축해 보는 경험이 필수적인 이유이다.

이런 상황에서 ‘LLM/RAG 기반 사이버 위협 예측 및 예측 AI Agent 구축’을 주제로 8월 11~12일 개최하는 ‘ISEC Training Course’는 실제 RAG 기반의 사이버 위협 대응 방법을 경험해볼 수 있는 최적의 행사로 꼽힌다.

이번 교육의 가장 큰 특징은 생성형 AI의 기능을 단순히 체험하는 과정이 아니라, △직접 보안 데이터를 활용해 RAG 데이터셋을 구축하며 △패킷에서 공격 증거를 추출하고 △LLM과 결합해 위협을 예측하는 전체 과정을 실습한다는 점이다.

때문에 기업 보안담당자는 최신 위협정보와 조직의 보안환경을 함께 분석해 조직에 영향을 줄 수 있는 공격 가능성을 검토하고, 대응 및 보안투자 우선순위를 결정하는 데 도움을 받을 수 있다.

침해사고 분석 담당자는 패킷과 보안 리포트를 결합해 공격 흐름을 분석하고, 다음에 발생할 가능성이 높은 공격 행위를 예측하는 데 활용할 수 있다.

보안관제 담당자는 예측 결과를 기반으로 대량의 이벤트 가운데 우선적으로 확인해야 할 위협을 빠르게 선별할 수 있다.

AI 해커의 등장은 AI가 보안전문가를 완전히 대체한다는 의미가 아니다. 공격자가 수행하던 정보 수집, 취약점 분석, 공격 코드 제작과 도구 선택 과정이 AI를 통해 빠르게 자동화되고 있다는 의미다. 따라서 방어자에게도 AI가 생성한 결과를 검증하고, 신뢰할 수 있는 보안 데이터를 기반으로 AI 분석체계를 구축하며, 조직의 보안업무에 적용할 수 있는 역량이 요구된다.

공격자가 AI를 활용해 더 빠르고 정교한 공격을 수행하는 상황에서, 보안담당자가 기존 방식만을 고수한다면 공격과 방어 사이의 속도 차이는 더욱 커질 수밖에 없다. ‘LLM/RAG 기반 사이버 위협 예측 및 예측 AI Agent 구축’ 과정은 이러한 격차를 줄이고, AI 해커 시대에 필요한 선제적 위협 예측과 보안업무 자동화 역량을 확보하기 위한 실무 중심의 교육이 될 것으로 기대된다.

[원병철 기자(boanone@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다