“AI 공격은 AI로 막아야” MS, 자율형 보안 에이전트 ‘Project Perception’ 공개

장광운 마이크로소프트 보안전략고문, ISEC 2026에서 MDASH와 Project Perception 소개

[보안뉴스 원병철 기자] 단순히 악성 코드를 작성하거나 피싱 이메일을 다듬는 보조 도구(AI-assisted)에 머물던 생성형 AI가 스스로 공격 목표를 설정하고 취약점을 찾아 침투까지 완수하는 자율형 ‘에이전트(Agent)’로 진화했다.

마이크로소프트는 이처럼 가속화되는 AI 기반 사이버 위협에 맞서, 멀티 에이전트 및 멀티 모델 인프라를 결합한 차세대 자율형 보안 시스템 ‘프로젝트 퍼셉션(Project Perception)’을 소개했다.

AI가 주도하는 자율형 해킹의 실체... ‘에이전트 스웜’ 공격의 도래
장광운 마이크로소프트 보안전략고문은 ‘ISEC 2026’에서 “사이버 보안의 법칙이 완전히 바뀌고 있다”고 경고했다. 지난 2021년 AI 보조 수준이었던 공격 방식은 2025년 단일 에이전트 기반 공격을 거쳐, 현재는 복수의 AI 에이전트가 연쇄적으로 결합해 시스템을 파괴하는 ‘에이전트 스웜(Agent Swarm) 공격’ 단계에 도달했다.

실제로 지난 2025년 9월, Anthropic이 탐지한 자율형 해킹 사례(중국 연계 추정 조직 GTG-1002)는 업계에 큰 충격을 주었다. 글로벌 기술기업 및 정부기관 등 30여 개 조직을 겨냥한 이 공격에서, AI 모델(Claude Code)은 공격 전체 과정의 80~90%를 인간의 개입 없이 스스로 수행했다. 인간 오퍼레이터는 초기 목표 설정과 최소한의 의사결정만 담당했을 뿐, AI가 시스템 정찰, 취약점 조사 및 익스플로잇 코드 작성, 권한 상승, 데이터 탈취 및 결과 문서화까지 6단계 킬체인(Kill Chain)을 자율적으로 완수했다.

장광운 보안전략고문은 “공격자는 이미 기계의 속도로 대규모 병렬 공격을 감행하고 있습니다. 반면 방어자가 파편화된 보안 도구와 수작업 대응 프로세스에 의존한다면 격차는 점점 벌어질 수밖에 없습니다. 방어자 역시 에이전트 기반의 자동화 스택을 갖춰야 할 때입니다”라고 밝혔다.

방어의 자동화: ‘MDASH’와 ‘Project Perception’
마이크로소프트가 제시하는 대안인 ‘Project Perception’은 실시간 위협 신호(Signals)와 엔터프라이즈 맥락(Context)을 바탕으로 복수의 전용 에이전트가 협력하는 자율형 보안 루프 구조를 갖추고 있다.

Project Perception은 단일 대형언어모델(LLM)에 의존하지 않고, 작업 특성에 맞게 여러 모델을 조합하는 ‘MDASH(Multi-model)’ 앙상블 체계를 적용했다. 특히 MS의 보안 전문성을 이식한 특화 모델인 ‘MAI-Cyber-1’ 및 ‘MAI-Cyber-1-Flash’를 도입하여 소프트웨어 취약점 분석 정확도를 비약적으로 높이면서도 운영 비용을 획기적으로 절감했다.

그 결과, 사이버 보안 평가 벤치마크인 CyberGym 리더보드에서 96.55%라는 압도적인 성공률을 기록하며 인간 및 기존 모델이 놓치기 쉬운 미세한 취약점까지 찾아내는 성능을 입증했다.

장광운 보안전략고문은 “Project Perception은 마이크로소프트 디펜더(Microsoft Defender)를 시작으로 8월 3일부터 고객 대상 프리뷰가 시작되었으며, 오는 9월부터 대상 고객군을 한층 확대해 정식 상용화 수순을 밟을 예정”이라고 설명했다.

[원병철 기자(boanone@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다