AI 진화가 불러온 사이버전의 패러다임 전환
[보안뉴스=박기현 기술사/한국원자력연구원] 기술의 발전은 언제나 새로운 가능성과 함께 예상치 못한 위험을 동반해 왔다. 1990년대 인터넷의 보급은 정보 접근성을 비약적으로 향상시켰지만 해킹, 악성코드, DDoS 공격이라는 사이버 위협도 동시에 출현시켰다. 모바일 혁명은 손안의 편리함을 제공했지만, 스마트폰 기반 악성코드와 금융사기를 급증시켰으며, 클라우드 컴퓨팅의 확산은 데이터 유출과 공급망 공격이라는 복잡한 과제를 남겼다. 이처럼 신기술은 늘 악용 가능성을 내포하고 있으며, 보안은 이러한 위협에 대응하기 위해 기술을 지속적으로 발전시켜 왔다.
그리고 지금, 우리는 또 다른 거대한 변곡점 앞에 서 있다. 바로 인공지능(AI)의 본격적인 사이버 보안 영역 진입이다. AI는 방대한 데이터를 실시간으로 분석하고 패턴을 학습하며 복잡한 의사결정을 자동으로 수행하는 능력을 갖추고 있다. 하지만, 이 강력한 능력은 공격자와 방어자 모두에게 거의 동시에 제공되고 있다는 점에서 기존의 기술 발전과는 또 다른 양상을 보이고 있다.
첫 번째로 딥페이크(Deepfake) 기술을 활용한 사회공학적 공격이 고도화되고 있다. 2024년 홍콩에서는 생성형 AI 기반 딥페이크 기술을 활용한 금융 범죄로 약 340억원이 유출됐다. 당시 피해 금융회사의 재무 직원은 CFO로부터 기밀 유지하에 긴급 송금 요청 메일을 받았다. 처음에는 피싱 메일로 의심했으나, 곧이어 실제 CFO의 얼굴과 목소리를 복제한 딥페이크 화상회의가 진행되자 의심을 거두고 대규모 송금을 수행했다. 공격자들은 피해자의 SNS 활동과 공개된 데이터를 바탕으로 생성형 AI 기반의 딥페이크 영상을 실시간으로 만들어냈다. 즉, AI 기술이 단순한 피싱 공격을 넘어, 실시간 화상회의라는 신뢰기반 소통 채널까지 침투해 사회공학적 기법의 새로운 차원을 열었다는 것을 보여주는 사례다.
한편 국내에서는 미성년자들이 딥페이크 기술을 장난이나 호기심의 수단으로 악용하는 사례도 늘고 있어 국가적 차원에서 AI 악용 방지를 위한 윤리 인식 제고와 기술적 대응의 필요성이 함께 제기되고 있다.
두 번째로 기존의 해킹에서 많은 시간과 전문 인력이 투입되던 노동집약적 과정이 빠르게 자동화되고 있다. 과거의 해킹 공격은 시스템의 취약점을 파악하기 위해 수많은 코드를 직접 분석(Code Auditing)하고, 방대한 로그와 네트워크 데이터를 일일이 점검해야 했다. 그러나 현재는 AI가 갖춘 자연어 처리(NLP, Natural Language Processing) 능력과 강화학습(Reinforcement Learning) 기반의 자동화 기술을 활용해 이 모든 과정을 신속하고 정확하게 처리할 수 있게 되었다. 대표적으로 FraudGPT, WarmGPT는 LLM(Large Language Model) 기반의 취약점 분석 및 악성코드 생성 자동화 프레임워크로 알려져 있다.
이와 같은 도구를 활용해 CVE(Common Vulnerability and Exposures) 보고서 및 보안 권고문 등을 학습하여 취약점 분석과 개념증명(Proof of Concept) 형태의 Exploit 코드 생성까지 자동화할 수 있는 수준에 이르렀다. 이제는 비전문가도 원하는 동작 구조를 입력하여 랜섬웨어, 원격제어 등 기능을 포함한 고도화된 악성코드를 생성 및 배포할 수 있게 된 것이다. 기존 대비 훨씬 적은 자원으로도 고도화된 공격이 가능해졌으며, 사이버 위협은 더욱 빠르고 지속적으로 전개되고 있다.
세 번째로 국가 및 조직 단위의 해커 그룹에서도 AI 활용이 증가하고 있다. 2025년 1월 구글(Google) 위협 인텔리전스 그룹(GTIG, Google Threat Intelligence Group)의 보고서에 따르면, 중국·이란·북한·러시아 등 57개국 이상이 Google’s Gemini와 같은 AI 도구를 이용한 사이버전(Cyber Warfare)을 전개하고 있다. 특히 공격 인프라 조사, 취약점 분석, 페이로드 개발, 악성 스크립트 생성, 탐지 회피 기술 등 전 과정에 AI를 적용함으로써 사이버 공격의 자동화와 고도화를 실현하고 있다. 이는 기존 보안 체계의 허점을 정밀하게 파고들 수 있게 하며, 방어 측에 새로운 문제를 제기하고 있다. 이러한 흐름은 전통적인 사람 중심의 보안 운영에서 AI 기반 지능형 방어 체계로 전환해야 할 필요성을 더욱 부각시키고 있다.
AI를 활용한 사이버 공격이 점차 정교해지고 자동화되며, 룰 기반 탐지나 서명 중심의 기존 보안 체계는 새로운 공격을 실시간 식별 및 대응하는 것에 한계를 드러내고 있다. 특히 Zeroday 공격, 고도화된 APT 공격 등은 기존 대응 방식으로 효과적 대응이 어려운 것이 현실이다. 이를 극복하기 위해 보안 기술 역시 빠르게 진화하고 있으며, 특히 AI 기술을 접목한 능동형 보안 체계의 필요성이 크게 주목받고 있다. 공격 기술이 AI를 통해 고도화되고 있는 만큼, 방어 기술 또한 예측과 탐지를 넘어 실시간 대응이 가능한 AI 중심의 전략으로 전환되는 것이다.
첫 번째로 사이버 위협 대응 분야에서 AI를 핵심 기술로 활용하며 그 범위를 넓혀가고 있다. 대표적으로 금융보안원에서는 다수 기관이 연합학습(Federated Learning) 기반의 고성능 AI 모델을 공동 활용하여, 정교해지는 금융 범죄에 신속히 대응하기 위한 체계 구축을 연구하고 있다. 연합학습을 통해 민감한 원시 데이터를 외부에 공유하지 않고 위협 탐지 모델을 공동 훈련 및 활용할 수 있다는 것이 핵심이다. 또한, 보안관제센터(SOC, Security Operation Center)에서는 AI 기반 XDR(eXtended Detection and Response) 시스템을 구축하여 선제적 방어 체계를 고도화하고 있다. 기존의 SIEM(Security Information and Event Management)과 SOAR(Security Orchestration, Automation and Response) 시스템으로 대규모 데이터를 통합 분석하며, 이를 기반으로 AI 모델이 위협 수준을 자동 평가하고 정책 수립에 기여한다.
머신러닝 기반 이상 탐지 모델은 정상 행위에서 벗어난 패턴을 실시간 분류하며, 시계열 분석과 강화학습을 통해 행위 흐름을 학습하고 공격 시나리오를 정밀하게 식별한다. 더 나아가 LLM을 활용한 의사결정 지원 기능은 과거 사례 기반의 자동화된 대응 방안과 정책 수립까지 제안하며, 보안 대응의 지능화 수준을 한층 끌어올리고 있다. 이처럼 금융과 보안관제를 중심으로 AI 기술이 적극 접목되며, 사이버 위협 대응 역량을 실질적으로 끌어올리는 핵심 기술로 자리 잡아 가고 있다.
두 번째로 AI의 활용 범위는 시스템 취약점 분석과 Exploit 코드 작성 영역에서도 두드러진다. 미국 국방고등연구계획국(DARPA, Defense Advanced Research Projects Agency)에서 주최하는 AI 사이버 챌린지(AIxCC, AI Cyber Challenge)는 AI를 이용해 소프트웨어의 취약점을 자율적으로 발견하고 수정하는 능력을 평가하는 대회로 세계적 주목을 받고 있다. 이는 기존의 사람 중심 보안점검을 넘어 AI가 능동적으로 보안 취약점을 탐지하고 패치까지 자동화하는 흐름이 현실화되고 있음을 보여준다. AIxCC는 AI가 보안 강화의 주도적 역할을 맡아 방향성을 잡아가는 대표적 사례로 평가되고 있으며, 이러한 기술들은 앞으로 대규모 시스템의 취약점 발굴 비용과 패치 속도를 획기적으로 개선할 잠재력을 지니고 있다.
마지막으로 AI는 사이버 위협 인텔리전스(CTI, Cyber Threat Intelligence) 데이터 수집 및 분석 영역에서도 강력한 경쟁력을 보인다. 다크웹, 해커 포럼, SNS 등과 같은 비정형 데이터 소스에서 방대한 데이터를 스스로 수집하고 분석하여 최신 공격 기법, 목표, 악성코드 샘플 등 유의미한 위협 정보를 신속히 식별할 수 있다. 특히 NLP 기술을 활용하여 각종 위협 인텔리전스 보고서, 해킹 포럼 내의 대화와 은어, 사이버 공격 동향 등 비구조적 데이터를 실시간으로 분석하고, 이를 탐지 시스템에 즉각 반영할 수 있다. AI 기반 CTI적용은 위협의 초기 징후를 사전에 식별하고, 탐지 정확도와 대응 속도를 획기적으로 향상시키는 것에 핵심적인 역할을 하고 있다.
결과적으로, AI를 활용한 사이버 전장에서 공격자와 방어자의 공방은 한층 더 치열해지고 있다. 공격자는 AI로 방어 시스템의 빈틈을 정교하게 파악하고, 방어자는 AI를 활용해 선제적으로 위협을 예측하고 차단한다. 생성형 AI와 강화학습 기반 기술이 도입되면서 “AI가 만든 위협을 AI로 막는 시대”가 도래한 것이다. 이로 인해 사이버보안의 중심 기술로 자리 잡은 AI는 이제 선택이 아닌 필수가 되었으며, 이에 따라 조직과 보안 전문가에게 요구되는 역량 역시 빠르게 변화하고 있다. 단순히 AI 도구를 운용하는 수준을 넘어, AI 기술의 보안 적용에 대한 기술적 이해와 시스템 최적화 역량, 악용 가능성에 대한 분석력 등 실전적인 역량을 갖춰야 한다.
사이버전의 주도권은 더 이상 전통적 보안 프로세스로 지킬 수 있는 것이 아니다. 속도, 정밀도, 적응력을 모두 갖춘 AI 기반 보안 역량이 그 주도권을 좌우하는 시대가 열린 것이다. 이제 우리는 정형화된 대응 체계로는 새로운 위협을 방어할 수 없는 전환점 위에 서 있다. AI를 중심에 둔 보안 전략 수립과 체계 고도화가 실질적인 경쟁력이 되며, 이것이 가능한 자만이 변화하는 사이버전을 이끌 수 있다. 사이버전의 판이 바뀐 지금, 이를 주도할 수 있는 주체는 바로 준비된 사람과 준비된 조직이다. AI를 외면해서는 안 되며, 직시하고 지배해야 한다. 이제, AI를 선점하는 자가 사이버전을 선도할 것이다.
[글_박기현 기술사/한국원자력연구원]
필자 소개_
- 정보관리기술사
- 한국정보공학기술사회 미래융합기술원 보안분과 위원
[보안뉴스=박기현 기술사/한국원자력연구원] 기술의 발전은 언제나 새로운 가능성과 함께 예상치 못한 위험을 동반해 왔다. 1990년대 인터넷의 보급은 정보 접근성을 비약적으로 향상시켰지만 해킹, 악성코드, DDoS 공격이라는 사이버 위협도 동시에 출현시켰다. 모바일 혁명은 손안의 편리함을 제공했지만, 스마트폰 기반 악성코드와 금융사기를 급증시켰으며, 클라우드 컴퓨팅의 확산은 데이터 유출과 공급망 공격이라는 복잡한 과제를 남겼다. 이처럼 신기술은 늘 악용 가능성을 내포하고 있으며, 보안은 이러한 위협에 대응하기 위해 기술을 지속적으로 발전시켜 왔다.
[자료: gettyimagesbank]
그리고 지금, 우리는 또 다른 거대한 변곡점 앞에 서 있다. 바로 인공지능(AI)의 본격적인 사이버 보안 영역 진입이다. AI는 방대한 데이터를 실시간으로 분석하고 패턴을 학습하며 복잡한 의사결정을 자동으로 수행하는 능력을 갖추고 있다. 하지만, 이 강력한 능력은 공격자와 방어자 모두에게 거의 동시에 제공되고 있다는 점에서 기존의 기술 발전과는 또 다른 양상을 보이고 있다.
첫 번째로 딥페이크(Deepfake) 기술을 활용한 사회공학적 공격이 고도화되고 있다. 2024년 홍콩에서는 생성형 AI 기반 딥페이크 기술을 활용한 금융 범죄로 약 340억원이 유출됐다. 당시 피해 금융회사의 재무 직원은 CFO로부터 기밀 유지하에 긴급 송금 요청 메일을 받았다. 처음에는 피싱 메일로 의심했으나, 곧이어 실제 CFO의 얼굴과 목소리를 복제한 딥페이크 화상회의가 진행되자 의심을 거두고 대규모 송금을 수행했다. 공격자들은 피해자의 SNS 활동과 공개된 데이터를 바탕으로 생성형 AI 기반의 딥페이크 영상을 실시간으로 만들어냈다. 즉, AI 기술이 단순한 피싱 공격을 넘어, 실시간 화상회의라는 신뢰기반 소통 채널까지 침투해 사회공학적 기법의 새로운 차원을 열었다는 것을 보여주는 사례다.
한편 국내에서는 미성년자들이 딥페이크 기술을 장난이나 호기심의 수단으로 악용하는 사례도 늘고 있어 국가적 차원에서 AI 악용 방지를 위한 윤리 인식 제고와 기술적 대응의 필요성이 함께 제기되고 있다.
두 번째로 기존의 해킹에서 많은 시간과 전문 인력이 투입되던 노동집약적 과정이 빠르게 자동화되고 있다. 과거의 해킹 공격은 시스템의 취약점을 파악하기 위해 수많은 코드를 직접 분석(Code Auditing)하고, 방대한 로그와 네트워크 데이터를 일일이 점검해야 했다. 그러나 현재는 AI가 갖춘 자연어 처리(NLP, Natural Language Processing) 능력과 강화학습(Reinforcement Learning) 기반의 자동화 기술을 활용해 이 모든 과정을 신속하고 정확하게 처리할 수 있게 되었다. 대표적으로 FraudGPT, WarmGPT는 LLM(Large Language Model) 기반의 취약점 분석 및 악성코드 생성 자동화 프레임워크로 알려져 있다.
이와 같은 도구를 활용해 CVE(Common Vulnerability and Exposures) 보고서 및 보안 권고문 등을 학습하여 취약점 분석과 개념증명(Proof of Concept) 형태의 Exploit 코드 생성까지 자동화할 수 있는 수준에 이르렀다. 이제는 비전문가도 원하는 동작 구조를 입력하여 랜섬웨어, 원격제어 등 기능을 포함한 고도화된 악성코드를 생성 및 배포할 수 있게 된 것이다. 기존 대비 훨씬 적은 자원으로도 고도화된 공격이 가능해졌으며, 사이버 위협은 더욱 빠르고 지속적으로 전개되고 있다.
세 번째로 국가 및 조직 단위의 해커 그룹에서도 AI 활용이 증가하고 있다. 2025년 1월 구글(Google) 위협 인텔리전스 그룹(GTIG, Google Threat Intelligence Group)의 보고서에 따르면, 중국·이란·북한·러시아 등 57개국 이상이 Google’s Gemini와 같은 AI 도구를 이용한 사이버전(Cyber Warfare)을 전개하고 있다. 특히 공격 인프라 조사, 취약점 분석, 페이로드 개발, 악성 스크립트 생성, 탐지 회피 기술 등 전 과정에 AI를 적용함으로써 사이버 공격의 자동화와 고도화를 실현하고 있다. 이는 기존 보안 체계의 허점을 정밀하게 파고들 수 있게 하며, 방어 측에 새로운 문제를 제기하고 있다. 이러한 흐름은 전통적인 사람 중심의 보안 운영에서 AI 기반 지능형 방어 체계로 전환해야 할 필요성을 더욱 부각시키고 있다.
AI를 활용한 사이버 공격이 점차 정교해지고 자동화되며, 룰 기반 탐지나 서명 중심의 기존 보안 체계는 새로운 공격을 실시간 식별 및 대응하는 것에 한계를 드러내고 있다. 특히 Zeroday 공격, 고도화된 APT 공격 등은 기존 대응 방식으로 효과적 대응이 어려운 것이 현실이다. 이를 극복하기 위해 보안 기술 역시 빠르게 진화하고 있으며, 특히 AI 기술을 접목한 능동형 보안 체계의 필요성이 크게 주목받고 있다. 공격 기술이 AI를 통해 고도화되고 있는 만큼, 방어 기술 또한 예측과 탐지를 넘어 실시간 대응이 가능한 AI 중심의 전략으로 전환되는 것이다.
첫 번째로 사이버 위협 대응 분야에서 AI를 핵심 기술로 활용하며 그 범위를 넓혀가고 있다. 대표적으로 금융보안원에서는 다수 기관이 연합학습(Federated Learning) 기반의 고성능 AI 모델을 공동 활용하여, 정교해지는 금융 범죄에 신속히 대응하기 위한 체계 구축을 연구하고 있다. 연합학습을 통해 민감한 원시 데이터를 외부에 공유하지 않고 위협 탐지 모델을 공동 훈련 및 활용할 수 있다는 것이 핵심이다. 또한, 보안관제센터(SOC, Security Operation Center)에서는 AI 기반 XDR(eXtended Detection and Response) 시스템을 구축하여 선제적 방어 체계를 고도화하고 있다. 기존의 SIEM(Security Information and Event Management)과 SOAR(Security Orchestration, Automation and Response) 시스템으로 대규모 데이터를 통합 분석하며, 이를 기반으로 AI 모델이 위협 수준을 자동 평가하고 정책 수립에 기여한다.
머신러닝 기반 이상 탐지 모델은 정상 행위에서 벗어난 패턴을 실시간 분류하며, 시계열 분석과 강화학습을 통해 행위 흐름을 학습하고 공격 시나리오를 정밀하게 식별한다. 더 나아가 LLM을 활용한 의사결정 지원 기능은 과거 사례 기반의 자동화된 대응 방안과 정책 수립까지 제안하며, 보안 대응의 지능화 수준을 한층 끌어올리고 있다. 이처럼 금융과 보안관제를 중심으로 AI 기술이 적극 접목되며, 사이버 위협 대응 역량을 실질적으로 끌어올리는 핵심 기술로 자리 잡아 가고 있다.
두 번째로 AI의 활용 범위는 시스템 취약점 분석과 Exploit 코드 작성 영역에서도 두드러진다. 미국 국방고등연구계획국(DARPA, Defense Advanced Research Projects Agency)에서 주최하는 AI 사이버 챌린지(AIxCC, AI Cyber Challenge)는 AI를 이용해 소프트웨어의 취약점을 자율적으로 발견하고 수정하는 능력을 평가하는 대회로 세계적 주목을 받고 있다. 이는 기존의 사람 중심 보안점검을 넘어 AI가 능동적으로 보안 취약점을 탐지하고 패치까지 자동화하는 흐름이 현실화되고 있음을 보여준다. AIxCC는 AI가 보안 강화의 주도적 역할을 맡아 방향성을 잡아가는 대표적 사례로 평가되고 있으며, 이러한 기술들은 앞으로 대규모 시스템의 취약점 발굴 비용과 패치 속도를 획기적으로 개선할 잠재력을 지니고 있다.
마지막으로 AI는 사이버 위협 인텔리전스(CTI, Cyber Threat Intelligence) 데이터 수집 및 분석 영역에서도 강력한 경쟁력을 보인다. 다크웹, 해커 포럼, SNS 등과 같은 비정형 데이터 소스에서 방대한 데이터를 스스로 수집하고 분석하여 최신 공격 기법, 목표, 악성코드 샘플 등 유의미한 위협 정보를 신속히 식별할 수 있다. 특히 NLP 기술을 활용하여 각종 위협 인텔리전스 보고서, 해킹 포럼 내의 대화와 은어, 사이버 공격 동향 등 비구조적 데이터를 실시간으로 분석하고, 이를 탐지 시스템에 즉각 반영할 수 있다. AI 기반 CTI적용은 위협의 초기 징후를 사전에 식별하고, 탐지 정확도와 대응 속도를 획기적으로 향상시키는 것에 핵심적인 역할을 하고 있다.
결과적으로, AI를 활용한 사이버 전장에서 공격자와 방어자의 공방은 한층 더 치열해지고 있다. 공격자는 AI로 방어 시스템의 빈틈을 정교하게 파악하고, 방어자는 AI를 활용해 선제적으로 위협을 예측하고 차단한다. 생성형 AI와 강화학습 기반 기술이 도입되면서 “AI가 만든 위협을 AI로 막는 시대”가 도래한 것이다. 이로 인해 사이버보안의 중심 기술로 자리 잡은 AI는 이제 선택이 아닌 필수가 되었으며, 이에 따라 조직과 보안 전문가에게 요구되는 역량 역시 빠르게 변화하고 있다. 단순히 AI 도구를 운용하는 수준을 넘어, AI 기술의 보안 적용에 대한 기술적 이해와 시스템 최적화 역량, 악용 가능성에 대한 분석력 등 실전적인 역량을 갖춰야 한다.
사이버전의 주도권은 더 이상 전통적 보안 프로세스로 지킬 수 있는 것이 아니다. 속도, 정밀도, 적응력을 모두 갖춘 AI 기반 보안 역량이 그 주도권을 좌우하는 시대가 열린 것이다. 이제 우리는 정형화된 대응 체계로는 새로운 위협을 방어할 수 없는 전환점 위에 서 있다. AI를 중심에 둔 보안 전략 수립과 체계 고도화가 실질적인 경쟁력이 되며, 이것이 가능한 자만이 변화하는 사이버전을 이끌 수 있다. 사이버전의 판이 바뀐 지금, 이를 주도할 수 있는 주체는 바로 준비된 사람과 준비된 조직이다. AI를 외면해서는 안 되며, 직시하고 지배해야 한다. 이제, AI를 선점하는 자가 사이버전을 선도할 것이다.
[글_박기현 기술사/한국원자력연구원]
필자 소개_
- 정보관리기술사
- 한국정보공학기술사회 미래융합기술원 보안분과 위원
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
권준기자 기사보기
.jpg)
.jpg)
