해킹·방어 모두 AI 기반 시대로…“생성형 AI, 국방 역량·공격 수법 동시 진화”
AI 에이전트·LLM, 실제 사이버 공격·방어 자동화 확보
APT·TTP 등 고도화 공격 예측도 AI가 선도…“행동 패턴 기반 대응전략 강화해야”
“AI를 이용한 사이버 전장은 이미 눈 앞에 와 있습니다. 빨리 대응하지 않으면 도태될 것입니다.”
[보안뉴스 여이레 기자] 윤인수 카이스트 전기및전자공학부 교수가 21일 서울 강남구에서 열린 ‘화이트햇 2025’ 콘퍼런스에서 한 말이다. 그는 이날 ‘AI가 변화시킬 사이버 전장’이란 주제의 강연에서 AI가 해커들에게 악용되고 있는 사례와 이를 방지하기 위한 방법을 제언했다.
최근 초대형언어모델(LLM)을 해킹에 활용하거나, LLM 기반의 해킹 전용 모델을 만드는 등 AI를 사이버 공격에 악용하는 추세에 우려가 크다. 초기 AI 기반 해킹은 기능이 제한적이었지만, 최근 1년 사이 인간 최고 해커 수준까지 도달하는 사례도 등장했다고 윤 교수는 진단했다.
하지만 AI를 보안에 선용한 경우도 많다. 구글은 LLM 기반 시스템으로 크롬 브라우저 취약점을 발견했다. 윤 교수는 “방어측이 AI를 쓰지 않으면 무조건 뒤처진다”며 AI 도입은 선택이 아니라 필수라고 했다.
그는 “AI 전문 민간 기업과 연합·협력을 통해 국방 역량을 빠르게 키우는 미국 전략을 주의깊게 볼 필요가 있다”며 “오픈소스 및 상용 모델을 병행하고 내외부 데이터 활용 경계도 탄력적으로 운영해야 한다”고 제안했다.
기업과 군, 기관 등에서 변화와 실패에 유연하게 대응할 수 있는 문화가 필요하다는 점도 짚었다. 그는 “사이버 보안은 업무 효율성과 균형을 이뤄야 하며, 변화에 대한 과도한 책임 추궁이나 위축은 혁신의 장애가 된다”고 말했다.
이날 행사에선 AI가 사이버 보안에 가져올 기회와 위협을 다루는 세션들이 함께 열렸다. 박상돈 포스텍 인공지능대학원 교수는 ‘미래전을 위한 에이전틱 AI: 기회와 위험’이란 주제로 발표하며, 국방·보안 분야에서 AI 에이전트의 역할이 혁신적으로 재해석되고 있음을 강조했다.
사이버 가상 훈련장에서 공수 양측 역할을 맡는 AI 등 상황에 맞게 사용할 수 있는 에이전틱 AI 사례 등을 전했다. 국내 연구진이 LLM을 활용해 국방·사이버보안 분야 소스코드 취약점을 자동 탐지하고, 패치까지 수행할 수 있도록 개발한 AI 기반 시스템 ‘아틀란티스 AI’도 소개했다.
그는 AI 에이전트가 보안 임무에 투입되는 만큼 윤리적 활용, 투명한 의사결정 구조, 피해 최소화 등 시스템적 장치가 기업과 군, 사회에 요구된다고 강조했다.
김휘강 고려대학교 사이버국방학과 교수는 ‘APT그룹의 TTP 기반 사이버공격 예측 AI모델’에 대한 발표에서 AI를 활용한 행동 패턴(TTP) 기반 예측·방어의 중요성을 설명했다. 해커의 IP와 도메인, 해시값 등 단순 IoC 차단은 해커가 신속하게 우회할 수 있지만, 그들의 근본적 TTP는 쉽게 바뀌지 않기 때문이다.
최창희 세종대학교 사이버국방학과 교수는 AI 에이전트 기반으로 진화하는 사이버 공방 시뮬레이션을 소개했다.
1세대는 단순 경로만 계산하는 정적 모델, 2세대는 상태 기반의 동적 시뮬레이션이 중심이었다면, 3세대에 들어서 AI 에이전트가 공격과 방어 양측에 도입되고 가상 환경에서 실전처럼 강화학습하는 훈련이 시작됐다는 설명이다. 이제 LLM이 결합된 4세대 ‘에이전트 AI 전장’ 시대에 대비해야 한다고 최 교수는 제언했다.
[여이레 기자(gore@boannews.com)]
AI 에이전트·LLM, 실제 사이버 공격·방어 자동화 확보
APT·TTP 등 고도화 공격 예측도 AI가 선도…“행동 패턴 기반 대응전략 강화해야”
“AI를 이용한 사이버 전장은 이미 눈 앞에 와 있습니다. 빨리 대응하지 않으면 도태될 것입니다.”
[보안뉴스 여이레 기자] 윤인수 카이스트 전기및전자공학부 교수가 21일 서울 강남구에서 열린 ‘화이트햇 2025’ 콘퍼런스에서 한 말이다. 그는 이날 ‘AI가 변화시킬 사이버 전장’이란 주제의 강연에서 AI가 해커들에게 악용되고 있는 사례와 이를 방지하기 위한 방법을 제언했다.
▲윤인수 카이스트 전기및전자공학부 교수 [자료: 보안뉴스]
최근 초대형언어모델(LLM)을 해킹에 활용하거나, LLM 기반의 해킹 전용 모델을 만드는 등 AI를 사이버 공격에 악용하는 추세에 우려가 크다. 초기 AI 기반 해킹은 기능이 제한적이었지만, 최근 1년 사이 인간 최고 해커 수준까지 도달하는 사례도 등장했다고 윤 교수는 진단했다.
하지만 AI를 보안에 선용한 경우도 많다. 구글은 LLM 기반 시스템으로 크롬 브라우저 취약점을 발견했다. 윤 교수는 “방어측이 AI를 쓰지 않으면 무조건 뒤처진다”며 AI 도입은 선택이 아니라 필수라고 했다.
그는 “AI 전문 민간 기업과 연합·협력을 통해 국방 역량을 빠르게 키우는 미국 전략을 주의깊게 볼 필요가 있다”며 “오픈소스 및 상용 모델을 병행하고 내외부 데이터 활용 경계도 탄력적으로 운영해야 한다”고 제안했다.
기업과 군, 기관 등에서 변화와 실패에 유연하게 대응할 수 있는 문화가 필요하다는 점도 짚었다. 그는 “사이버 보안은 업무 효율성과 균형을 이뤄야 하며, 변화에 대한 과도한 책임 추궁이나 위축은 혁신의 장애가 된다”고 말했다.
이날 행사에선 AI가 사이버 보안에 가져올 기회와 위협을 다루는 세션들이 함께 열렸다. 박상돈 포스텍 인공지능대학원 교수는 ‘미래전을 위한 에이전틱 AI: 기회와 위험’이란 주제로 발표하며, 국방·보안 분야에서 AI 에이전트의 역할이 혁신적으로 재해석되고 있음을 강조했다.
사이버 가상 훈련장에서 공수 양측 역할을 맡는 AI 등 상황에 맞게 사용할 수 있는 에이전틱 AI 사례 등을 전했다. 국내 연구진이 LLM을 활용해 국방·사이버보안 분야 소스코드 취약점을 자동 탐지하고, 패치까지 수행할 수 있도록 개발한 AI 기반 시스템 ‘아틀란티스 AI’도 소개했다.
그는 AI 에이전트가 보안 임무에 투입되는 만큼 윤리적 활용, 투명한 의사결정 구조, 피해 최소화 등 시스템적 장치가 기업과 군, 사회에 요구된다고 강조했다.
김휘강 고려대학교 사이버국방학과 교수는 ‘APT그룹의 TTP 기반 사이버공격 예측 AI모델’에 대한 발표에서 AI를 활용한 행동 패턴(TTP) 기반 예측·방어의 중요성을 설명했다. 해커의 IP와 도메인, 해시값 등 단순 IoC 차단은 해커가 신속하게 우회할 수 있지만, 그들의 근본적 TTP는 쉽게 바뀌지 않기 때문이다.
최창희 세종대학교 사이버국방학과 교수는 AI 에이전트 기반으로 진화하는 사이버 공방 시뮬레이션을 소개했다.
1세대는 단순 경로만 계산하는 정적 모델, 2세대는 상태 기반의 동적 시뮬레이션이 중심이었다면, 3세대에 들어서 AI 에이전트가 공격과 방어 양측에 도입되고 가상 환경에서 실전처럼 강화학습하는 훈련이 시작됐다는 설명이다. 이제 LLM이 결합된 4세대 ‘에이전트 AI 전장’ 시대에 대비해야 한다고 최 교수는 제언했다.
[여이레 기자(gore@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
여이레기자 기사보기
.jpg)
.png)
.jpg)
.jpg)
