AI의 급속한 발전과 파급력으로 AI가 촉발하는 위협 급부상
공급망 공격, 랜섬웨어, APT 공격 등 지속적으로 사이버 위협 고도화
AI 활용한 인텔리전스 등 제로트러스트 기반 대응 역량 필요
[보안뉴스 이소미 기자] “공격자들이 AI를 활용해 공격하거나 내부 침투하는 것은 아직까지는 제한적이나 지속적으로 확장되고 있어요. 다양한 목적의 소셜엔지니어링 공격을 사용하고 있고, LLM 기술과 이미지 등을 활용한 스피어피싱 및 SMS 공격을 펼치고 있죠. 정보 작전 목적의 공격 활동에는 다양한 방식의 AI를 활용하고 있는데, 이것이 많은 부분 사실로 확인되고 있죠.”
AI의 급속한 발전과 파급력으로 AI가 촉발한 보안위협이 점점 가속화되고 있다. 공급망을 통한 침투, 랜섬웨어, APT 공격 등으로 인해 사이버 위협이 지속적으로 고도화되고 있다.
이러한 AI-Driven Threats에 대해 주목한 대통령 사이버 특별보좌관인 임종인 고려대학교 정보보호대학원 석좌교수는 “AI 해킹 등이 연구되고 있으며, 모델에 백도어나 트로이목마 등을 통해 AI 결과를 공격자가 원하는 형태로 조작하는 위협 가능성이 나타나고 있다”고 우려했다.
특히 우리나라는 지정학적 리스크로 북한, 중국, 러시아의 사이버 위협이 존재한다. 북한은 사이버공격으로 2023년 10억 달러, 2022년 16억 5천달러를 탈취하는 등 사이버공격이 경제적 목적으로 쓰이고 있다는 게 임 특보의 설명이다.
이 뿐만이 아니다. 정치적 목적의 딥페이크가 유포되는 사례들이 지속되고 있다. 바이든 대통령 목소리를 조작한 투표 거부 독려 로봇콜 사례가 발생했고, 우리나라에서는 윤석열 대통령 가짜 양심고백 연설 등 딥페이크 영상이 유포되는 등 AI를 활용한 딥페이크 위험성이 커지고 있다.
AI 위협과 관련해서는 글로벌 차원에서 AI 규제 방안 모색이 필요하다는 지적이 나오고 있다. 지난 2월 뮌헨안보회의에서 AI의 악의적 활용 가능성에 대한 우려가 논의됐으며, 20여개의 주요 테크 기업은 2024년 선거에서 AI 기술의 기만적 사용에 대응하기 위한 협약에 서명했다. 뮌헨안보회의와 함께 진행된 MCSC 2024에서는 사이버 레질리언스, AI의 장점과 리스크, 선거개입 등 3가지 주제로 국가의 사이버안보 대응방안이 논의된 바 있다.
물론 AI는 인간이 할 수 없는 방식으로 복잡한 문제를 처리하고, 복잡한 코드베이스를 바탕으로 한 추론, 그리고 글로벌 규모의 시스템 간 복잡한 상호작용 등 복잡성 위기를 해결하는 데 큰 도움이 된다.
그렇다면 AI 시대에 어떤 대응전략을 펼쳐야 할까? 이에 대해 사이버 리질리언스의 필요성을 강조한 임 특보는 “우크라이나는 2014년 공격 받은 경험을 살려 리질리언스 차원에서 데이터센터를 영국에 있는 클라우드 센터로 옮기고, 위성도 대체할 수 있도록 바꿔 통신이 유지되도록 했다”며 “AI를 리스크에 효과적으로 활용할 수 있어야 한다”고 강조했다.
즉 급속한 AI 발전에 따른 효과적인 위험관리 전략으로, 제로트러스트에 기반한 AI 인텔리전스 등 방어자의 역량 우위 모델을 유지해야 한다는 것이다. 무엇보다 국제 협력의 중요성을 강조한 임 특보는 “AI 등장에 따른 사이버위협 증대는 사이버안보 측면에서 미국과의 동맹을 한 단계 끌어올리는 계기가 됐다”며 “이전 안보 특보 경험과 지금의 사이버특보 역할을 바탕으로 사이버안보 분야의 국제경쟁력을 높이는데 일조할 것”이라고 밝혔다.
[이소미 기자(boan4@boannews.com)]
공급망 공격, 랜섬웨어, APT 공격 등 지속적으로 사이버 위협 고도화
AI 활용한 인텔리전스 등 제로트러스트 기반 대응 역량 필요
[보안뉴스 이소미 기자] “공격자들이 AI를 활용해 공격하거나 내부 침투하는 것은 아직까지는 제한적이나 지속적으로 확장되고 있어요. 다양한 목적의 소셜엔지니어링 공격을 사용하고 있고, LLM 기술과 이미지 등을 활용한 스피어피싱 및 SMS 공격을 펼치고 있죠. 정보 작전 목적의 공격 활동에는 다양한 방식의 AI를 활용하고 있는데, 이것이 많은 부분 사실로 확인되고 있죠.”
[이미지=gettyimagesbank.com]
AI의 급속한 발전과 파급력으로 AI가 촉발한 보안위협이 점점 가속화되고 있다. 공급망을 통한 침투, 랜섬웨어, APT 공격 등으로 인해 사이버 위협이 지속적으로 고도화되고 있다.
이러한 AI-Driven Threats에 대해 주목한 대통령 사이버 특별보좌관인 임종인 고려대학교 정보보호대학원 석좌교수는 “AI 해킹 등이 연구되고 있으며, 모델에 백도어나 트로이목마 등을 통해 AI 결과를 공격자가 원하는 형태로 조작하는 위협 가능성이 나타나고 있다”고 우려했다.
특히 우리나라는 지정학적 리스크로 북한, 중국, 러시아의 사이버 위협이 존재한다. 북한은 사이버공격으로 2023년 10억 달러, 2022년 16억 5천달러를 탈취하는 등 사이버공격이 경제적 목적으로 쓰이고 있다는 게 임 특보의 설명이다.
이 뿐만이 아니다. 정치적 목적의 딥페이크가 유포되는 사례들이 지속되고 있다. 바이든 대통령 목소리를 조작한 투표 거부 독려 로봇콜 사례가 발생했고, 우리나라에서는 윤석열 대통령 가짜 양심고백 연설 등 딥페이크 영상이 유포되는 등 AI를 활용한 딥페이크 위험성이 커지고 있다.
AI 위협과 관련해서는 글로벌 차원에서 AI 규제 방안 모색이 필요하다는 지적이 나오고 있다. 지난 2월 뮌헨안보회의에서 AI의 악의적 활용 가능성에 대한 우려가 논의됐으며, 20여개의 주요 테크 기업은 2024년 선거에서 AI 기술의 기만적 사용에 대응하기 위한 협약에 서명했다. 뮌헨안보회의와 함께 진행된 MCSC 2024에서는 사이버 레질리언스, AI의 장점과 리스크, 선거개입 등 3가지 주제로 국가의 사이버안보 대응방안이 논의된 바 있다.
물론 AI는 인간이 할 수 없는 방식으로 복잡한 문제를 처리하고, 복잡한 코드베이스를 바탕으로 한 추론, 그리고 글로벌 규모의 시스템 간 복잡한 상호작용 등 복잡성 위기를 해결하는 데 큰 도움이 된다.
그렇다면 AI 시대에 어떤 대응전략을 펼쳐야 할까? 이에 대해 사이버 리질리언스의 필요성을 강조한 임 특보는 “우크라이나는 2014년 공격 받은 경험을 살려 리질리언스 차원에서 데이터센터를 영국에 있는 클라우드 센터로 옮기고, 위성도 대체할 수 있도록 바꿔 통신이 유지되도록 했다”며 “AI를 리스크에 효과적으로 활용할 수 있어야 한다”고 강조했다.
즉 급속한 AI 발전에 따른 효과적인 위험관리 전략으로, 제로트러스트에 기반한 AI 인텔리전스 등 방어자의 역량 우위 모델을 유지해야 한다는 것이다. 무엇보다 국제 협력의 중요성을 강조한 임 특보는 “AI 등장에 따른 사이버위협 증대는 사이버안보 측면에서 미국과의 동맹을 한 단계 끌어올리는 계기가 됐다”며 “이전 안보 특보 경험과 지금의 사이버특보 역할을 바탕으로 사이버안보 분야의 국제경쟁력을 높이는데 일조할 것”이라고 밝혔다.
[이소미 기자(boan4@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
이소미기자 기사보기
[2025-04-07] 
.png)
