AI 자산 식별·취약점 평가·공격 경로 분석을 통한 AI 보안 태세 관리 체계 필요성 제시
NIST AI RMF와 차별화된 실행형 보안 방법론으로서 AI-SPM 도입 전략 강조
[연재목차 Part 2. AI 시대 보안 패러다임]
1. AI 시대의 그림자, ‘딥페이크 사기’를 경계하라
2. AI 시대, 번아웃 관리
3. AI 편향과 공정성, 보안에서 무엇이 다른가
4. 설명가능 AI와 인간의 최종 판단
5. AI도 인간과 닮았다
6. AI, ‘안전’과 ‘보안’의 경계를 허물다
7. AI 도입의 딜레마_기회와 위험 사이
8. AI 위험에 대한 2개의 거버넌스
9. 챗봇을 넘어, ‘행동하는 AI’를 통제할 시간
10. AI 시대의 생존 방정식, ‘실행형’ 보안 거버넌스
11. AI 보안관리의 새로운 지평, AI-SPM의 이해와 도입 전략
12. AI 시스템 새로운 위험분석_STPA
13. 에이전트 AI 시대_인간 중심 통제 설계
14. AI와 인간의 동맹_협업모델
15. AI, 보안문화를 재정의하다
[보안뉴스= 김정덕 중앙대 산업보안학과 명예교수/인간중심보안포럼 의장] 보안 조직은 늘 새로운 위협과 싸워왔지만, 현재 마주한 도전은 그 궤를 달리합니다. 임직원이 몰래 사용하는 섀도우 AI(Shadow AI)의 범람, AI 공급망의 취약점, 그리고 민감 데이터의 무단 학습 노출까지 기업의 근간을 위협하는 리스크가 동시다발적으로 발생하고 있습니다.
AI는 이제 단순한 ‘업무 효율화 도구’가 아니라 조직의 존폐를 좌우하는 핵심 ‘보안 대상’이 됐습니다. 실제로 글로벌 IT 리서치 기관 가트너(Gartner)는 2027년까지 기업을 겨냥한 사이버 공격의 약 30%가 AI 모델 탈취나 데이터 포이즈닝(Data Poisoning) 등 AI 시스템을 직접 노리는 형태로 발생해 막대한 비즈니스 중단 피해를 초래할 것이라고 경고한 바 있습니다.
이에 따라 팔로알토 네트웍스(Palo Alto Networks), 위즈(Wiz) 등 글로벌 보안 선도 기업들은 이러한 신종 위협에 대응하기 위한 해법으로 ‘AI-SPM’(AI Security Posture Management, AI 보안 태세 관리)을 전면에 내세우고 있습니다.
AI RMF와 AI-SPM은 어떻게 다른가?
현장의 많은 보안 리더들이 ‘NIST AI RMF’와 같은 AI 위험 관리 프레임워크와 ‘AI-SPM’을 혼동하곤 합니다. 두 가지는 상호 보완적이지만 역할이 명확히 다릅니다. NIST AI RMF가 책임감 있는 AI 원칙 수립과 컴플라이언스 준수 등 포괄적인 ‘무엇’(What)과 ‘왜’(Why)를 다루는 규정집이라면, AI-SPM은 이를 현장에서 실행하는 구체적인 ‘방법론’(How-to)입니다.
NIST AI RMF는 AI 위험관리를 위한 4가지 핵심 기능(Govern, Map, Measure, Manage)을 보여주는 전략적 프레임워크인 반면, AI-SPM은 AI 자산 발견, 취약점 평가, 공격 경로 분석, 수정 워크플로우 자동화를 통해 운영적·전술적 도구로 작동합니다.
다시 말해, 데이터 포이즈닝(Data Poisoning)이나 프롬프트 인젝션(Prompt Injection) 같은 AI 고유의 위협을 방어하기 위해, AI 모델과 데이터 파이프라인의 보안 태세를 24시간 모니터링하고 평가하는 ‘실무적 시스템’을 의미합니다.
AI-SPM의 4단계 핵심 작동 원리
성공적인 AI-SPM은 위협의 수명주기를 관리하는 다음의 4단계 핵심 프로세스를 통해 구현됩니다.
①AI 자산 식별: 가장 먼저 사내에 존재하는 모든 AI 자산(모델, 학습 데이터, 오픈소스 라이브러리 등)과 섀도우 AI를 찾아내어 투명한 가시성을 확보합니다. 보이지 않는 위협은 방어할 수 없습니다.
②평가: OWASP Top 10 for LLMs와 같은 글로벌 표준을 기반으로 설정 오류, 과도한 권한, 데이터 보안 리스크 및 프롬프트 인젝션과 같은 AI 고유의 취약점을 다각도로 측정하고 분석합니다.
③공격 경로 기반의 우선순위화: 수많은 취약점을 단순 나열하는 데 그치지 않습니다. 취약점들이 어떻게 연결되어 실제 비즈니스에 치명적인 피해(데이터 유출 등)를 유발할 수 있는지 '공격 경로'를 시뮬레이션합니다. 이를 통해 보안 조직은 가장 시급한 위협에 한정된 자원을 집중할 수 있습니다.
④자동화된 조치 및 해결: 식별된 리스크의 책임자를 명확히 지정하고 해결 가이드를 제공합니다. 더 나아가 MLOps(머신러닝 운영) 파이프라인에 보안 검사를 연동하여, 배포 전에 위협을 차단하는 ‘보안 내재화’(Secure-by-Design)를 실현합니다.
성공적인 도입을 위한 ‘사람과 프로세스’의 진화
강력한 AI-SPM 솔루션을 도입하더라도 조직의 일하는 방식이 바뀌지 않으면 무용지물입니다. 기술의 도입을 넘어 다음의 두 가지 변화가 동반돼야 합니다.
△R&R의 재정의(People): CISO와 보안팀은 단순한 ‘통제자’에서 안전한 AI 활용을 돕는 ‘조력자’(Enabler)로 거듭나야 합니다. 반면, AI를 직접 다루는 데이터 과학자와 개발자는 모델 기획 단계부터 보안을 책임지는 ‘최전선 방어자’로서의 역할을 인식해야 합니다. 현업 부서 내에 'AI 보안 챔피언'을 지정하는 것도 좋은 방법입니다.
△보안 내재화 파이프라인 구축(Process): 기존의 소프트웨어 개발 생명주기(SDLC)를 ‘Secure AI-SDLC’로 전환해야 합니다. 설계 단계에서의 위협 모델링, 개발 단계의 취약점 자동 스캔, 테스트 단계의 적대적 공격 시뮬레이션 의무화, 그리고 배포 및 운영 단계의 지속적인 모니터링을 통해 보안을 개발 생명주기 전반에 내재화해야 합니다.
혁신적인 AI 기술은 기업에 거대한 도약을 약속하지만, 그 기반에는 반드시 견고한 보안 태세가 전제되어야 합니다. AI-SPM은 기업이 통제력을 잃지 않고 AI의 잠재력을 온전히 누리기 위한 가장 확실한 나침반이 될 것입니다.
[글_ 김정덕 중앙대 산업보안학과 명예교수/인간중심보안포럼 의장]
필자 소개_ 중앙대학교 산업보안학과 명예교수, 인간중심보안포럼 의장, 한국정보보호학회 부회장, 금융 정보보호관리체계 인증위원, 전 JTC1 SC27 정보보안 국제표준화 전문위 의장 및 의원, 전 ISO 27014(정보보안 거버넌스) 에디터 등 역임
NIST AI RMF와 차별화된 실행형 보안 방법론으로서 AI-SPM 도입 전략 강조
[연재목차 Part 2. AI 시대 보안 패러다임]
1. AI 시대의 그림자, ‘딥페이크 사기’를 경계하라
2. AI 시대, 번아웃 관리
3. AI 편향과 공정성, 보안에서 무엇이 다른가
4. 설명가능 AI와 인간의 최종 판단
5. AI도 인간과 닮았다
6. AI, ‘안전’과 ‘보안’의 경계를 허물다
7. AI 도입의 딜레마_기회와 위험 사이
8. AI 위험에 대한 2개의 거버넌스
9. 챗봇을 넘어, ‘행동하는 AI’를 통제할 시간
10. AI 시대의 생존 방정식, ‘실행형’ 보안 거버넌스
11. AI 보안관리의 새로운 지평, AI-SPM의 이해와 도입 전략
12. AI 시스템 새로운 위험분석_STPA
13. 에이전트 AI 시대_인간 중심 통제 설계
14. AI와 인간의 동맹_협업모델
15. AI, 보안문화를 재정의하다
[보안뉴스= 김정덕 중앙대 산업보안학과 명예교수/인간중심보안포럼 의장] 보안 조직은 늘 새로운 위협과 싸워왔지만, 현재 마주한 도전은 그 궤를 달리합니다. 임직원이 몰래 사용하는 섀도우 AI(Shadow AI)의 범람, AI 공급망의 취약점, 그리고 민감 데이터의 무단 학습 노출까지 기업의 근간을 위협하는 리스크가 동시다발적으로 발생하고 있습니다.
[출처: AI Generated by Kim, Jungduk]
AI는 이제 단순한 ‘업무 효율화 도구’가 아니라 조직의 존폐를 좌우하는 핵심 ‘보안 대상’이 됐습니다. 실제로 글로벌 IT 리서치 기관 가트너(Gartner)는 2027년까지 기업을 겨냥한 사이버 공격의 약 30%가 AI 모델 탈취나 데이터 포이즈닝(Data Poisoning) 등 AI 시스템을 직접 노리는 형태로 발생해 막대한 비즈니스 중단 피해를 초래할 것이라고 경고한 바 있습니다.
이에 따라 팔로알토 네트웍스(Palo Alto Networks), 위즈(Wiz) 등 글로벌 보안 선도 기업들은 이러한 신종 위협에 대응하기 위한 해법으로 ‘AI-SPM’(AI Security Posture Management, AI 보안 태세 관리)을 전면에 내세우고 있습니다.
AI RMF와 AI-SPM은 어떻게 다른가?
현장의 많은 보안 리더들이 ‘NIST AI RMF’와 같은 AI 위험 관리 프레임워크와 ‘AI-SPM’을 혼동하곤 합니다. 두 가지는 상호 보완적이지만 역할이 명확히 다릅니다. NIST AI RMF가 책임감 있는 AI 원칙 수립과 컴플라이언스 준수 등 포괄적인 ‘무엇’(What)과 ‘왜’(Why)를 다루는 규정집이라면, AI-SPM은 이를 현장에서 실행하는 구체적인 ‘방법론’(How-to)입니다.
NIST AI RMF는 AI 위험관리를 위한 4가지 핵심 기능(Govern, Map, Measure, Manage)을 보여주는 전략적 프레임워크인 반면, AI-SPM은 AI 자산 발견, 취약점 평가, 공격 경로 분석, 수정 워크플로우 자동화를 통해 운영적·전술적 도구로 작동합니다.
다시 말해, 데이터 포이즈닝(Data Poisoning)이나 프롬프트 인젝션(Prompt Injection) 같은 AI 고유의 위협을 방어하기 위해, AI 모델과 데이터 파이프라인의 보안 태세를 24시간 모니터링하고 평가하는 ‘실무적 시스템’을 의미합니다.
AI-SPM의 4단계 핵심 작동 원리
성공적인 AI-SPM은 위협의 수명주기를 관리하는 다음의 4단계 핵심 프로세스를 통해 구현됩니다.
①AI 자산 식별: 가장 먼저 사내에 존재하는 모든 AI 자산(모델, 학습 데이터, 오픈소스 라이브러리 등)과 섀도우 AI를 찾아내어 투명한 가시성을 확보합니다. 보이지 않는 위협은 방어할 수 없습니다.
②평가: OWASP Top 10 for LLMs와 같은 글로벌 표준을 기반으로 설정 오류, 과도한 권한, 데이터 보안 리스크 및 프롬프트 인젝션과 같은 AI 고유의 취약점을 다각도로 측정하고 분석합니다.
③공격 경로 기반의 우선순위화: 수많은 취약점을 단순 나열하는 데 그치지 않습니다. 취약점들이 어떻게 연결되어 실제 비즈니스에 치명적인 피해(데이터 유출 등)를 유발할 수 있는지 '공격 경로'를 시뮬레이션합니다. 이를 통해 보안 조직은 가장 시급한 위협에 한정된 자원을 집중할 수 있습니다.
④자동화된 조치 및 해결: 식별된 리스크의 책임자를 명확히 지정하고 해결 가이드를 제공합니다. 더 나아가 MLOps(머신러닝 운영) 파이프라인에 보안 검사를 연동하여, 배포 전에 위협을 차단하는 ‘보안 내재화’(Secure-by-Design)를 실현합니다.
성공적인 도입을 위한 ‘사람과 프로세스’의 진화
▲김정덕 중앙대 명예교수 [출처: 김정덕 교수]
△R&R의 재정의(People): CISO와 보안팀은 단순한 ‘통제자’에서 안전한 AI 활용을 돕는 ‘조력자’(Enabler)로 거듭나야 합니다. 반면, AI를 직접 다루는 데이터 과학자와 개발자는 모델 기획 단계부터 보안을 책임지는 ‘최전선 방어자’로서의 역할을 인식해야 합니다. 현업 부서 내에 'AI 보안 챔피언'을 지정하는 것도 좋은 방법입니다.
△보안 내재화 파이프라인 구축(Process): 기존의 소프트웨어 개발 생명주기(SDLC)를 ‘Secure AI-SDLC’로 전환해야 합니다. 설계 단계에서의 위협 모델링, 개발 단계의 취약점 자동 스캔, 테스트 단계의 적대적 공격 시뮬레이션 의무화, 그리고 배포 및 운영 단계의 지속적인 모니터링을 통해 보안을 개발 생명주기 전반에 내재화해야 합니다.
혁신적인 AI 기술은 기업에 거대한 도약을 약속하지만, 그 기반에는 반드시 견고한 보안 태세가 전제되어야 합니다. AI-SPM은 기업이 통제력을 잃지 않고 AI의 잠재력을 온전히 누리기 위한 가장 확실한 나침반이 될 것입니다.
[글_ 김정덕 중앙대 산업보안학과 명예교수/인간중심보안포럼 의장]
필자 소개_ 중앙대학교 산업보안학과 명예교수, 인간중심보안포럼 의장, 한국정보보호학회 부회장, 금융 정보보호관리체계 인증위원, 전 JTC1 SC27 정보보안 국제표준화 전문위 의장 및 의원, 전 ISO 27014(정보보안 거버넌스) 에디터 등 역임
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
강초희기자 기사보기
.gif)
.jpg)
.jpg)
