ISEC 2024, KISA 디지털위협대응본부 이동근 본부장 키노트 세션 발표
가용성 위협, 무결성 위협, 개인 및 모델 정보 위협, 오남용 위협 등 4가지 위협 제기
[보안뉴스 김영명 기자] 이제 사회는 인공지능(AI)을 빼고 이야기할 수는 없다. 챗GPT가 활시위를 당긴 AI의 확산은 편의성과 함께 사이버 위협도 확산시켰다. ‘AI’와 ‘사이버 보안’은 함께 발전할 수 있을까? 어떻게 함께 발전할 것인가? 한국인터넷진흥원(KISA) 디지털위협대응본부 이동근 본부장은 ISEC 2024에서 ‘AI와 사이버 보안은 어떻게 함께 발전할 것인가?’를 주제로 키노트를 발표했다.
이동근 본부장은 “AI는 1950년대부터 1980년대까지 1차 붐이 일어났고, 1970년대부터 1990년대 후반까지 엑스퍼트 시스템(Expert System)의 발전은 머신러닝(인공신경망)의 기초를 마련하는 등 2차 붐으로 이어졌다”며 “그리고 1990년대부터 이어지고 있는 3차 붐은 알파고와 이세돌의 바둑 대전, 챗GPT로 이어졌다”고 AI의 흐름을 짚었다.
이제 AI는 국가 총력전으로 대응하는 시대가 됐다. 정부는 민관 협력을 기반으로 AI 대전환을 추진하고 있다. 대통령실은 국가인공지능위원회를 출범시키고, 정부 차원의 AI 비전 지원을 강화하고 있다. 현재 정부는 국가 AI컴퓨팅 인프라 확충, 민간부문 AI 투자 확대, 국가 AX(AI Transformation) 전면화, AI 안전·안보·글로벌 리더십 확보 등의 프로젝트가 진행되고 있다.
AI와 사이버 보안과의 관계는 어떻게 될까? 현재 AI에 대한 보안위협 가운데는 특히 생성형 AI 위협이 대표적이다. NIST에서 발표된 보고서를 살펴보면, 생성형 AI를 포함한 예측형 AI의 적대적 행동을 소개했다.
생성형 AI 위협은 크게 네 가지로 나눌 수 있다. 첫 번째는 ‘가용성(Availability)에 대한 위협’으로 서비스 거부, 컴퓨팅파워 소진, 데이터 감염 등을 들 수 있다.
두 번째는 ‘무결성(Integrity)에 대한 위협’으로, 세부 형태는 리소스 제어, 학습 데이터, 소스 데이터, 쿼리 접근 등의 위협 등이 있다. 생성형 AI는 학습 데이터가 방대하게 사용되는데 데이터 일부가 잘못된 정보를 줘 제대로 동작하지 않는 위협을 들 수 있다.
세 번째는 ‘개인 및 모델 정보(Privacy)에 대한 위협’이다. 이는 학습하는 과정 중에 엄청난 개인정보와 데이터가 활용될 수 있기 때문에 개인정보 침해 우려가 발생할 수 있다.
네 번째는 ‘오남용(Abuse)에 대한 위협’이다. 몇 년 전부터는 딥페이크에 대한 도덕적 해이가 크게 문제가 되기도 했다. 이런 문제는 지속해서 이어져 오남용 문제가 사회적 이슈로 떠오를 가능성이 크다.
AI 등 ICT 기술 발전에 따른 보안 위협은 무엇일까? 이동근 본부장은 “그 첫 번째는 극대화되는 복잡성이고, 두 번째는 해킹기법의 고도화, 세 번째는 부족한 인력”이라고 말했다. 이어 “공격자들은 새로운 공격 방법을 연구하고 더 발전시켜 공격에 성공하려 하기 때문에 이에 대응해야 한다”며 “보안인력 부족과 관련해 정부에서는 사이버 보안 10만 인재 양성 계획을 발표했지만, 이들이 교육을 받고 실제 현장에 투입되기까지는 많은 시간이 소요되기 때문에 이에 대한 준비도 필요하다”고 설명했다.
AI와 사이버 보안의 발전 방향은 무엇일까? 먼저 ‘안전하고 신뢰할 수 있는 AI를 위한 사이버 보안’이다. 즉, 보안 요소를 최우선으로 고려하는 것이다. 가트너는 AI TRiSM(Trust, Risk, Security, Management)을 발표했는데, 결국 신뢰할 수 있는 AI를 쓰기 위해서는 보안을 빼놓을 수 없다는 것을 의미한다. 두 번째는 안전한 AI 활용을 위한 노력이다. 금융 분야에서도 AI 보안 가이드라인을 발표하는 등 다양한 분야에서 보안을 중점에 두고 있다.
또한 지능화되는 위협에 대비하기 위해서는 AI 기반 사이버 보안 고도화가 중요하다. AI는 위협 탐지 분석 역량 향상, 보안 대응의 자동화 등에서 많은 이점이 있어 이를 활용해야 한다는 게 이 본부장의 설명이다.
이 본부장은 “보안을 수행하는데 있어 100% 사람에게 의지하기에는 어려움이 많다”며 “AI를 잘 활용하면 단순 반복업무 자동화, 대응 우선순위 제공, 다중 보안위협 신속 분석 등에서 많은 도움을 받을 수 있다”고 말했다.
끝으로 이동근 본부장은 “AI와 사이버 보안은 디지털 미래사회의 동반자가 될 것으로 확신한다”며 “AI는 잘만 활용하면 보안 담당자에게는 신무기를 획득한 것과 같은 큰 도움이 될 수 있다”고 말했다. 이어 “우리는 AI를 어떻게 안전하게 사용할 수 있을지에 대해 끊임없이 연구하는 것이 필요하다”고 강조했다.
[김영명 기자(boan@boannews.com)]
가용성 위협, 무결성 위협, 개인 및 모델 정보 위협, 오남용 위협 등 4가지 위협 제기
[보안뉴스 김영명 기자] 이제 사회는 인공지능(AI)을 빼고 이야기할 수는 없다. 챗GPT가 활시위를 당긴 AI의 확산은 편의성과 함께 사이버 위협도 확산시켰다. ‘AI’와 ‘사이버 보안’은 함께 발전할 수 있을까? 어떻게 함께 발전할 것인가? 한국인터넷진흥원(KISA) 디지털위협대응본부 이동근 본부장은 ISEC 2024에서 ‘AI와 사이버 보안은 어떻게 함께 발전할 것인가?’를 주제로 키노트를 발표했다.
▲KISA 디지털위협대응본부 이동근 본부장은 ISEC 2024에서 키노트를 발표하고 있다[사진=보안뉴스]
이동근 본부장은 “AI는 1950년대부터 1980년대까지 1차 붐이 일어났고, 1970년대부터 1990년대 후반까지 엑스퍼트 시스템(Expert System)의 발전은 머신러닝(인공신경망)의 기초를 마련하는 등 2차 붐으로 이어졌다”며 “그리고 1990년대부터 이어지고 있는 3차 붐은 알파고와 이세돌의 바둑 대전, 챗GPT로 이어졌다”고 AI의 흐름을 짚었다.
이제 AI는 국가 총력전으로 대응하는 시대가 됐다. 정부는 민관 협력을 기반으로 AI 대전환을 추진하고 있다. 대통령실은 국가인공지능위원회를 출범시키고, 정부 차원의 AI 비전 지원을 강화하고 있다. 현재 정부는 국가 AI컴퓨팅 인프라 확충, 민간부문 AI 투자 확대, 국가 AX(AI Transformation) 전면화, AI 안전·안보·글로벌 리더십 확보 등의 프로젝트가 진행되고 있다.
AI와 사이버 보안과의 관계는 어떻게 될까? 현재 AI에 대한 보안위협 가운데는 특히 생성형 AI 위협이 대표적이다. NIST에서 발표된 보고서를 살펴보면, 생성형 AI를 포함한 예측형 AI의 적대적 행동을 소개했다.
생성형 AI 위협은 크게 네 가지로 나눌 수 있다. 첫 번째는 ‘가용성(Availability)에 대한 위협’으로 서비스 거부, 컴퓨팅파워 소진, 데이터 감염 등을 들 수 있다.
두 번째는 ‘무결성(Integrity)에 대한 위협’으로, 세부 형태는 리소스 제어, 학습 데이터, 소스 데이터, 쿼리 접근 등의 위협 등이 있다. 생성형 AI는 학습 데이터가 방대하게 사용되는데 데이터 일부가 잘못된 정보를 줘 제대로 동작하지 않는 위협을 들 수 있다.
세 번째는 ‘개인 및 모델 정보(Privacy)에 대한 위협’이다. 이는 학습하는 과정 중에 엄청난 개인정보와 데이터가 활용될 수 있기 때문에 개인정보 침해 우려가 발생할 수 있다.
네 번째는 ‘오남용(Abuse)에 대한 위협’이다. 몇 년 전부터는 딥페이크에 대한 도덕적 해이가 크게 문제가 되기도 했다. 이런 문제는 지속해서 이어져 오남용 문제가 사회적 이슈로 떠오를 가능성이 크다.
AI 등 ICT 기술 발전에 따른 보안 위협은 무엇일까? 이동근 본부장은 “그 첫 번째는 극대화되는 복잡성이고, 두 번째는 해킹기법의 고도화, 세 번째는 부족한 인력”이라고 말했다. 이어 “공격자들은 새로운 공격 방법을 연구하고 더 발전시켜 공격에 성공하려 하기 때문에 이에 대응해야 한다”며 “보안인력 부족과 관련해 정부에서는 사이버 보안 10만 인재 양성 계획을 발표했지만, 이들이 교육을 받고 실제 현장에 투입되기까지는 많은 시간이 소요되기 때문에 이에 대한 준비도 필요하다”고 설명했다.
AI와 사이버 보안의 발전 방향은 무엇일까? 먼저 ‘안전하고 신뢰할 수 있는 AI를 위한 사이버 보안’이다. 즉, 보안 요소를 최우선으로 고려하는 것이다. 가트너는 AI TRiSM(Trust, Risk, Security, Management)을 발표했는데, 결국 신뢰할 수 있는 AI를 쓰기 위해서는 보안을 빼놓을 수 없다는 것을 의미한다. 두 번째는 안전한 AI 활용을 위한 노력이다. 금융 분야에서도 AI 보안 가이드라인을 발표하는 등 다양한 분야에서 보안을 중점에 두고 있다.
또한 지능화되는 위협에 대비하기 위해서는 AI 기반 사이버 보안 고도화가 중요하다. AI는 위협 탐지 분석 역량 향상, 보안 대응의 자동화 등에서 많은 이점이 있어 이를 활용해야 한다는 게 이 본부장의 설명이다.
이 본부장은 “보안을 수행하는데 있어 100% 사람에게 의지하기에는 어려움이 많다”며 “AI를 잘 활용하면 단순 반복업무 자동화, 대응 우선순위 제공, 다중 보안위협 신속 분석 등에서 많은 도움을 받을 수 있다”고 말했다.
끝으로 이동근 본부장은 “AI와 사이버 보안은 디지털 미래사회의 동반자가 될 것으로 확신한다”며 “AI는 잘만 활용하면 보안 담당자에게는 신무기를 획득한 것과 같은 큰 도움이 될 수 있다”고 말했다. 이어 “우리는 AI를 어떻게 안전하게 사용할 수 있을지에 대해 끊임없이 연구하는 것이 필요하다”고 강조했다.
[김영명 기자(boan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김영명기자 기사보기
[2024-10-17] 
