보안으로 완성하는 초거대 AI 시대로의 여정 주제로 제2회 AI Security DAY 세미나 개최
과기정통부, 첨단 보안 기술 보유한 기업 집중 육성해 보안 산업에 기여할 것
한국정보보호학회, AI 없이는 AI 기반 공격에 대응 불가... 효과적인 보안 구축 위해 고민해야
[보안뉴스 이상우 기자] 과학기술정보통신부(이하 과기정통부)가 주최하고 한국인터넷진흥원(이하 KISA)과 한국인공지능협회가 주관하는 ‘제2회 AI Security DAY’ 세미나가 온라인으로 열렸다. 이번 세미나는 ‘보안으로 완성하는 초거대 AI 시대로의 여정’을 주제로 인공지능을 활용한 위협 대응방안 및 기술 동향, 초거대 AI 현황 및 보안 이슈 등을 공유했다.
초거대 AI란 고성능 컴퓨팅 인프라를 통해 대용량 데이터를 학습하고, 더 나은 결과를 낼 수 있는 AI를 말한다. 이러한 AI에 대한 개발이 가속화되고, 실제 활용 사례 역시 등장하는 가운데, AI를 악용한 사이버 공격이나 AI 자체를 노린 적대적 공격 역시 새로운 문제로 떠오르고 있다.
KISA 이원태 원장은 개회사를 통해 “오늘날 AI를 활용하는 기술은 챗봇, 지능형 CCTV, 자율주행 등 인간 삶 곳곳에 스며들고 있으며, 단순히 인간을 표방하는 것을 넘어 인간과 똑같이 생각하고 말하기 위한 기술발전을 거듭하는 등 우리는 이미 AI와 동행하고 있다. 올해 초 열린 CES에서는 AI를 차세대 사이버 보안의 핵심으로 정의했고, 국내에서도 과학기술정보통신부를 중심으로 지능화된 사이버 보안 전략을 수립하고, 디지털 뉴딜 정책을 추진하는 등 AI 기반 사이버 보안 강화를 위해 노력하고 있다”고 말했다.
또, “이번 세미나는 초거대 AI으로의 안전한 여정을 준비하기 위해 국내 AI 보안의 현 주소를 알아보고, 앞으로 나아갈 방향을 여러 전문가와 모색할 수 있는 자리다. KISA는 대한민국의 안전한 AI 기술 개발을 위해 이 자리에서 나온 여러 의견을 반영하고 적극 추진할 계획이다. 이 자리가 대한민국이 글로벌 AI를 선도하는 국가로 발돋움 할 수 있는 시발점이 되길 바란다”고 덧붙였다.
한국인공지능협회 김현철 회장은 “오픈AI가 인공지능 모델인 GPT-3를 공개한 이후 범용AI를 위한 초석이 마련됐다. 범용AI는 무한한 활용 잠재성 덕분에 여러 빅테크 기업의 각축장이 되고 있는 상황이다. 다만 이럴 때일수록 AI로 인한 역기능에 주의해야 하며, AI 보안에 대해서도 논의할 필요가 있다”고 말했다.
과기정통부 홍진배 정책관은 “코로나19로 디지털 전환이 가속화되면서 사회 전반에 걸쳐 정보보호가 필요한 영역도 함께 증가했다. 특히 사이버 공격자는 AI를 통해 새로운 형태의 지능화·고도화한 공격을 시도하고 있다. 이에 따라 정보보호의 새로운 패러다임으로 AI 기반 보안 시대가 도래했다. AI 기술을 활용해 방대한 사이버 위협을 빠르고 정확하게 탐지·분석하고 침해대응 속도와 정확도를 획기적으로 향상시킬 수 있을 전망”이라고 말했다. 아울러 “정부는 K-사이버방역을 통해 안심할 수 있는 디지털 환경을 구축하고 있다. AI 기반 첨단 보안 기술을 보유한 기업을 집중 육성해 사이버 위협 대응을 위한 핵심 기술을 확보하고, 개발부터 상용화, 해외진출까지 모든 주기를 지원해 국내 AI 보안 산업에 기여할 계획이다. 정보보호는 창과 방패의 싸움이다. 오늘 발표와 토론이 정보보호에 큰 도움이 되길 기대하며, 정부 역시 AI 보안 산업 발전을 위해 함께할 것”이라고 덧붙였다.
한국정보보호학회 AI보안연구회 정수환 회장은 기조연설을 통해 사이버 보안 강화를 위한 AI 활용 전략에 대해 소개했다. 오늘날 인공지능은 다양한 분야에서 쓰이고 있으며, 보안 역시 이를 적극적으로 활용하려는 분야 중 하나다. 특히 사이버 공격자가 AI를 활용해 새로운 형태의 공격을 펼치는 것과 비교해, 보안 관제에서는 하루 수십 억 건의 이벤트를 사람이 직접 관제해야 하는 상황이다. AI를 보안에 활용하는 시도는 꾸준히 있어왔지만, 일각에서는 효율성이 떨어진다거나, 이를 제대로 활용하고 있는지에 대한 의견이 나오고 있는 상황이다.
정수환 회장은 “가트너가 발표한 하이퍼 사이클 보고서에 따르면 AI는 다양한 영역에서 핵심 기술이 될 것으로 전망한다. 또한, 가트너의 2020년 10대 기술 트렌드에서 AI 보안은 10위에 이름을 올린 상황이다. 반대로 AI에 대한 악의적인 공격 역시 발생하고 있다. 때문에 AI로 기반 시스템을 보호하고, 반대로 AI 자체가 공격당하는 것을 예방하는 일 등이 주요 기술 동향이 될 것으로 보인다”고 말했다.
이미 사이버 공격자는 AI를 사이버 공격에 활용하고 있다. 딥페이크를 넘어 인공지능으로 음성을 합성하는 ‘딥보이스’를 통해 보이스 피싱 등의 금융 사기를 시도하고 있으며, 실제로 지난 2019년에는 영국의 한 에너지 기업을 대상으로 공격이 발생해 약 24만 달러의 피해가 발생하기도 했다. 취약점 발굴에도 AI가 쓰인다. 공격자는 AI를 통한 퍼즈 테스팅을 통해 데이터 충돌 등 시스템 문제를 찾고, 이를 통해 제로데이 취약점을 발굴한다.
정수환 회장은 “이미 공격자가 AI를 활용하는 상황에서 인간이 이를 방어할 수 있을 것인가 생각해봐야 한다. 이미 특정 기능은 AI가 인간보다 뛰어나다. 결국 사이버 공격에 대항하기 위해서는 AI를 도입해야 한다. 현재 통합보안관제 등에서는 AI를 활용하고 있으며, 물리보안과 IT보안뿐만 아니라 OT/ICS 보안 등에도 쓰이고 있는 상황이다. 특히 침입탐지 분야에서도 기존 룰 혹은 시그니처 기반 탐지를 넘어 새로운 위협을 사전에 탐지하는 데도 쓰이고 있다. 다만, 실제 환경에 적용하기 위해서는 데이터셋 불균형 문제, AI 모델 선택, 디버깅 등 진단, 데이터 특성 차이로 인한 성능 저하, 학습용 데이터와 실제 데이터의 차이 등 해결해야 할 실질적인 문제가 존재한다”고 말했다.
이어, “현재 AI 기반 보안은 초기 단계로, AI를 통한 자동화에 초점을 맞추고 있는 상황이다. 하지만 자동화됐을 때 현장에서 얼마나 성능을 낼 수 있는지가 관건이다. 특히 현재로서는 인공지능이 내린 결과를 파악하기 위해 오히려 이전보다 인력이 더 필요하다는 의견도 나오고 있다. 새로운 시스템 도입 초기에는 아무래도 적응하는 기간이 필요할 것이며, 지금이 바로 그런 기간이다. 하지만, 3~5년 뒤 AI 기반 보안 없이는 AI 기반 공격에 대응할 수 없다. 반드시 써야 한다. 다만, 이를 어떻게 효과적으로 구축할지 지금부터 고민해야 하며, 학습에 필요한 데이터 확보 및 데이터 정제가 필요하다. 또한, 데이터 포이즈닝 등 AI에 대한 적대적 공격을 주의하고 지속적인 재학습과 모니터링이 필요하다. 이런 노력이 결합됐을 때 비로소 AI가 보안에서 효과를 낼 수 있을 것”이라고 덧붙였다.
[이상우 기자(boan@boannews.com)]
과기정통부, 첨단 보안 기술 보유한 기업 집중 육성해 보안 산업에 기여할 것
한국정보보호학회, AI 없이는 AI 기반 공격에 대응 불가... 효과적인 보안 구축 위해 고민해야
[보안뉴스 이상우 기자] 과학기술정보통신부(이하 과기정통부)가 주최하고 한국인터넷진흥원(이하 KISA)과 한국인공지능협회가 주관하는 ‘제2회 AI Security DAY’ 세미나가 온라인으로 열렸다. 이번 세미나는 ‘보안으로 완성하는 초거대 AI 시대로의 여정’을 주제로 인공지능을 활용한 위협 대응방안 및 기술 동향, 초거대 AI 현황 및 보안 이슈 등을 공유했다.
▲한국인터넷진흥원 이원태 원장[사진=보안뉴스]
초거대 AI란 고성능 컴퓨팅 인프라를 통해 대용량 데이터를 학습하고, 더 나은 결과를 낼 수 있는 AI를 말한다. 이러한 AI에 대한 개발이 가속화되고, 실제 활용 사례 역시 등장하는 가운데, AI를 악용한 사이버 공격이나 AI 자체를 노린 적대적 공격 역시 새로운 문제로 떠오르고 있다.
KISA 이원태 원장은 개회사를 통해 “오늘날 AI를 활용하는 기술은 챗봇, 지능형 CCTV, 자율주행 등 인간 삶 곳곳에 스며들고 있으며, 단순히 인간을 표방하는 것을 넘어 인간과 똑같이 생각하고 말하기 위한 기술발전을 거듭하는 등 우리는 이미 AI와 동행하고 있다. 올해 초 열린 CES에서는 AI를 차세대 사이버 보안의 핵심으로 정의했고, 국내에서도 과학기술정보통신부를 중심으로 지능화된 사이버 보안 전략을 수립하고, 디지털 뉴딜 정책을 추진하는 등 AI 기반 사이버 보안 강화를 위해 노력하고 있다”고 말했다.
또, “이번 세미나는 초거대 AI으로의 안전한 여정을 준비하기 위해 국내 AI 보안의 현 주소를 알아보고, 앞으로 나아갈 방향을 여러 전문가와 모색할 수 있는 자리다. KISA는 대한민국의 안전한 AI 기술 개발을 위해 이 자리에서 나온 여러 의견을 반영하고 적극 추진할 계획이다. 이 자리가 대한민국이 글로벌 AI를 선도하는 국가로 발돋움 할 수 있는 시발점이 되길 바란다”고 덧붙였다.
한국인공지능협회 김현철 회장은 “오픈AI가 인공지능 모델인 GPT-3를 공개한 이후 범용AI를 위한 초석이 마련됐다. 범용AI는 무한한 활용 잠재성 덕분에 여러 빅테크 기업의 각축장이 되고 있는 상황이다. 다만 이럴 때일수록 AI로 인한 역기능에 주의해야 하며, AI 보안에 대해서도 논의할 필요가 있다”고 말했다.
과기정통부 홍진배 정책관은 “코로나19로 디지털 전환이 가속화되면서 사회 전반에 걸쳐 정보보호가 필요한 영역도 함께 증가했다. 특히 사이버 공격자는 AI를 통해 새로운 형태의 지능화·고도화한 공격을 시도하고 있다. 이에 따라 정보보호의 새로운 패러다임으로 AI 기반 보안 시대가 도래했다. AI 기술을 활용해 방대한 사이버 위협을 빠르고 정확하게 탐지·분석하고 침해대응 속도와 정확도를 획기적으로 향상시킬 수 있을 전망”이라고 말했다. 아울러 “정부는 K-사이버방역을 통해 안심할 수 있는 디지털 환경을 구축하고 있다. AI 기반 첨단 보안 기술을 보유한 기업을 집중 육성해 사이버 위협 대응을 위한 핵심 기술을 확보하고, 개발부터 상용화, 해외진출까지 모든 주기를 지원해 국내 AI 보안 산업에 기여할 계획이다. 정보보호는 창과 방패의 싸움이다. 오늘 발표와 토론이 정보보호에 큰 도움이 되길 기대하며, 정부 역시 AI 보안 산업 발전을 위해 함께할 것”이라고 덧붙였다.
▲과학기술정보통신부 홍진배 국장[사진=보안뉴스]
한국정보보호학회 AI보안연구회 정수환 회장은 기조연설을 통해 사이버 보안 강화를 위한 AI 활용 전략에 대해 소개했다. 오늘날 인공지능은 다양한 분야에서 쓰이고 있으며, 보안 역시 이를 적극적으로 활용하려는 분야 중 하나다. 특히 사이버 공격자가 AI를 활용해 새로운 형태의 공격을 펼치는 것과 비교해, 보안 관제에서는 하루 수십 억 건의 이벤트를 사람이 직접 관제해야 하는 상황이다. AI를 보안에 활용하는 시도는 꾸준히 있어왔지만, 일각에서는 효율성이 떨어진다거나, 이를 제대로 활용하고 있는지에 대한 의견이 나오고 있는 상황이다.
정수환 회장은 “가트너가 발표한 하이퍼 사이클 보고서에 따르면 AI는 다양한 영역에서 핵심 기술이 될 것으로 전망한다. 또한, 가트너의 2020년 10대 기술 트렌드에서 AI 보안은 10위에 이름을 올린 상황이다. 반대로 AI에 대한 악의적인 공격 역시 발생하고 있다. 때문에 AI로 기반 시스템을 보호하고, 반대로 AI 자체가 공격당하는 것을 예방하는 일 등이 주요 기술 동향이 될 것으로 보인다”고 말했다.
이미 사이버 공격자는 AI를 사이버 공격에 활용하고 있다. 딥페이크를 넘어 인공지능으로 음성을 합성하는 ‘딥보이스’를 통해 보이스 피싱 등의 금융 사기를 시도하고 있으며, 실제로 지난 2019년에는 영국의 한 에너지 기업을 대상으로 공격이 발생해 약 24만 달러의 피해가 발생하기도 했다. 취약점 발굴에도 AI가 쓰인다. 공격자는 AI를 통한 퍼즈 테스팅을 통해 데이터 충돌 등 시스템 문제를 찾고, 이를 통해 제로데이 취약점을 발굴한다.
▲한국정보보호학회 AI보안연구회 정수환 회장[사진=보안뉴스]
정수환 회장은 “이미 공격자가 AI를 활용하는 상황에서 인간이 이를 방어할 수 있을 것인가 생각해봐야 한다. 이미 특정 기능은 AI가 인간보다 뛰어나다. 결국 사이버 공격에 대항하기 위해서는 AI를 도입해야 한다. 현재 통합보안관제 등에서는 AI를 활용하고 있으며, 물리보안과 IT보안뿐만 아니라 OT/ICS 보안 등에도 쓰이고 있는 상황이다. 특히 침입탐지 분야에서도 기존 룰 혹은 시그니처 기반 탐지를 넘어 새로운 위협을 사전에 탐지하는 데도 쓰이고 있다. 다만, 실제 환경에 적용하기 위해서는 데이터셋 불균형 문제, AI 모델 선택, 디버깅 등 진단, 데이터 특성 차이로 인한 성능 저하, 학습용 데이터와 실제 데이터의 차이 등 해결해야 할 실질적인 문제가 존재한다”고 말했다.
이어, “현재 AI 기반 보안은 초기 단계로, AI를 통한 자동화에 초점을 맞추고 있는 상황이다. 하지만 자동화됐을 때 현장에서 얼마나 성능을 낼 수 있는지가 관건이다. 특히 현재로서는 인공지능이 내린 결과를 파악하기 위해 오히려 이전보다 인력이 더 필요하다는 의견도 나오고 있다. 새로운 시스템 도입 초기에는 아무래도 적응하는 기간이 필요할 것이며, 지금이 바로 그런 기간이다. 하지만, 3~5년 뒤 AI 기반 보안 없이는 AI 기반 공격에 대응할 수 없다. 반드시 써야 한다. 다만, 이를 어떻게 효과적으로 구축할지 지금부터 고민해야 하며, 학습에 필요한 데이터 확보 및 데이터 정제가 필요하다. 또한, 데이터 포이즈닝 등 AI에 대한 적대적 공격을 주의하고 지속적인 재학습과 모니터링이 필요하다. 이런 노력이 결합됐을 때 비로소 AI가 보안에서 효과를 낼 수 있을 것”이라고 덧붙였다.
[이상우 기자(boan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
이상우기자 기사보기
[2024-12-22] 
.jpg)
.jpg)
