13일, 생성형 AI의 안전한 활용 위한 보안 위협 대응방안 현장 토론회 개최
생성형 AI 악용한 보안 위협 동향 공유 및 예방과 대응방향 집중 논의
[보안뉴스 김영명 기자] 과학기술정보통신부(장관 이종호, 이하 과기정통부) 박윤규 2차관은 13일, 정보보호기업 및 학계, 유관기관 전문가들과 함께 챗GPT(ChatGPT) 등 생성형 인공지능(AI)의 보안 위협 대응방향 모색을 위해 이글루코퍼레이션에서 현장 토론회를 개최했다고 밝혔다.
오후 2시 30분부터 2시간 동안 진행된 이날 토론회는 최근 이슈가 되고 있는 챗GPT 등 생성형 인공지능 서비스의 이용 확산에 따른 국내외 보안 위협 동향과 산업적 파급 효과 등을 공유하고 국가 차원의 보안 위협 대응방향을 논의하기 위해 마련됐다.
챗GPT는 언어 처리 AI 모델을 기반으로 하는 대화형 AI 서비스로서 지난해 11월 출시 이후 약 2개월 만에 월간 이용자가 1억명을 돌파하는 전례 없는 급격한 성장세를 보이고 있다. 이 같은 성장세로 국내외 공공, 민간, 산업 등 다양한 분야에서 활용되면서 2023년 최대의 화두로 부각되고 있다. 대화형 AI란, 인공지능이 스스로 학습해 답변을 생성하고 대량의 데이터를 동시에 처리하며, 문장 속의 단어와 데이터 관계를 추적해 창의적인 답변을 하는 신기술을 뜻한다.
그러나 최근 챗GPT를 악용해 악성코드, 랜섬웨어, 피싱메일 제작 등 사이버 공격에 활용할 가능성이 대두되고 있다. 또한, 챗GPT 이용 과정에서도 개인정보 및 기업의 영업기밀 정보가 유출되는 등 크고 작은 보안 문제가 대두되며 우려의 목소리가 제기되고 있다. 체크포인트 사가 올해 1월 보고한 내용에 따르면, 다크웹 등에서 챗GPT를 사용해 새로운 악성코드 등을 제작할 수 있는 사이버공격 도구를 생성했다는 소식이 전해지기도 했다. 또한, 미국, EU 등 해외 주요국에서는 챗GPT 등 인공지능 기술에 대한 위험성을 우려하며 안전한 사용과 신뢰 환경 구축을 위한 규제 방안 논의에 착수하고 있다.
이에 따라 과기정통부는 생성형 인공지능 서비스의 안전한 활용과 보안 위협에 대한 현장의 생생한 의견을 듣고 향후 정책 대응 방향을 논의하는 자리를 마련했다. 이날 토론회는 과기정통부 박윤규 제2차관, 정창림 정보보호네트워크정책관과 함께 외부의 다양한 의견을 폭넓게 수렴하기 위해 AI 기술을 정보보안에 접목하고 있는 정보보호 기업을 포함해 AI 관련 산업계, 학계, 유관기관 등에서 20여명이 참여했으며, 각 분야 전문가의 주제 발표와 심층토론으로 진행됐다.
첫 번째 주제발표는 고려대 이상근 교수가 ‘챗GPT 기술의 진화, 그리고 사이버보안’을 주제로 △챗GPT 등 생성형 인공지능 기술의 발전 동향 △생성형 인공지능의 한계와 보안 위협 분석 △생성형 인공지능 기술의 발전에 대비한 심층 연구 필요성에 대해 발표했다.
두 번째는 이글루코퍼레이션 정일옥 기술위원이 ‘챗GPT 등 인공지능이 보안 산업에 미치는 영향’을 주제로 △국내외 인공지능 활용한 사이버보안 산업 동향 분석 △인공지능을 접목한 사이버보안 위협·탐지 기술의 성장 가능성을 발표하고, 자체 개발한 인공지능 모델과 챗GPT를 연계해 사이버 위협 정보를 판단하는 보안 솔루션을 시연해보는 시간을 마련했다.
세 번째로 한국인터넷진흥원(KISA) 김정희 미래정책연구실장은 ‘챗GPT의 보안위협 동향분석 및 대응방향’을 주제로 △디지털 패러다임 변화에 따른 보안위협 대응현황 △생성형 인공지능을 통한 보안위협 현황 및 사례분석 △생성형 인공지능의 보안위협 예방을 위한 대응방안 등을 연이어 발표했다.
이날 전문가들은 생성형 AI의 보안 위협 대응 필요성에 공감하며, 생성형 AI의 안전한 이용과 인식 제고, 생성형 AI를 악용한 사이버공격에 대한 예방과 대응체계, AI를 활용한 사이버보안 대응역량 제고방안 등에 대해 깊이 있게 논의했다.
이날 토론회를 주재한 박윤규 제2차관은 “챗GPT 등 생성형 인공지능 기술은 앞으로 더욱 발전해 우리 일상에 보편적으로 사용될 것인 만큼 보안 위협 우려에 적극적으로 대응해 나갈 필요가 있다”며 “정부는 생성형 인공지능 서비스를 국민이 안심하고 이용하도록 안전한 사이버 환경을 조성하는 한편, 갈수록 지능화되고 고도화되는 사이버위협에 대한 대응역랑을 갖추기 위해 최선을 다하겠다”고 말했다.
[김영명 기자(boan@boannews.com)]
생성형 AI 악용한 보안 위협 동향 공유 및 예방과 대응방향 집중 논의
[보안뉴스 김영명 기자] 과학기술정보통신부(장관 이종호, 이하 과기정통부) 박윤규 2차관은 13일, 정보보호기업 및 학계, 유관기관 전문가들과 함께 챗GPT(ChatGPT) 등 생성형 인공지능(AI)의 보안 위협 대응방향 모색을 위해 이글루코퍼레이션에서 현장 토론회를 개최했다고 밝혔다.
[이미지=gettyimagesbank]
오후 2시 30분부터 2시간 동안 진행된 이날 토론회는 최근 이슈가 되고 있는 챗GPT 등 생성형 인공지능 서비스의 이용 확산에 따른 국내외 보안 위협 동향과 산업적 파급 효과 등을 공유하고 국가 차원의 보안 위협 대응방향을 논의하기 위해 마련됐다.
챗GPT는 언어 처리 AI 모델을 기반으로 하는 대화형 AI 서비스로서 지난해 11월 출시 이후 약 2개월 만에 월간 이용자가 1억명을 돌파하는 전례 없는 급격한 성장세를 보이고 있다. 이 같은 성장세로 국내외 공공, 민간, 산업 등 다양한 분야에서 활용되면서 2023년 최대의 화두로 부각되고 있다. 대화형 AI란, 인공지능이 스스로 학습해 답변을 생성하고 대량의 데이터를 동시에 처리하며, 문장 속의 단어와 데이터 관계를 추적해 창의적인 답변을 하는 신기술을 뜻한다.
그러나 최근 챗GPT를 악용해 악성코드, 랜섬웨어, 피싱메일 제작 등 사이버 공격에 활용할 가능성이 대두되고 있다. 또한, 챗GPT 이용 과정에서도 개인정보 및 기업의 영업기밀 정보가 유출되는 등 크고 작은 보안 문제가 대두되며 우려의 목소리가 제기되고 있다. 체크포인트 사가 올해 1월 보고한 내용에 따르면, 다크웹 등에서 챗GPT를 사용해 새로운 악성코드 등을 제작할 수 있는 사이버공격 도구를 생성했다는 소식이 전해지기도 했다. 또한, 미국, EU 등 해외 주요국에서는 챗GPT 등 인공지능 기술에 대한 위험성을 우려하며 안전한 사용과 신뢰 환경 구축을 위한 규제 방안 논의에 착수하고 있다.
▲과기정통부 로고[로고=과기정통부]
첫 번째 주제발표는 고려대 이상근 교수가 ‘챗GPT 기술의 진화, 그리고 사이버보안’을 주제로 △챗GPT 등 생성형 인공지능 기술의 발전 동향 △생성형 인공지능의 한계와 보안 위협 분석 △생성형 인공지능 기술의 발전에 대비한 심층 연구 필요성에 대해 발표했다.
두 번째는 이글루코퍼레이션 정일옥 기술위원이 ‘챗GPT 등 인공지능이 보안 산업에 미치는 영향’을 주제로 △국내외 인공지능 활용한 사이버보안 산업 동향 분석 △인공지능을 접목한 사이버보안 위협·탐지 기술의 성장 가능성을 발표하고, 자체 개발한 인공지능 모델과 챗GPT를 연계해 사이버 위협 정보를 판단하는 보안 솔루션을 시연해보는 시간을 마련했다.
세 번째로 한국인터넷진흥원(KISA) 김정희 미래정책연구실장은 ‘챗GPT의 보안위협 동향분석 및 대응방향’을 주제로 △디지털 패러다임 변화에 따른 보안위협 대응현황 △생성형 인공지능을 통한 보안위협 현황 및 사례분석 △생성형 인공지능의 보안위협 예방을 위한 대응방안 등을 연이어 발표했다.
이날 전문가들은 생성형 AI의 보안 위협 대응 필요성에 공감하며, 생성형 AI의 안전한 이용과 인식 제고, 생성형 AI를 악용한 사이버공격에 대한 예방과 대응체계, AI를 활용한 사이버보안 대응역량 제고방안 등에 대해 깊이 있게 논의했다.
이날 토론회를 주재한 박윤규 제2차관은 “챗GPT 등 생성형 인공지능 기술은 앞으로 더욱 발전해 우리 일상에 보편적으로 사용될 것인 만큼 보안 위협 우려에 적극적으로 대응해 나갈 필요가 있다”며 “정부는 생성형 인공지능 서비스를 국민이 안심하고 이용하도록 안전한 사이버 환경을 조성하는 한편, 갈수록 지능화되고 고도화되는 사이버위협에 대한 대응역랑을 갖추기 위해 최선을 다하겠다”고 말했다.
[김영명 기자(boan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김영명기자 기사보기
[2024-05-02] 
.jpg)
