국가·공공기관 外 교육부와 협조해 대학 등 교육·연구 현장의 안전한 활용 도울 계획
△챗GPT 등 생성형 AI發 보안위협 사례 △기술 활용시 지켜야할 필수 보안수칙 △국가·공공기관의 AI 모델 구축시 고려사항 등 담은 보안사고 예방자료 지원
[보안뉴스 원병철 기자] 국가정보원은 6월 29일 챗GPT 관련 보안 문제를 사전에 예방하기 위해 마련한 ‘챗GPT 등 생성형 AI 활용 보안 가이드라인’을 공개했다.
국정원은 챗GPT 등 생성형 AI기술 활용 과정에서 △업무상 비밀·개인정보 유출 △가짜뉴스·비윤리적 자료 생성 등 기술 악용 우려가 제기되자, 지난 4월 국가보안기술연구소와 학계 전문가들과 함께 이번 보안 가이드라인 제정에 착수했다.
국정원 관계자는 “챗GPT 등이 각광을 받으면서 여러 공공기관이 해당 기술을 활용하려고 했지만, 정부 차원의 보안 대책이 없어 기술도입이 어려운 상황이었다”며, “국정원은 국가 사이버안보 정책을 수립·시행하는 기관으로서 이번 보안 가이드라인을 마련, 각급기관이 생성형 AI기술을 적극 활용할 수 있는 기반을 마련했다”고 밝혔다.
국정원은 보안 가이드라인 제정을 위해 지난 9일 ‘국가 사이버안보 민관 협의체 회의’를 열고 관련 분야 산·학·연 전문가 의견도 청취했다.
이번 보안 가이드라인은 생성형 AI기술 서비스 접속부터 질의, 결과물 활용 등 과정 전반에서 지켜야 할 보안 지침을 단계별로 안내, 각급기관 담당자는 물론, 기술을 활용하는 일반 국민들도 이해할 수 있도록 제작됐다.
구체적으로, 생성형 AI기술과 관련한 △개요 및 해외동향(챗GPT 사례 중심) △보안위협 사례 △기술 사용 가이드라인 △국가·공공기관의 정보화사업 구축 방안 및 보안대책 등이 담겼다.
국정원은 생성형 AI 기술을 안전하게 이용하기 위한 필수 보안수칙으로 △비공개·개인정보 등 민감 정보 입력 금지 △생성물에 대한 정확성·윤리성·적합성 등 재검증 △생성물 활용시 지적 재산권·저작권 등 법률 침해·위반여부 확인 △연계·확장프로그램 사용시 보안 취약여부 등 안전성 확인 △로그인 계정에 대한 보안설정 강화 등을 제시했다.
국정원은 국가 공공기관과 지자체 외에 교육부와 협조해 이번 보안 가이드라인을 국내 420여개 국·공·사립대학 등에 배포할 계획이다. 현재 생성형 AI가 대학 등 일선 연구·교육현장에서 적극 활용되고 있지만, 명확한 보안대책이 없는 실정이었기 때문이다. 또한 국정원은 “국민들 사이에서도 챗GPT 활용 붐이 일어나고 있어, 이와 관련해 발생할 수 있는 보안사고를 사전 예방하는 데 참고할 수 있도록 국정원 국가사이버안보센터 홈페이지에 게재했다”고 설명했다.
국정원 관계자는 “보안 가이드라인 준수를 통한 보안사고 없는 적극적인 AI기술 활용을 기대한다”며 “공공분야를 비롯한 대한민국 전역에서 AI 등 IT 신기술이 안전하게 사용될 수 있도록, 지속적으로 노력할 것”이라고 밝혔다.
[원병철 기자(boanone@boannews.com)]
△챗GPT 등 생성형 AI發 보안위협 사례 △기술 활용시 지켜야할 필수 보안수칙 △국가·공공기관의 AI 모델 구축시 고려사항 등 담은 보안사고 예방자료 지원
[보안뉴스 원병철 기자] 국가정보원은 6월 29일 챗GPT 관련 보안 문제를 사전에 예방하기 위해 마련한 ‘챗GPT 등 생성형 AI 활용 보안 가이드라인’을 공개했다.
[이미지=국정원]
국정원 관계자는 “챗GPT 등이 각광을 받으면서 여러 공공기관이 해당 기술을 활용하려고 했지만, 정부 차원의 보안 대책이 없어 기술도입이 어려운 상황이었다”며, “국정원은 국가 사이버안보 정책을 수립·시행하는 기관으로서 이번 보안 가이드라인을 마련, 각급기관이 생성형 AI기술을 적극 활용할 수 있는 기반을 마련했다”고 밝혔다.
국정원은 보안 가이드라인 제정을 위해 지난 9일 ‘국가 사이버안보 민관 협의체 회의’를 열고 관련 분야 산·학·연 전문가 의견도 청취했다.
이번 보안 가이드라인은 생성형 AI기술 서비스 접속부터 질의, 결과물 활용 등 과정 전반에서 지켜야 할 보안 지침을 단계별로 안내, 각급기관 담당자는 물론, 기술을 활용하는 일반 국민들도 이해할 수 있도록 제작됐다.
구체적으로, 생성형 AI기술과 관련한 △개요 및 해외동향(챗GPT 사례 중심) △보안위협 사례 △기술 사용 가이드라인 △국가·공공기관의 정보화사업 구축 방안 및 보안대책 등이 담겼다.
국정원은 생성형 AI 기술을 안전하게 이용하기 위한 필수 보안수칙으로 △비공개·개인정보 등 민감 정보 입력 금지 △생성물에 대한 정확성·윤리성·적합성 등 재검증 △생성물 활용시 지적 재산권·저작권 등 법률 침해·위반여부 확인 △연계·확장프로그램 사용시 보안 취약여부 등 안전성 확인 △로그인 계정에 대한 보안설정 강화 등을 제시했다.
국정원은 국가 공공기관과 지자체 외에 교육부와 협조해 이번 보안 가이드라인을 국내 420여개 국·공·사립대학 등에 배포할 계획이다. 현재 생성형 AI가 대학 등 일선 연구·교육현장에서 적극 활용되고 있지만, 명확한 보안대책이 없는 실정이었기 때문이다. 또한 국정원은 “국민들 사이에서도 챗GPT 활용 붐이 일어나고 있어, 이와 관련해 발생할 수 있는 보안사고를 사전 예방하는 데 참고할 수 있도록 국정원 국가사이버안보센터 홈페이지에 게재했다”고 설명했다.
국정원 관계자는 “보안 가이드라인 준수를 통한 보안사고 없는 적극적인 AI기술 활용을 기대한다”며 “공공분야를 비롯한 대한민국 전역에서 AI 등 IT 신기술이 안전하게 사용될 수 있도록, 지속적으로 노력할 것”이라고 밝혔다.
[원병철 기자(boanone@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
원병철기자 기사보기
[2024-05-10] .jpg)
