공공용·민간용 AI 보안 지침서 둘 다 나와... 국정원·과기정통부 각각 배포

국정원, 15개 보안위협·30개 보안대책 제시
과기정통부, 총 113개의 보안 요구사항 제시

[보안뉴스 강현주 기자] 공공용 AI 보안 지침과 민간용 AI 보안 지침서가 같은 날 동시에 나왔다.

10일 국가정보원(원장 이종석)은 국가 및 공공기관을 대상으로 ‘AI 보안 가이드북’을, 과학기술정보통신부(부총리 겸 과기정통부장관 배경훈)는 기업 및 개인을 대상으로 ‘인공지능(AI) 보안 안내서’를 발표했다.

▲AI 보안 가이드북과 인공지능 보안 안내서 [자료: 국정원, 과기정통부]

국정원의 국가인공지능안보센터가 배포한 ‘AI 보안 가이드북’은 중앙행정기관·지자체 및 공공기관 등의 안전한 AI 활용을 위한 지침서다. 지난 2023년 6월 발표한 ‘챗GPT 등 생성형AI 서비스 활용 보안 가이드라인’을 국내 여러 분야의 AI도입 확산과 AI시스템에 대한 위협 증가 등 변화된 환경에 맞춰 개정한 것이다.

국가인공지능안보센터는 개정 과정에서 실용성을 높이기 위해 300개 공공기관 대상 AI 도입·보안관리 실태 조사 결과와 유관기관·학계·산업계 등 현장과 전문가 의견을 반영했다.

생성형·에이전틱·피지컬 AI 등 다양한 유형의 AI시스템 특징을 소개하고, 학습데이터 오염 등 15개 보안위협과 30개 보안대책을 제시했다.

누구나 쉽게 이해하고 현장에서 즉시 활용할 수 있도록 △‘AI시스템 수명주기별 보안대책’ 및 ‘AI시스템 구축 유형별 보안 키포인트’를 그림 등 방식으로 설명하고 △57개 보안 체크리스트도 수록했다.

국정원 국가인공지능안보센터장은 “이번 가이드북이 안전한 AI시스템 도입ㆍ활용을 위한 이정표로서, 기관별 자체 보안 강화에 도움이 되길 기대한다”면서 “앞으로도 국가 AI대전환이 안전하게 이루어질 수 있도록 적극 뒷받침 하겠다“고 강조했다.

과기정통부와 한국인터넷진흥원(KISA·원장 이상중)가 발표한 ‘인공지능(AI) 보안 안내서’는 외부 사이버 위협으로부터 인공지능 모델·서비스를 보호하기 위해 기업과 국민이 참조할 수 있는 지침서다.

인공지능 대전환(AX) 시대가 본격 도래하면서 국민 일상을 넘어 국가 경제·사회 전 영역에서 인공지능 기반 서비스의 도입이 확대되고 있다. 이에 정부는 국민과 기업이 인공지능의 혜택을 안전하게 누릴 수 있도록 그간 지침, 가이드라인 등을 발간해 왔다.

하지만 주로 인공지능 생성물, 추론 과정 등에 대한 신뢰성 및 윤리적 활용의 관점에서 다루어지면서 외부 사이버 위협을 예방·대응하는 보안 관점에서의 상세한 가이드 또는 기준은 제시되지 않았었다는 게 과기정통부의 설명이다.

이에 과기정통부는 산·학·연 전문가들과 함께 국내외 AI 보안 정책 관련 사례 등을 분석하고 관계기관·업계 대상으로 의견 수렴을 거쳐 인공지능 모델 개발자, 서비스 제공자, 이용자 등이 보안 측면에서 참고할 수 있는 안내서를 마련했다.

이 안내서는 인공지능 모델·시스템에 대해 보안 3대 요소(기밀성, 무결성, 가용성)을 기반으로 개발자, 서비스 제공자 대상 인공지능 생애주기 전 단계 보안 요구사항과 이용자의 인공지능 보안 수칙 등 총 113개의 항목으로 구성됐다.

모델 개발 단계에서 AI 모델 위험 관리, 데이터 암호화, 실시간 모니터링 등 인공지능 보안 내재화(Secure by Coding)를 실현하기 위한 보안 요구사항을 제시했다. 서비스 제공 단계에서는 서비스 이상 행위 탐지, API·인터페이스 보안, 백업시스템 구축 등 서비스 복원력 관점에서의 보안 요구사항도 제시했다. 또 중요 정보 입력금지, 인공지능 악용 금지 등 이용자를 위한 구체적인 보안 수칙을 마련했다.

과기정통부의 이번 안내서는 국제 기준 및 가이드라인 등을 참고해 인공지능 보안 요구사항을 글로벌 수준으로 정립했다. 국내 모델뿐만 아니라 해외 모델에도 적용할 수 있도록 범용성과 글로벌 규범 간 호환성을 확보했다고 과기정통부는 강조했다.

과기정통부 임정규 정보보호네트워크정책관은 “이번 인공지능 보안 안내서는 고도화되는 사이버 위협 속에서 인공지능을 안전하게 개발·활용할 수 있도록 하는 중요한 이정표가 될 것”이라며 “인공지능에 대한 새로운 보안 위협을 모니터링하여 반영하는 등 보안 안내서를 지속 업데이트 해나갈 예정”이라고 말했다.

‘AI 보안 가이드북’에 대한 자세한 내용은 국정원 홈페이지에서 확인할 수 있다. ‘인공지능(AI) 보안 안내서’는 과기정통부, KISA 홈페이지를 통해 무료로 내려받아 사용할 수 있다.

[강현주 기자(jjoo@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다