[보안뉴스 박미영 기자] 한국정보화진흥원(이하 NIA)은 공공기관 AI 시스템의 부작용을 최소화하고 신뢰받는 지능정보서비스를 구현하기 위한 지침서로서 ‘공공기관 신뢰가능 AI 구현 실용가이드’를 발간했다.
지능정보사회의 도래로 AI가 일상 깊숙이 확산되고 있는 가운데 알고리즘과 데이터 편향에 따라 인권과 안전을 해치는 부작용도 계속 발생하고 있다. 이에 국제사회에서는 신뢰할 수 있는 AI를 만들기 위한 여러 원칙을 잇달아 발표하고 있다. 특히 OECD는 지난 5월, 포용 성장, 사람 중심가치, 투명성, 안전성, 책임성의 5가지 원칙을 제시했다.
NIA는 이러한 국제적인 노력에 발맞춰 공공기관이 신뢰가능 AI를 구현할 때, 이러한 원칙을 준수할 수 있도록 설계 단계부터 적용돼야 할 세부 지침을 마련했다. 실용 가이드는 다음 세 부분으로 구성됐다.
첫 번째로 신뢰가능 AI에 대한 OECD 기본원칙을 설명하고 이러한 원칙이 구현된 시스템을 신뢰가능 AI 시스템이라 정의하고 있으며, 두 번째로 신뢰가능 AI 원칙 준수를 위해 시스템 개발부터 운영까지 생애주기의 단계별·책임자별로 세분화한 실행 지침을 담고 있다. 마지막으로 공공기관이 신뢰 가능 AI 구현을 위해 필요한 거버넌스 프레임워크(관리체계, 위험관리와 인간의 개입, 데이터 관리, 고객 의사소통)를 제시하고 있다.
NIA 문용식 원장은 “이번 실용가이드는 AI 직접 서비스를 제공하는 주요 기업과 학계 전문가의 자문을 통해 작성된 만큼 완성도가 높다”며, “앞으로도 기업, 전문가, 이해관계자와 지속적으로 협력해 보다 구체적인 실천 방안을 마련하고 가이드 적용 우수 사례를 담아 담당자들이 쉽게 따라할 수 있는 길잡이가 되도록 실용 가이드를 계속 보완하겠다”고 밝혔다.
[박미영 기자(mypark@boannews.com)]
[사진=NIA]
지능정보사회의 도래로 AI가 일상 깊숙이 확산되고 있는 가운데 알고리즘과 데이터 편향에 따라 인권과 안전을 해치는 부작용도 계속 발생하고 있다. 이에 국제사회에서는 신뢰할 수 있는 AI를 만들기 위한 여러 원칙을 잇달아 발표하고 있다. 특히 OECD는 지난 5월, 포용 성장, 사람 중심가치, 투명성, 안전성, 책임성의 5가지 원칙을 제시했다.
NIA는 이러한 국제적인 노력에 발맞춰 공공기관이 신뢰가능 AI를 구현할 때, 이러한 원칙을 준수할 수 있도록 설계 단계부터 적용돼야 할 세부 지침을 마련했다. 실용 가이드는 다음 세 부분으로 구성됐다.
첫 번째로 신뢰가능 AI에 대한 OECD 기본원칙을 설명하고 이러한 원칙이 구현된 시스템을 신뢰가능 AI 시스템이라 정의하고 있으며, 두 번째로 신뢰가능 AI 원칙 준수를 위해 시스템 개발부터 운영까지 생애주기의 단계별·책임자별로 세분화한 실행 지침을 담고 있다. 마지막으로 공공기관이 신뢰 가능 AI 구현을 위해 필요한 거버넌스 프레임워크(관리체계, 위험관리와 인간의 개입, 데이터 관리, 고객 의사소통)를 제시하고 있다.
NIA 문용식 원장은 “이번 실용가이드는 AI 직접 서비스를 제공하는 주요 기업과 학계 전문가의 자문을 통해 작성된 만큼 완성도가 높다”며, “앞으로도 기업, 전문가, 이해관계자와 지속적으로 협력해 보다 구체적인 실천 방안을 마련하고 가이드 적용 우수 사례를 담아 담당자들이 쉽게 따라할 수 있는 길잡이가 되도록 실용 가이드를 계속 보완하겠다”고 밝혔다.
[박미영 기자(mypark@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박미영기자 기사보기
[2024-10-06] 
