KT, 안전하고 믿을 수 있는 AI 연구 강화한다

Responsible AI 리포트 공개

[보안뉴스 박미영 기자] KT가 안전하고 믿을 수 있는 AI 활용을 위해 연구 성과 리포트를 공개하고 전문가로 구성된 자문 위원회를 출범했다고 밝혔다.

‘KT Responsible AI 리포트’는 AI 윤리와 신뢰성을 향한 KT의 노력과 연구 성과를 담았다. 리포트는 거버넌스, 윤리원칙, 프로세스 세 가지 측면에서 규정한 ’Responsible AI 프레임워크’를 소개한다. 이는 안전하고 신뢰할 수 있는 AI 서비스의 근간을 마련하기 위해 개발됐다.

Responsible AI 윤리원칙은 책임성(Accountability)·지속가능성(Sustainability)·투명성(Transparency)·신뢰성(Reliability)·포용성(Inclusivity)이라는 다섯 가지 핵심 원칙, ‘ASTRI’로 구성됐다. 약칭은 북극성처럼 이정표 역할을 수행한다는 의미를 담아 라틴어 ‘별’에 해당하는 단어를 차용했다.

KT는 국내에 바람직한 AI 생태계가 조성되기를 기대하며 리포트를 KT 홈페이지(corp.kt.com)에 공개한다. KT Responsible AI 프레임워크의 세부 내용과 정립 과정이 궁금한 단체나 개인은 언제든지 참고용으로 열람할 수 있다.

아울러 지난 22일에는 ‘Responsible AI 자문 위원회’가 출범했다. 위원회는 KT 임원과 고려대·KAIST 교수, AI 스타트업 ‘셀렉트스타’ 소속 전문가들로 구성됐다. 이들은 한국적 문화와 가치를 반영한 AI 솔루션을 개발하기 위해 Responsible AI 프레임워크를 고도화한다.

세부적으로 AI 모델을 객관적으로 검증하고 국내외 규제를 반영하는 역할을 수행한다. 올해 9월 설립된 KT 사내 위원회와도 긴밀히 협업해 논문 저술, 학술 발표 등 연구 활동을 지속한다.

KT는 지금까지 Responsible AI 실천을 위해 다각도로 노력해 왔다. 캐나다 벡터 연구소 및 올해 9월 파트너십을 체결한 마이크로소프트와 Responsible AI 프레임워크 강화를 위해 협력하는 한편, 4월에는 안전한 AI 활용을 위한 약속을 담은 ‘서울 AI 기업 서약’에 동참했다. 2023년 10월에는 중국 차이나모바일, 일본 NTT도코모와 공동 집필한 ‘통신 AI 산업의 발전을 위한 백서'를 발간했다.

특히 ‘Responsible AI Center(책임감 있는 AI 센터, RAIC)’를 4월 설립해 안전하고 믿을 수 있는 AI 연구개발의 속도를 높였다. RAIC는 설립 이래 △AI 윤리원칙 고도화 △Responsible AI 거버넌스 수립 △Responsible AI 평가 체계 구축 등 다양한 활동을 펼쳤다. 더불어 KT 실무에 즉시 적용 가능한 수준의 지침을 제작하는 등 임직원들의 실질적인 AI 윤리 이행을 독려했다.

KT Responsible AI Center 배순민 센터장은 “RAIC는 KT의 AI를 모두가 믿고 사용할 수 있도록 관련 정책 수립, 프로세스 구축, 지속적인 모니터링 등의 역할을 수행한다”며, “이번 Responsible AI 리포트 발간으로 안전한 AI를 위한 국내외 이해관계자들과 협력을 확대해 나갈 수 있기를 바란다”고 밝혔다.
[박미영 기자(mypark@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다