kt cloud·카카오, AI 안전성 동맹... 공공·금융 생성형 AI 컴플라이언스 정조준

AI 서비스 개발 및 운영 전 과정 아우른 협력 체계
글로벌 보안 트렌드 발맞춰 AI 리스크 매니지먼트 체계 가동

[보안뉴스 조재호 기자] kt cloud가 카카오와 함께 AI 서비스의 안전성 확보를 위한 협력 체계를 구축하고 공공 및 민간 분야의 신뢰할 수 있는 AI 활용 환경 조성에 나선다고 26일 밝혔다.

▲(왼쪽부터) 김세웅 카카오 AI시너지 성과리더와 공용준 kt cloud 본부장이 기념촬영을 하고 있다. [출처: KT 클라우드]

최근 생성형 AI 도입이 가속화되면서 유해 콘텐츠 생성이나 ‘프롬프트 주입’을 통한 개인정보 유출 등 보안 위협이 새로운 리스크로 부상하고 있다. 이에 따라 kt cloud는 지난 4월 출시한 공공 고객 대상의 생성형 AI 플랫폼 ‘RAG Suite 2.0’에 카카오의 AI 가드레일 모델인 ‘카나나 세이프가드’를 우선 연동한다.

가드레일뿐 아니라 모델 안정성 평가 시스템, AI 레드티밍(Red-teaming) 시스템 등 다양한 AI Safety 도구를 kt cloud 고객 환경에 단계적으로 제공할 계획이다. 또, kt cloud 환경에서 수집되는 고객 피드백과 운영 데이터를 바탕으로 AI Safety 도구를 통합·관리하는 운영 플랫폼(Ops Platform) 분야로도 협력을 확대한다.

이를 통해 고객사는 생성형 AI 서비스 개발부터 배포, 운영, 모니터링까지 전 과정에서 보다 체계적인 AI 운영 환경을 구축할 수 있으며, 공공과 금융이 요구하는 보안 컴플라이언스 기준에도 효과적으로 대응할 수 있을 것이라는 전망이다.

김봉균 kt cloud 대표는 “생성형 AI가 본격적으로 확산되면서 성능뿐 아니라 책임 있는 AI 활용 기반을 마련하는 것이 중요한 과제가 되고 있다”며 “카카오와의 협력을 통해 AI 인프라와 안전성 기술을 결합하고 공공과 민간 고객이 보다 신뢰할 수 있는 환경에서 AI 서비스를 개발 및 운영할 수 있도록 지원하겠다”고 말했다.

[조재호 기자(zephyr@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다