금보원, 금융권 AI모델 보안성 평가

혁신금융서비스 보안대책 평가와 AI모델 보안성 검증 실시
AI 신기술인 연합학습 기법 활용, 공동 AI 모델 개발 추진

[보안뉴스 김경애 기자] 금보원이 금융권 AI환경 보안성을 평가한다.

20일 금융보안원(원장 박상원)은 혁신금융서비스 지정 금융사 대상으로 △보안대책 평가 △AI모델 모의 공격 △AI모델 개발 △AI활용을 지원한고 밝혔다.

보안대책 평가는 망분리 예외가 적용된 구간서도 안전하게 AI가 활용될 수 있도록 지원한다. 지난 2월 기준 32개 금융회사서 49개 서비스를 접수했다.

AI모델 모의 공격은 금융회사가 사용하는 AI모델 대상으로 한다. 예컨대, 조작된 질의로 AI를 속여 잘못된 답변이나 행동을 유도 등 취약점을 찾는다. AI 모델 보안성 검증을 통해, 높은 수준의 AI 기술 활용 안전성과 신뢰성 확보를 지원한다. 현재 8개 금융회사서 9개 서비스에 대한 점검을 요청했다.

AI모델 개발도 추진한다. AI 신기술인 연합학습 기법을 통해 금융사기 거래 탐지 AI모델을 금융권 공동으로 개발을 추진한다. 이는 금융사기 거래 대응을 개별 금융사 차원서 금융권 공동 체계로 확장하기 위한 취지다.

외에도 금융사가 오픈소스 AI 모델을 손쉽게 사용할 수 있는 환경 제공을 하고, 금융분야 AI 가이드라인 개정 지원 등 금융권 AI 활용을 지원할 예정이다.

박상원 금융보안원장은 “AI기술의 성공적인 도입·활용이 향후 금융권의 디지털 경쟁력 수준을 좌우할 것이며, 혁신과 경쟁력 확보는 튼튼한 보안 위에서만 가능하다”며, “금융보안원은 올해 투자와 조직 확대 등 전문인력 양성과 기술력 강화 등 금융권의 AI혁신을 지원해 나갈 것”이라고 밝혔다.
[김경애 기자(boan3@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다