혁신금융서비스 보안대책 평가와 AI모델 보안성 검증 실시
AI 신기술인 연합학습 기법 활용, 공동 AI 모델 개발 추진
[보안뉴스 김경애 기자] 금보원이 금융권 AI환경 보안성을 평가한다.
20일 금융보안원(원장 박상원)은 혁신금융서비스 지정 금융사 대상으로 △보안대책 평가 △AI모델 모의 공격 △AI모델 개발 △AI활용을 지원한고 밝혔다.
보안대책 평가는 망분리 예외가 적용된 구간서도 안전하게 AI가 활용될 수 있도록 지원한다. 지난 2월 기준 32개 금융회사서 49개 서비스를 접수했다.
AI모델 모의 공격은 금융회사가 사용하는 AI모델 대상으로 한다. 예컨대, 조작된 질의로 AI를 속여 잘못된 답변이나 행동을 유도 등 취약점을 찾는다. AI 모델 보안성 검증을 통해, 높은 수준의 AI 기술 활용 안전성과 신뢰성 확보를 지원한다. 현재 8개 금융회사서 9개 서비스에 대한 점검을 요청했다.
AI모델 개발도 추진한다. AI 신기술인 연합학습 기법을 통해 금융사기 거래 탐지 AI모델을 금융권 공동으로 개발을 추진한다. 이는 금융사기 거래 대응을 개별 금융사 차원서 금융권 공동 체계로 확장하기 위한 취지다.
외에도 금융사가 오픈소스 AI 모델을 손쉽게 사용할 수 있는 환경 제공을 하고, 금융분야 AI 가이드라인 개정 지원 등 금융권 AI 활용을 지원할 예정이다.
박상원 금융보안원장은 “AI기술의 성공적인 도입·활용이 향후 금융권의 디지털 경쟁력 수준을 좌우할 것이며, 혁신과 경쟁력 확보는 튼튼한 보안 위에서만 가능하다”며, “금융보안원은 올해 투자와 조직 확대 등 전문인력 양성과 기술력 강화 등 금융권의 AI혁신을 지원해 나갈 것”이라고 밝혔다.
[김경애 기자(boan3@boannews.com)]
AI 신기술인 연합학습 기법 활용, 공동 AI 모델 개발 추진
[보안뉴스 김경애 기자] 금보원이 금융권 AI환경 보안성을 평가한다.
▲생성형 AI 모델에 대한 적대적 공격 예시 [자료: 금융보안원]
20일 금융보안원(원장 박상원)은 혁신금융서비스 지정 금융사 대상으로 △보안대책 평가 △AI모델 모의 공격 △AI모델 개발 △AI활용을 지원한고 밝혔다.
▲혁신금융서비스 보안대책 평가 주요내용 [자료: 금융보안원]
보안대책 평가는 망분리 예외가 적용된 구간서도 안전하게 AI가 활용될 수 있도록 지원한다. 지난 2월 기준 32개 금융회사서 49개 서비스를 접수했다.
▲AI 모델 보안성 검증 주요내용 [자료: 금융보안원]
AI모델 모의 공격은 금융회사가 사용하는 AI모델 대상으로 한다. 예컨대, 조작된 질의로 AI를 속여 잘못된 답변이나 행동을 유도 등 취약점을 찾는다. AI 모델 보안성 검증을 통해, 높은 수준의 AI 기술 활용 안전성과 신뢰성 확보를 지원한다. 현재 8개 금융회사서 9개 서비스에 대한 점검을 요청했다.
▲연합학습 구성도 [자료: 금융보안원]
AI모델 개발도 추진한다. AI 신기술인 연합학습 기법을 통해 금융사기 거래 탐지 AI모델을 금융권 공동으로 개발을 추진한다. 이는 금융사기 거래 대응을 개별 금융사 차원서 금융권 공동 체계로 확장하기 위한 취지다.
▲금융권 AI 플랫폼 구축 개요도 [자료: 금융보안원]
외에도 금융사가 오픈소스 AI 모델을 손쉽게 사용할 수 있는 환경 제공을 하고, 금융분야 AI 가이드라인 개정 지원 등 금융권 AI 활용을 지원할 예정이다.
박상원 금융보안원장은 “AI기술의 성공적인 도입·활용이 향후 금융권의 디지털 경쟁력 수준을 좌우할 것이며, 혁신과 경쟁력 확보는 튼튼한 보안 위에서만 가능하다”며, “금융보안원은 올해 투자와 조직 확대 등 전문인력 양성과 기술력 강화 등 금융권의 AI혁신을 지원해 나갈 것”이라고 밝혔다.
[김경애 기자(boan3@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김경애기자 기사보기
[2025-02-20] 
