금융보안원, ‘금융분야 설명가능한 인공지능(XAI) 세미나’ 23일 개최

안전하고 공정한 인공지능 활용 목적...금투센터 불스홀에서 열려
XAI 관련해 기술적 고려사항, 법·제도적 고려사항, 금융권 XAI 적용사례 등 발표 예정

[보안뉴스 김영명 기자] 금융보안원(원장 김철웅)은 안전하고 공정한 인공지능 활용을 위해 ‘금융분야 설명가능한 인공지능(XAI) 세미나’를 개최한다고 밝혔다. 최근 AI를 통한 의사결정으로부터 소비자를 보호하기 위해 국내외에서 ‘설명가능한 AI(Explainable AI, XAI)’에 대한 논의가 활발히 진행되고 있다. 금융분야도 AI 의사결정(상품추천, 여신심사 등) 확대에 대비해 금융회사 등이 XAI를 보다 원활히 도입하고 운영할 수 있도록 관련 기준 등을 검토해 나가야 할 시점이다.

▲금융분야 설명가능한 인공지능(XAI) 세미나 안내 포스터[이미지=금융보안원]

금융보안원은 오는 23일 오후 2시부터 여의도 금융투자센터 3층 불스홀에서 ‘금융분야 설명가능한 인공지능(XAI) 세미나’를 개최한다. 이번 세미나에서는 각 분야 전문가들이 설명가능한 인공지능과 관련해 △기술적 고려사항(XAI 적용방식 및 알고리즘) △법·제도적 고려사항(금융소비자보호법, 신용정보법 등) △금융권 XAI 적용사례 등에 대해 발표한다.

먼저 금융보안원 이주현 책임은 ‘설명가능한 인공지능 기술 소개’를 발표한다. 이어 김앤장 법률사무소 문양수 변호사는 ‘금융소비자보호법, 신용정보법과 금융분야 설명가능한 인공지능’을, NICE평가정보 심주현 책임연구원은 ‘설명가능한 인공지능 적용사례(신용평가를 중심으로)’에 대해 강의할 예정이다.

이번 행사는 금융권 AI 담당자를 포함해 강의를 듣기를 원하는 사람은 누구나 참석할 수 있으며, 오늘부터 다음 주 수요일까지 일주일 간 사전등록을 진행할 예정이다. 또한, 세미나 종료 후에는 XAI에 관한 금융권 의견 수렴을 위한 금융권 XAI 워킹그룹 소개 및 참가안내도 진행할 예정이다. 금융권 XAI 워킹그룹에서는 지난해 8월 금융위원회가 발표한 ‘금융권 인공지능 활용 활성화 및 신뢰확보 방안’ 및 세부과제인 ‘설명가능한 AI 안내서 발간’ 등과 관련한 논의가 진행된다.

금융보안원 관계자는 “이번 세미나가 금융권에서 안전하고 공정한 인공지능 활용에 필요한 XAI 기술을 적용하는 데 도움이 될 것으로 기대한다”며 “금융보안원은 앞으로도 금융권에서 안전하고 공정하게 인공지능 기술을 활용할 수 있도록, 필요한 생태계와 인프라 구축을 위해 지속해서 노력하겠다”고 밝혔다.
[김영명 기자(boan@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다