금융 분야에도 신뢰할 수 있는 AI 서비스 제공 기대된다

고려대 이성환 교수팀, 신한은행과 함께 산학협력연구 수행

[보안뉴스 박미영 기자] 고려대 이성환 교수팀이 신한은행과 공동으로 수행한 ‘기계학습모형의 설명력 확보를 위한 설명가능한 AI 기법 개발’ 산학협력과제를 성공적으로 완료했다고 밝혔다.

최근 금융권에서는 빅데이터를 바탕으로 문제 해결능력이 뛰어난 것으로 알려진 기계학습(Machine Learning, 이하 ML) 모형을 신용평가·이상거래 탐지 등 주요 업무에 도입하고 있으나, ML 모형이 도출한 결과에 대한 이유를 사용자가 이해할 수 있는 형태로 제공해 모형의 투명성과 신뢰도를 확보해야 하는 필요성이 동시에 대두되고 있다.

이에 고려대 대학원 인공지능학과 패턴인식 및 머신러닝 연구실(지도교수 이성환)은 올해 5월부터 3개월간 신한은행 디지털R&D센터와 공동으로 ML 모형의 판단 결과에 대한 효과적인 설명력 제공 방법 개발을 추진해 왔으며, 금융 데이터를 기반으로 인공지능이 도출한 고객의 신용평가 결과에 대해 인간 수준에서 이해할 수 있는 근거 제시가 가능함을 개념적·실험적으로 검증하는 데 성공했다.

이번 산학협력연구를 수행한 이성환 고려대 교수는 “설명가능 인공지능 기술을 통해 인공지능 기반의 신용평가 결과에 대한 신뢰성 확보가 가능함에 따라, 금융 분야에서도 최신 기술을 적극적으로 적용해 신뢰할 수 있는 AI 서비스를 제공할 수 있을 것으로 기대한다”고 밝혔다.
[박미영 기자(mypark@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다