TTA, 생성형 AI 모델 인공지능 신뢰성 인증(CAT) 부여

포티투마루, ‘LLM42 v1.1’ 인공지능 모델 대상

[보안뉴스 박미영 기자] 한국정보통신기술협회(이하 TTA)는 지난 6일 포티투마루의 인공지능 언어모델 ‘LLM42 v1.1(이하 LLM42)’에 대해 생성형 AI 모델 최초로 ‘인공지능 신뢰성 인증(CAT; Certification of AI Trustworthiness, 이하 CAT)’을 부여했다고 발표했다.

TTA는 올해부터 본격적으로 CAT 서비스를 운영하고 있으며, 이미 안전·국방·채용·교육 4개 분야의 제품 및 서비스(마크애니; 스마트아이 v1.0/ 엔플럭스; 인공지능 융합 지뢰 탐지 모듈 v1.0/ 제네시스랩; 뷰인터 HR v2.0/ 단감소프트; CareerRecommender v1.0)에 해당 인증을 부여한 바 있다.

포티투마루의 LLM42는 한국어 말뭉치 데이터를 학습하고 자체 명령어 집합을 통해 미세 조정(Fine-tunning)된 13B 기반의 인공지능 언어모델이다. 이 모델은 주로 전문 도메인별로 특화해 질의응답, 요약, 분류, 초안 작성 등을 제공하는 B2B 서비스용으로 개발됐다.

EU의 인공지능 법은 LLM42와 같은 ‘범용 AI(GPAI; General Purpose AI)’ 모델을 별도의 범주로 정의하고 있으며, 기술문서 작성과 투명성 의무 등을 요구하고 있다. 이에 범용 AI의 특수성과 고위험 용도로 사용될 가능성을 고려해 LLM42 모델에 필요한 신뢰성 기준을 충족하는지 심사했다.

TTA는 LLM42 모델의 신뢰성 인증 과정에서 개인정보 보호와 지식재산권 등 법규 위반으로 인한 손실(기업의 금전적 손실, 사용자 피해 등) 위험, 모델의 편향된 출력, 정보 투명성 부족(설명 가능성), 성능 저하(환각 현상 포함) 등을 주요 위험 요소로 식별하였다. 그리고 모델의 위험 완화 또는 대응 방안을 확인하기 위해 거버넌스 체계 구축 및 운영, 레드팀 수행을 통한 취약점 점검 및 보안, 모델 정보의 문서화, 성능 수준 관리 등의 사항들을 심사하고 인증서를 발급했다. 향후 모델의 지속적인 신뢰성 보장을 위해서는 인증에서 확인한 사항들을 기반으로 기업의 지속적인 실천 노력이 필요하다.

TTA는 글로벌 정책 및 연구(EU AI ACT, NIST AI RMF 등)와 관련 표준(ISO/IEC, TTA 단체표준 등)을 기반으로 인공지능 신뢰성 확보 체계를 평가하기 위한 인증 서비스를 제공하고 있다. 하지만 인공지능의 신뢰성을 평가하기 위한 기준은 세계적으로 아직 완전히 확립되지 않았으며, 급격한 기술 발달과 국제사회 논의에 맞춰 계속적 갱신이 필요하다.

TTA 손승현 회장은 “생성형 AI는 국내 성공적 도입 시 연간 300조원에 달하는 경제적 파급효과가 기대되지만, 이를 실현하려면 안전성과 신뢰성이 먼저 해결돼야 한다. TTA는 모두가 안심하고 사용할 수 있는 AI 생태계를 만들 수 있도록 AI 안전성·신뢰성 전문 시험 인증기관으로서의 역할에 최선을 다할 것”이라고 밝혔다.
[박미영 기자(mypark@boannews.com)]

내년 회사에 꼭 도입하고 싶은 보안 솔루션 또는 플랫폼은 무엇인가요?
	XDR
	EDR
	AI 보안
	제로트러스트
	공급망 보안 체계(SBOM)
	클라우드 보안 솔루션
	기타(댓글로)