ETRI, ‘AI 안전성 평가’ 초안 공개 “한국형 AI 안전 기준 만든다”

올해 구축한 데이터셋 및 평가 가이드라인 전문가 검증 착수
김명주 소장 “국민 체감 가능한 AI 안전 기반 마련”

[보안뉴스 조재호 기자] 한국전자통신연구원(ETRI) 인공지능안전연구소(AISI)가 자체 구축한 AI 안전성 평가 방안 초안을 처음으로 공개하며 국가 AI 안전 생태계 확산에 나섰다.

▲김명주 ETRI AISI 소장이 국제 AI 안전 네트워크 동향에 대해 설명하고 있다. [자료: ETRI]

AISI는 17일 그래비티 조선 서울 판교 호텔에서 국내 AI 안전 분야 전문가들이 참석한 가운데 ‘AI안전컨소시엄 합동회의’를 개최했다. 이번 회의에선 △국제 인공지능(AI) 안전연구소 네트워크 활동 현황 △AISI의 1년 간 연구 성과 △AI안전 컨소시엄 분과별 추진 결과와 향후 계획 등이 논의됐다.

이날 회의의 핵심은 AISI가 올해 구축한 ‘데이터셋 및 안전성 평가 방안 초안’ 공개다.

AISI는 AI 파운데이션 모델의 안전성과 신뢰성을 평가하기 위한 독자 기술 개발을 지속해 왔다. 이날 공개된 초안에 대해 전문가 검토를 거쳐 실효성을 높여 국민이 체감할 수 있는 AI 안전을 확보하고, 국가 AI 전략인 ‘AI 기본사회’ 실현을 뒷받침한다는 방침이다.

글로벌 AI 안전 네트워크 재편 대응 국제 협력 동향에 대한 논의도 이뤄졌다. AISI는 이달 초 미국 샌디에이고에서 열린 ‘제2회 글로벌 AI안전 네트워크 회의’ 결과를 공유했다. 연구소 명칭 변경과 영국의 의장국 수임 등 국제 네트워크의 운영체계 변화에 발맞춘 국내 대응 방안이 제시됐다.

AI안전 컨소시엄은 향후 더 많은 기업과 기관의 참여를 유도해 국내 AI 안전 생태계를 확장하고, AI 안전 정책·정책 아젠다를 적극 발굴할 예정이다. 이 컨소시엄은 네이버, 삼성전자, SK텔레콤 등 산업계와 학계, 연구계 등 24개 전문 기관이 참여해 국내 AI 안전 연구의 구심점 역할을 하고 있다.

김명주 ETRI AISI소장은 “내년은 국가 AI 정책과 글로벌 거버넌스가 복잡하게 얽히는 전환점이 될 것”이라며 “ETRI가 중심이 되어 굳건한 AI 안전 생태계를 구축하고, 국민 안전과 글로벌 경쟁력을 동시에 확보하겠다”고 말했다.

[조재호 기자(sw@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다