통제 잃은 AI 로봇 막는다... 라온시큐어, 피지컬 AI 보안 인프라 설계 착수

한국전자기술연구원과 전략적 연대 통해 물리적 위협 차단하는 보안 기준 검증
클린룸 및 비식별화 기술 적용해 보안 담보된 인공지능 학습 환경 선제 조성

[보안뉴스 조재호 기자] 사이버 공간의 데이터를 넘어 로봇과 드론 등 물리적 시스템을 통제하는 AI 보안 위협을 원천 차단하기 위한 민관 공동 기술 실증이 본격화된다.

▲(왼쪽부터) 신희동 KETI 원장과 이정아 라온시큐어 대표가 업무협약식에서 기념사진을 촬영하고 있다. [출처: 라온시큐어]

라온시큐어와 한국전자기술연구원(KETI)은 AI 기반 데이터 보안 및 피지컬 AI 융합보안 실증 생태계 조성을 위한 전략적 업무협약을 11일 체결했다.

이번 협약은 라온시큐어의 보안 기술력과 KETI의 연구 역량을 결합해 산업 현장에 안정적으로 적용할 수 있는 차세대 보안 체계를 선제적으로 구축하기 위해 마련됐다.

양 기관은 공동 과제로 중앙대학교와의 산학 협력을 통해 인공지능이 문서의 보안 등급을 자동 분류하는 핵심 엔진을 개발하고 객관적 검증을 거칠 계획이다. 이는 AI 확산으로 기업 내 데이터가 폭증하는 상황에서 기존 수작업 분류의 한계를 극복하고 내부 통제 규정의 효율성을 높이기 위한 조치다.

이어 로봇과 드론 등 실제 기기와 연동되는 피지컬 AI 분야의 보안 체계 고도화에도 착수한다. 특히 물리적 시스템을 직접 통제하는 에이전틱 AI가 현장에 도입될 때 필요한 보안 기준과 적용 방향을 실증할 예정이다.

이러한 기술 협력 과정에서 민감 데이터 보호를 위해 클린룸 환경과 비식별화 조치 등 철저한 보안이 담보된 신뢰 환경을 조성하고, 이를 향후 산업 실증 모델로 확대 적용할 방침이다.

이정아 라온시큐어 대표는 “AI가 현실 세계의 시스템을 직접 제어하는 단계로 진화하면서, 보안은 사후 대응이 아닌 AI의 신원과 권환, 행동을 통제하는 체계로 확장되고 있다”며 “KETI와의 협력을 통해 차세대 보안 기준을 실증하고, 데이터 영역부터 피지컬 AI 실행 영역까지 전 주기 신뢰 인프라를 산업 현장에 적용할 것”이라고 말했다.

[조재호 기자(zephyr@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다