“AI 무기화, 통합 가시성이 해법... 데이터독, 자율 보안 비전 공유

9일 미디어 라운드테이블 개최
딥페이크 피싱·자동화 랜섬웨어 등 고도화된 위협과 에이전트 통제 방안 공유
‘옵저버빌리티’ 넘어 스스로 문제 해결하는 자율 운영 생태계 제시

[보안뉴스 조재호 기자] “국내 생성형 AI 도입 속도는 글로벌 최상위권을 기록하며 산업 전반의 혁신을 주도하고 있습니다. 그러나 기술 발전 속도에 비해 이를 안전하게 통제하고 설명할 수 있는 보안 거버넌스 체계는 아직 그 속도를 따라가지 못해 거대한 공백이 발생하고 있습니다.”

▲엄수창 데이터독 코리아 지사장이 발표를 진행하고 있다. [출처: 보안뉴스]

엄수창 데이터독코리아 지사장은 9일 서울 강남구 오피스에서 열린 ‘대시 2026’(DASH 2026) 미디어 라운드테이블에서 이같이 진단했다.

실제 2025년 사이버 침해사고 신고가 역대 최고치를 경신했고 2026년 보안 시장 규모가 4조원을 돌파할 것으로 전망되는 가운데, 해커들은 신기술을 적극 악용해 공격을 고도화하고 있다. 딥페이크 피싱과 자동화된 랜섬웨어, 공급망 공격 등 복합적인 위협이 쏟아지며 기존 경계 기반 방어망은 한계에 직면했다.

운영 환경의 복잡성도 임계점에 달했다. 데이터독이 발표한 엔지니어링 현황 보고서에 따르면 기업 10곳 중 7곳이 3개 이상의 다중 모델을 사용하고 있으며, 데이터를 처리하는 토큰 평균 사용량은 최대 4배까지 폭증했다.

따라서 실제 생산 환경에서 AI 모델 요청의 약 5%가 실패하고 있으며, 이 중 약 60%가 시스템 용량 한계에서 비롯된 것으로 분석됐다. 통제력을 상실한 맹목적 속도 경쟁이 서비스 지연과 오류를 낳고 있는 셈이다.

이러한 딜레마를 타개하기 위해 데이터독은 자율 운영 비전을 전면에 내세웠다. 엄 지사장은 “데이터독 플랫폼은 애플리케이션, 인프라, 데이터, 보안을 하나의 통합된 환경으로 연결한다”며 “단순한 모니터링 도구 제공을 넘어 심층적 ‘옵저버빌리티’(Observability)를 거쳐 기계가 스스로 문제를 감지하고 대응하는 자율성(Autonomy) 플랫폼으로 진화하고 있다”고 말했다.

▲정영석 데이터독 코리아 기술총괄이 발표를 진행하고 있다. [출처: 보안뉴스]

정영석 데이터독코리아 기술총괄은 개발자와 데브옵스(DevOps) 엔지니어 등 현장 경험을 바탕으로 구체적 해법을 제시했다. 그는 지난달 데이터독이 진행된 연례 컨퍼런스 ‘대시(DASH) 2026’에서 공개된 ‘비츠 AI’(Bits AI)를 소개하며, 인프라를 24시간 모니터링해 이상 징후를 스스로 탐지하고 조치하는 자율 운영의 핵심 엔진이라고 설명했다. 비츠 AI는 단순 이상 탐지를 넘어 코드 변경부터 배포에 이르는 전 주기를 추적해 애플리케이션의 무결성을 검증한다.

정 기술총괄은 자율성이 커진 에이전트를 보호하기 위한 전용 보안 계층 ‘AI 가드’(AI Guard)도 소개했다. 높은 권한을 가진 에이전트가 겉보기엔 무해한 프롬프트에 숨겨진 악성 지시 하나만으로 민감 정보를 유출하게 되는 ‘에이전트 오염’(Agent Poisoning) 공격에 노출될 수 있다는 설명이다. ‘AI 가드’는 프롬프트와 도구 호출을 실시간으로 검사해 교묘한 오염 시도와 정책 위반을 차단하는 방어 아키텍처를 구현한다.

또 기업 내부 데이터 통제권을 완벽하게 유지하기 위한 ‘BYOC’(Bring Your Own Cloud) 모델도 강조했다. 폭증하는 로그 데이터를 고객의 자체 클라우드 환경에서 직접 처리하고 인덱싱하도록 지원해 데이터 주권과 가시성 확보의 딜레마를 해결한다. ‘에이전트 콘솔’(Agent Console)을 통해 조직 내 인공지능 활용 현황과 산출물의 비즈니스 기여도를 투명하게 시각화하여 투자 대비 효과 측정까지 지원한다.

데이터독코리아는 단순 모니터링을 넘어 시스템이 스스로 문제를 감지하고 해결하는 ‘자율성’(Autonomy) 생태계 구축을 미래 비전으로 제시했다. 이를 통해 1000여개에 달하는 국내 파트너 및 고객사들이 맹목적 기술 도입 속도에 매몰되지 않고 탄탄한 AI 관리 체계를 확립할 수 있도록 현지화된 밀착 지원을 이어갈 방침이다.

엄수창 지사장은 “혁신을 멈출 수 없다면, 시스템에 대한 완벽한 통제력을 잃지 않는 것이 핵심 경쟁력”이라며 “한국 시장에 최적화된 자율 운영 프레임워크로 기업들의 안전한 디지털 전환을 이끌겠다”고 말했다.

[조재호 기자(zephyr@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다