[국방보안 칼럼] 디펜스테크 생태계, 다음 관문은 ‘AI 신뢰성’

국방 해커톤 D4D가 남긴 과제
검증 안된 AI, 전력 아닌 위험... ‘TEVV’를 K-RMF에 얹어야

[보안뉴스= 안상현 육군 수도방위사령부 정보체계과장] 새벽, 서울 한복판의 한 공간이 빌더들로 가득 찼다. 150여 명이 밤을 지새우며 이틀 만에 47개의 국방·안보 솔루션을 쏟아냈다. 한 팀의 화면에서는 신호를 끈 ‘다크 베슬’이 서해의 해저 케이블을 향해 붉게 깜빡였고, 옆 테이블에서는 논밭과 하천을 가로질러 지도에 없는 보급로를 실시간으로 그리는 알고리즘이 돌아갔다.

화이트보드엔 우크라이나 전선의 교훈이 적혀 있었다. “예측되는 길은, 죽는다.” 또 다른 팀은 탄도미사일과 요격 포대를 디지털 트윈으로 세워 적과 아군의 수를 번갈아 두었고, 누군가는 딥페이크가 여론을 흔드는 ‘인지전’을 방어하는 훈련 루프를 짰다.

행사장 벽에는 특전 교육대의 오래된 문구가 걸려 있었다. “이곳을 거친 자여, 조국은 그대를 믿노라.”

심사위원석의 나는 그 문장을 보며, 하루 종일 삼켜온 질문을 다시 떠올렸다. 우리는 이 빠르고 영리한 판단들을, 정말로 믿을 수 있는가.

이것은 결국, 국방에 밀려드는 AI를 우리가 무엇으로 신뢰할 것인가의 문제다.

지난 주말 열린 국방 해커톤 ‘D4D’(Deploy for Defense)에서 심사를 맡았다. 가장 인상적이었던 것은 참가자들의 속도였다. 현역 군인과 개발자, 디자이너, 창업가가 한 테이블에 앉아 이틀 만에 지휘통제, 자율드론, 해상영역 인식, 방산 공급망의 시제품을 만들어냈다. 오랫동안 ‘닫힌 분야’로 여겨졌던 국방이 민간의 상상력에 문을 여는 장면은 반갑고, 또 필요한 변화였다.

그런데 심사 내내 머릿속을 떠나지 않은 질문이 있었다. 우리는 지금 국방 AI를 이야기할 때 ‘얼마나 빠르고 창의적인가’에는 열광하면서, 정작 ‘얼마나 믿을 수 있는가’는 좀처럼 함께 묻지 않는다. 이 해커톤만의 이야기가 아니다. AI를 국방에 들이는 우리 사회 전체가 그렇다.

흥미로운 건, 그 질문을 이미 스스로 붙잡은 팀이 여럿 있었다는 점이다. 해상 감시 콘솔을 만든 팀은 정보의 출처마다 신뢰 가중치를 달리 두었다. 하나의 출처에서 나온 세 개의 정황보다, 서로 독립된 세 개의 센서가 동시에 가리키는 하나의 표적을 더 믿도록 설계한 것이다. 또 다른 팀은 텔레그램에 올라온 ‘타격 주장’을 확인·가능성·미확인·허위로 판정하고, 그 근거와 신뢰도를 함께 제시하는 엔진을 만들었다.

다크웹 정보를 다룬 팀은 아예 심사위원 앞에서 이렇게 말했다. 자신들의 데이터 출처조차 조작될 수 있으니, 신뢰도는 원천 자료가 아니라 스스로의 교차검증에서 나온다고. 그리고 한마디를 남겼다. “정보에서는, 절제가 곧 제품이다.”

빌더들은 이미 알고 있었다. 국방에서 정보의 가치는 ‘얼마나 많이 모았는가’가 아니라 ‘얼마나 믿을 수 있는가’에서 나온다는 것을. 검증은 위에서 요구하기도 전에, 현장이 먼저 붙잡고 있었다.

그런데 이런 깊이는 드러나기 어렵다. 단 몇 분의 발표로 성패가 갈리는 자리에서는(어느 해커톤이든, 어느 피칭이든 마찬가지다) 신뢰성이나 규제 적합성 같은 층위가 화려한 시연에 밀려 뒤로 처지기 쉽다. 실제로 정교한 검증 논리를 세운 팀일수록, 짧은 시간 안에 그것을 증명하기가 더 어려웠다. 좋은 검증을 설계한 팀이 오히려 손해를 보는 역설이다.

이것이 국방에서 특히 치명적인 이유가 있다. 민간 서비스의 버그는 잠깐의 장애로 끝나지만, 전장에서 AI의 오판은 되돌릴 수 없는 피해로 이어진다. 정전이나 서비스 중단이 아니라, 사람의 생명과 작전의 성패가 걸린다. 그래서 ‘좋은 문제를 공개하고, 좋은 팀이 모여, 실증과 투자로 이어지는 선순환’이라는 이상적인 그림에는 한 조각이 빠져 있다. 그 파이프라인의 한가운데 있어야 할 신뢰성 검증, 즉 시험·평가·확인·검증(TEVV)이다.

오해는 말자. 속도와 신뢰성은 대립하지 않는다. 압축된 AI가 야전의 저사양 장비에서도 견고한지, 폐쇄망에 배치된 모델의 무결성이 지켜지는지, 적대적 공격에 얼마나 버티는지, 그리고 마지막 결심에 ‘의미 있는 인간의 통제’가 살아 있는지. 이 검증을 통과한 속도만이 비로소 ‘전력’이 된다. 검증받지 않은 속도는 전력이 아니라 위험이다.

해법은 규제가 아니라 구현(operationalize)의 문제다. 신뢰성 검증이 중요하다는 원칙에는 누구나 고개를 끄덕인다. 정작 막히는 지점은 ‘그래서 그걸 실제로 어떻게 돌리느냐’다. 다행히 우리에게는 맨땅에서 시작할 이유가 없다. 군은 이미 K-RMF라는, 체계의 위험을 식별하고 통제하는 검증 틀을 운용하고 있다.

AI 시대의 신뢰성 검증은 이 위에 한 겹을 얹는 일이다. 이미 돌아가는 레일 위에 새 칸을 붙이는 것이지, 새 철도를 까는 일이 아니다. 혁신을 겨루는 평가 기준에 신뢰성 항목을 한 축으로 세우고, 실증(PoC) 단계에서 K-RMF와 AI RMF를 결합한 신뢰성 파이프라인을 하나의 관문으로 통과시키면 된다. 그러면 검증은 사후에 얹는 규제가 아니라, 처음부터 내장된 기본값이 된다. 저마다 제각각 검증한다면 그 결과는 서로 비교할 수도, 연동할 수도 없다. 공통의 검증 기반이 곧 상호운용성이고, 그것이 생태계를 진짜로 키운다.

무엇보다 이것은 현장이 이미 원하던 방향이다. 참가자들은 ‘실증과 투자로 이어지는 선순환’을 이야기했고, ‘탐지를 넘어 누가 먼저 움직여야 하는가’를 고민했다.

검증은 그 선순환을 가로막는 규제가 아니라, 좋은 팀이 실증과 투자의 문턱을 넘도록 밀어주는 디딤돌이다. 디펜스테크에 자본이 몰리는 지금은 더욱 그렇다. 신뢰성 검증은 그 투자를 지키는 안전장치이기도 하다. 검증되지 않은 기술에 흘러든 돈은 결국 전장에서 배신당하기 때문이다.

행사장 벽 정중앙에 걸린 비장한 문구, “이곳을 거친 자여, 조국은 그대를 믿노라.” 그러나 그 믿음은, 그대가 만든 것을 우리가 믿을 수 있을 때 비로소 완성된다. 이번 D4D는 그 가능성을 보여준 의미 있는 첫 씨앗이었다. 그 씨앗이 열매가 되려면, 이제 ‘속도’ 옆에 ‘신뢰’를 나란히 세워야 한다.

좋은 아이디어가 국방력을 높이는 시대다. 여기에 한 문장을 더하고 싶다. 검증된 아이디어라야, 비로소 국방력이 된다.

저자 소개_ 안상현 육군 중령은 현재 수도방위사령부 지휘통신처 정보체계과장으로 재직 중이다. 육군사관학교 졸업 후 미국 오클라호마 주립대(OSU)에서 컴퓨터과학 석사를 마치고 노스캐롤라이나 주립대(NCSU)에서 정보보호 박사 과정을 수료했다.

국군방첩사령부 사이버보안과장 등을 역임하며 지난 16년간 군 사이버보안 정책, 위험관리(RMF), 침해 사고 조사 분야에서 전문성을 쌓았다. 특히, 미 NIST의 AI RMF를 분석해 우리 군 환경에 맞춘 ‘국방 AI 보안 가이드’(2024)를 발간하고, 한국형 위험관리 프레임워크(K-RMF) 도입을 주도하는 등 국방 AI 보안 거버넌스 체계를 설계해 온 현장 전문가다.

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다