앤트로픽 페이블5 접근 제한, 탈옥 우려 때문? 중국 때문?

앤트로픽 최신 모델 대한 백악관 수출 통제 조치 논란 확산

[보안뉴스 한세희 기자] 미국 정부가 앤트로픽의 최신 AI 모델에 대한 수출 통제 지침을 내린 것은 이 모델에 대한 아마존 보안 연구자의 탈옥 가능성 연구 때문인 것으로 알려졌다.

월스트리트저널 보도에 따르면, 아마존 보안 연구자가 앤트로픽이 최근 일반 공개한 최신 모델 ‘페이블5’에 일련의 프롬프트를 입력해 몇 가지 보안 취약점에 대한 정보를 끌어낼 수 있었다.

디인포메이션은 앤디 제시 아마존 CEO가 백악관에 앤트로픽 최신 모델의 보안 위험에 대한 우려를 전했다고 보도했다.

하지만 이 공격에 쓰인 기법은 보안 분야에서 방어를 위해서도 많이 쓰이는 것이란 평가다. 이 보고서를 앤트로픽에게 공유받은 케이티 미주리 루카시큐리티 CEO는 “백악관의 누가 이 위협을 평가했는가”라며 “방어를 위해 주로 쓰이는 기술 때문에 수출 통제를 하는 것은 과잉 반응”이라고 월스트리트저널에 말했다.

이번 수출 통제 조치가 최신 AI 모델에 대한 중국의 접근을 막기 위한 것이었다는 보도도 나왔다. 중국과 연계된 집단이 미토스 모델 접근 권한을 얻었을 가능성 때문에 백악관이 이 모델에 대한 외국인 접근 금지 명령을 내렸다고 세마포가 보도헀다.

백악관이 이 사실을 어떻게 알았는지, 미토스에 접근한 중국 연계 집단이 어디인지는 명확하지 않다.

AI 분야 대통령 자문 역할을 하는 데이빗 삭스는 X 게시물에서 “백악관은 매우 믿을만한 파트너에게 페이블5 탈옥 위협에 대한 경고를 받고 이를 앤트로픽에 알렸다”며 “앤트로픽은 이를 심각한 위협이 아니라 봤고, 이를 수정할 의사를 보이지 않았다”고 밝혔다.

그는 앤트로픽이 이 취약점을 해결, 조만간 통제 조치를 해제할 수 있기를 행정부가 바라고 있다고 밝혔다.

[한세희 기자(hahn@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다