AI 탈옥 성공률 63%, 역할극 공격으로는 83% 성공해
“일반 기업의 AI 서비스 개발 환경 마련됐지만, 보안과 안전 담보 필수적”
[보안뉴스 조재호 기자] 딥시크 안전성 평가 결과 심각한 보안 취약성이 드러났다. 인공지능(AI) 탈옥 성공률이 63%에 달했다. 한국어 공격엔 영어보다 더 취약했다.
11일 이로운앤컴퍼니가 발표한 ‘딥시크 R1(DeepSeek-R1) 안전성 평가’에 따르면, 탈옥(Jailbreaking) 공격 성공률이 63%에 달하고, 역할극(Role-Playing) 기반 공격 성공률은 83%를 기록했다. 이는 AI가 사이버 공격과 범죄 실행 방법, 악성코드 생성 등의 유해 콘텐츠를 쉽게 출력할 가능성이 크다는 것을 의미한다.
JSON(JavaScript Object Notation) 기반의 구조화된 입력이나 악성코드 생성(Malware-gen) 요청 프롬프트에 응답하거나 사이버 보안(Cyber Security) 관련 취약점 진단 결과도 높은 점수를 기록했다. JSON은 프로그래밍 문법 중 하나인데, AI에게 특정 결과 값을 유도하기 위해서도 쓰인다.
한국어와 영어를 활용한 비교 분석에서도 한국어 기반 공격이 GPT-4o 대비 평균적으로 18% 더 높은 취약성을 보였다. 이는 딥시크가 한국어 데이터 학습이 부족하거나, 다국어 대응이 미흡할 가능성을 보인다는 설명이다.
이로운앤컴퍼니는 이번 생성형 AI 보안진단 결과를 바탕으로 AI 모델의 보안성과 안전성을 강화하기 위해 △프롬프트 인젝션 방지 △탈옥 공격 대응 △생성형 AI 보안진단 △다국어 필터링 강화 등을 제안했다.
윤두식 이로운앤컴퍼니 대표는 “딥시크는 고성능 오픈소스 언어모델로 일반 기업이 AI를 쉽게 도입해 고성능 AI 서비스를 적극적으로 개발할 수 있는 환경을 마련해줬지만, AI 모델의 보안성과 안정성을 담보하는 것이 필수적이다”고 말했다.
[조재호 기자(sw@boannews.com)]
“일반 기업의 AI 서비스 개발 환경 마련됐지만, 보안과 안전 담보 필수적”
[보안뉴스 조재호 기자] 딥시크 안전성 평가 결과 심각한 보안 취약성이 드러났다. 인공지능(AI) 탈옥 성공률이 63%에 달했다. 한국어 공격엔 영어보다 더 취약했다.
▲ 딥시크 R1 보안성 테스트 결과값 [자료: 이로운앤컴퍼니]
11일 이로운앤컴퍼니가 발표한 ‘딥시크 R1(DeepSeek-R1) 안전성 평가’에 따르면, 탈옥(Jailbreaking) 공격 성공률이 63%에 달하고, 역할극(Role-Playing) 기반 공격 성공률은 83%를 기록했다. 이는 AI가 사이버 공격과 범죄 실행 방법, 악성코드 생성 등의 유해 콘텐츠를 쉽게 출력할 가능성이 크다는 것을 의미한다.
JSON(JavaScript Object Notation) 기반의 구조화된 입력이나 악성코드 생성(Malware-gen) 요청 프롬프트에 응답하거나 사이버 보안(Cyber Security) 관련 취약점 진단 결과도 높은 점수를 기록했다. JSON은 프로그래밍 문법 중 하나인데, AI에게 특정 결과 값을 유도하기 위해서도 쓰인다.
한국어와 영어를 활용한 비교 분석에서도 한국어 기반 공격이 GPT-4o 대비 평균적으로 18% 더 높은 취약성을 보였다. 이는 딥시크가 한국어 데이터 학습이 부족하거나, 다국어 대응이 미흡할 가능성을 보인다는 설명이다.
이로운앤컴퍼니는 이번 생성형 AI 보안진단 결과를 바탕으로 AI 모델의 보안성과 안전성을 강화하기 위해 △프롬프트 인젝션 방지 △탈옥 공격 대응 △생성형 AI 보안진단 △다국어 필터링 강화 등을 제안했다.
윤두식 이로운앤컴퍼니 대표는 “딥시크는 고성능 오픈소스 언어모델로 일반 기업이 AI를 쉽게 도입해 고성능 AI 서비스를 적극적으로 개발할 수 있는 환경을 마련해줬지만, AI 모델의 보안성과 안정성을 담보하는 것이 필수적이다”고 말했다.
[조재호 기자(sw@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
조재호기자 기사보기
[2025-02-11] .jpg)
.jpg)
