[AI와 보안] “AI 자체가 공격 통로”...구글 제미나이 취약점 발견

사용자 개인정보 유출과 자산 도용으로 이어질 수 있어

[보안뉴스 김형근 기자] 구글 AI 모델 제미나이에서 사용자 개인정보 유출과 자산 도용으로 이어질 수 있는 보안 취약점이 발견됐다.

사이버 보안 기업 테너블 연구진에 따르면, 해커들이 이들 3개 취약점을 성공적으로 악용할 경우, 사용자 개인 정보 유출과 클라우드 자산 도용 등 심각한 위험을 초래할 수 있다고 경고했다.

테너블은 이 결함들을 ‘제미나이 트라이펙타’(Gemini Trifecta)로 명명했다.

[자료: 구글]

이들 취약점은 제미나이 제품군의 세 가지 독립된 핵심 구성 요소에 걸쳐 있었다. ‘제미나이 클라우드 어시스트’에선 프롬프트 인젝션 결함이 발견됐다. 해커가 AI가 요약하는 로그 안에 악성 명령을 숨겨, 클라우드 자산 API를 무단으로 쿼리하거나 IAM 설정 오류를 탈취하는 방식으로 클라우드 환경 자체를 침해할 수 있다.

‘검색 개인화 모델’에서는 서치 인젝션(Search-injection) 결함이 발견됐다. 해커가 자바스크립트를 이용해 사용자의 크롬 검색 기록을 조작하면, AI 모델이 정상적 쿼리와 악성 명령을 구별하지 못해 사용자의 저장 정보나 위치 데이터를 유출하는 결과를 낳았다.

‘제미나이 브라우징 툴’에서도 웹페이지 내용을 요약하는 내부 호출을 악용하는 간접 프롬프트 인젝션 문제가 확인됐다. 이 취약점을 이용해 공격자는 사용자 정보를 외부의 악성 서버로 몰래 전송하게 만들 수 있다.

테너블 연구진은 이 취약점을 활용, AI가 공격자 명령에 따라 사용자의 사적 데이터를 하이퍼링크 안에 삽입해 공격자 서버로 전송하게 만드는 시나리오를 제시했다.

구글은 테너블의 연락을 받은 후 해당 취약점들을 모두 패치했으며, 로그 요약 응답에서 하이퍼링크 렌더링을 중단하는 등 보안 조치를 강화했다.

테너블 연구 책임자는 “제미나이 트라이펙타는 AI 자체가 공격의 도구가 될 수 있음을 보여준다”며 “기업들이 AI 플랫폼 보안에 대한 엄격한 정책 수립을 게을리해서는 안 된다”고 강조했다.

[김형근 기자(editor@boannews.com)]

우리나라 정보보호 수준 향상을 위해 이재명 정부에게 가장 바라는 점은 무엇인가요?
	ISMS 등 보안 인증 제도 실효성 개선
	AI 보안, 양자보안 등 보안 기술 연구개발 지원 확대
	중소 기업 보안 지원 확대
	기업 보안 예산 비율 의무화
	국가 정보보호 거버넌스 체계 정비
	기타(댓글로)