Home > 전체기사

머신러닝 모델을 직접 공격하는 기법, 슬리피피클

입력 : 2024-06-14 12:04
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기
요약 : 보안 외신 해커뉴스에 의하면 머신러닝 모델들을 공격하는 새로운 기술이 발견됐다고 한다. 이름은 ‘슬리피피클(Sleepy Pickle)’이며, 보안 업체 트레일오브비츠(Trail of Bits)가 세상에 알렸다. 머신러닝 모델들을 패키징하고 배포할 때 가장 널리 사용하는 포맷인 피클(Pickle)을 악용하는 것으로, 머신러닝 공급망에 대한 공격을 가능하게 하고, 따라서 생태계 전반에 커다란 위협이 될 수 있다고 한다. 머신러닝과 관련되어 있는 기반 시스템을 공격하는 게 아니라 머신러닝을 직접 타격하는 것이라 기존 공격 기법들보다 더 위험할 수 있다는 경고도 나왔다.

[이미지 = gettyimagesbank]


배경 : 피클은 머신러닝 계통에서 가장 널리 사용되는 파일 포맷이라고 해도 무방하다. 유명 머신러닝 라이브러리인 파이토치(PyTorch)에서도 대표 직렬화 형식으로서 사용되고 있다. 하지만 공격자가 악성 피클 파일을 업로드 하고, 피해자가 이를 비직렬화 과정에 집어 넣으면 원격 코드 실행 공격이 성립된다는 게 이번 연구로 드러났다.

말말말 : “피클 파일은 인공지능 생태계에서 대단히 광범위하게 사용됩니다. 따라서 이번 발견은 꽤나 큰 파장을 일으킬 수 있습니다.” -해커뉴스-
[국제부 문가용 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기 네이버 블로그 보내기

  •  SNS에서도 보안뉴스를 받아보세요!! 
 하이젠 파워비즈 23년 11월 16일~2024년 11월 15일까지 아스트론시큐리티 파워비즈 2023년2월23일 시작 위즈디엔에스 2018
설문조사
3월 15일부터 시행되고 있는 개정 개인정보보호법과 관련해 가장 까다롭고 이행하기 어려운 조항은 무엇인가요?
인공지능(AI) 등 자동화된 결정에 대한 정보주체 권리 구체화
접근권한 관리 등 개인정보 안전성 확보조치 강화 및 고유식별정보 관리실태 정기조사
영향평가 요약본 공개제도 도입 등 개인정보 영향평가제도
영상정보처리기기 및 안전조치 기준
개인정보 보호책임자의 전문성 강화 위한 전문CPO 지정
국외 수집·이전 개인정보 처리방침 공개 등 개인정보 처리방침 평가제도
손해배상책임 의무대상자 변경 및 확대
공공기관 개인정보 보호수준 평가 확대
기타(댓글로)