비즈니스 회복 탄력성과 안전한 AI 기술 도입 지원
[보안뉴스 이소미 기자] 사이버보안 솔루션 글로벌 기업 트렌드마이크로(지사장 김진광)는 최근 빠르게 증가하는 AI 기반 공격과 사기 범죄의 위협으로부터 모든 환경을 보호하는 딥페이크 및 AI 기반 사이버 공격 차단 기술을 31일 발표했다. 해당 기술은 트렌드마이크로의 트렌드 비전 원 엔터프라이즈 통합 보안 플랫폼과 개인 사용자용 보안 제품에 반영될 예정이며, 첫 번째로 개인 사용자용 솔루션인 ‘딥페이크 인스펙터(Deepfake Inspector)’를 무료로 공개한다.
트렌드마이크로의 자체 연구 결과에 따르면, 폭발적으로 증가하는 엔터프라이즈 AI 솔루션의 성장세에 편승해 사이버 범죄자들이 활용할 수 있는 AI 기반 사이버 범죄 도구 역시 급격히 증가하고 있는 것으로 나타났다. AI 기반 사이버 범죄 도구의 이용 가격이 낮아지면서 실제로 접근성은 그 어느 때보다도 높아졌기 때문에, 기술 수준을 막론하고 사이버 범죄자들이 △개인정보 탈취 △신원 도용 △사기 △잘못된 정보 등으로 피해자를 기만하는 대규모 사이버 공격을 더욱 쉽게 감행할 수 있게 됐다.
트렌드마이크로 케빈 심저(Kevin Simzer) 최고운영책임자(COO)는 “최근 연구에 따르면 사이버 범죄자들이 사기, 소셜 엔지니어링, 보안 우회 시도 등을 범죄자 개인의 기술 수준과 관계 없이 손쉽게 실행할 수 있게 하는 새로운 딥페이크 도구들이 발견됐다”면서, “트렌드마이크로는 딥페이크를 비롯한 AI 기반 사이버 공격을 탐지하는 새로운 기술을 통해 기업 및 개인 사용자 고객 모두를 보호하고자 보안 업계를 선도하는 기업으로서 적극적으로 대응하고 있다”고 전했다. 이어 그는 “지금까지 위협 트렌드와 IT 환경의 전환기마다 늘 그래 왔듯이 트렌드마이크로는 최신 AI 기술로 부상한 보안의 새로운 과제를 파악하고 이에 대응하고 있다”고 덧붙였다.
최근 트렌드마이크로가 진행한 설문조사에서 71%의 응답자가 딥페이크에 대해 부정적으로 인식하고 있으며, 딥페이크가 가장 많이 사용되는 분야 중 하나가 디지털 사기라고 응답한 만큼, 이러한 AI 기반 공격을 탐지하고 무력화하는 것은 기업의 공격 표면 위험을 더 효과적으로 관리하고 디지털 환경에서 소비자의 전반적인 사이버 위험을 낮추는 데 핵심적인 역할을 한다.
트렌드마이크로의 통합 보안 플랫폼인 ‘트렌드 비전 원™’에 탑재 예정인 새로운 딥페이크 탐지 기술은 다양한 고급 기술을 적용해 AI가 생성한 가짜 콘텐츠를 찾아낸다. 해당 기능은 현재 트렌드마이크로가 무료로 공개한 개인 사용자용 ‘딥페이크 인스펙터(Deepfake Inspector)’에서도 사용할 수 있다.
트렌드마이크로의 딥페이크 탐지 기술은 기존의 이미지 노이즈 분석 및 색상 감지 수준을 넘어 사용자 행동 요소도 분석함으로써 딥페이크 탐지 및 차단을 위한 훨씬 더 강력한 접근 방식을 제공한다. 또한 딥페이크 탐지 즉시 담당 보안 팀에 알림을 전송해 보안 운영 조직이 학습하고 교육하며 사전 조치를 취할 수 있도록 지원함으로써 향후 공격의 재발을 방지한다.
또한 개인 사용자용 트렌드마이크로 딥페이크 인스펙터는 실시간 비디오 대화의 상대방이 딥페이크 기술을 사용하고 있는지 확인해 대화 상대가 실제 인물과 다를 수 있음을 사용자에게 경고한다. 이때 분석은 소비자 디바이스에서 실시간 로컬로 이루어지므로 사용자의 데이터와 개인정보는 보호될 수 있다.
시장 조사 연구 기관인 가트너의 애널리스트 댄 아윱(Dan Ayoub)은 “이제는 누구나 고품질의 생성형 AI 애플리케이션으로 시청자를 속이거나 기만할 수 있는 사실적인 비디오 콘텐츠를 제작할 수 있다”면서, “이러한 생성형 AI 도구의 사용 진입 장벽이 점점 낮아지고 결과물은 더 정교해짐에 따라 생성형 AI 딥페이크 콘텐츠를 탐지할 수 있는 체계적인 접근 방식의 개발이 필요하다”고 말했다.
딥페이크는 기업과 개인 소비자에게 위협적인 범죄 기술이다. 탐지되지 않은 딥페이크는 △재정적 손실 △일자리 손실 △법적 문제 △평판 손상 △신원 도용 △정신적·신체적 건강에 대한 잠재적 피해로도 이어질 수 있다.
최근 트렌드마이크로의 조사에 따르면, 응답자의 36%가 딥페이크가 적용된 사기 시도를 경험했다고 답했다. 관련해 미국 FBI는 이미 딥페이크 기술이 화상 업무 환경의 보급과 함께 비즈니스 이메일 침해(BEC) 공격을 강화하고, 원격 근무 활동에 악용되고 있음을 경고한 바 있다. 이 기술은 인체를 활용한 인증뿐만 아니라 안면인식과 같은 생체인식 보안 조치를 우회하는 데에도 악용되고 있다.
또한 연구 결과로 맞춤형 AI 범죄 도구를 개발하는 대신 혁신적인 탈옥 기술(jailbreaking technique)을 통해 기존 LLM 모델을 악용하는 경향이 증가하는 것으로 나타났다. 인류의 AI 여정을 안전하게 보호하기 위한 사명의 일환으로, 트렌드마이크로는 지속적으로 새로운 솔루션을 출시하고 있다.
이에 발맞춰 트렌드마이크로는 최근 제로 트러스트 전략을 지원하는 트렌드 비전 원 플랫폼의 신기능으로 △임직원의 생성형 AI 접속·사용에 대한 중앙 집중식 관리 △데이터 유출 및 악의적 인젝션 방지 위한 프롬프트 검사 △컴플라이언스 규정 준수 요건 충족하는 생성형 AI 콘텐츠 필터링 △대규모 언어 모델(LLM) 공격 방어 등을 출시했다.
트렌드마이크로가 딥페이크 및 AI 기반 사이버 공격 차단 기술을 선보이며 첫 번째로 공개한 딥페이크 인스펙터는 공식 홈페이지를 통해 무료로 다운로드할 수 있다.
[이소미 기자(boan4@boannews.com)]
[보안뉴스 이소미 기자] 사이버보안 솔루션 글로벌 기업 트렌드마이크로(지사장 김진광)는 최근 빠르게 증가하는 AI 기반 공격과 사기 범죄의 위협으로부터 모든 환경을 보호하는 딥페이크 및 AI 기반 사이버 공격 차단 기술을 31일 발표했다. 해당 기술은 트렌드마이크로의 트렌드 비전 원 엔터프라이즈 통합 보안 플랫폼과 개인 사용자용 보안 제품에 반영될 예정이며, 첫 번째로 개인 사용자용 솔루션인 ‘딥페이크 인스펙터(Deepfake Inspector)’를 무료로 공개한다.
▲트렌드마이크로가 무료로 공개한 ‘딥페이크 인스펙터(Deepfake Inspector)’[이미지=트렌드마이크로]
트렌드마이크로의 자체 연구 결과에 따르면, 폭발적으로 증가하는 엔터프라이즈 AI 솔루션의 성장세에 편승해 사이버 범죄자들이 활용할 수 있는 AI 기반 사이버 범죄 도구 역시 급격히 증가하고 있는 것으로 나타났다. AI 기반 사이버 범죄 도구의 이용 가격이 낮아지면서 실제로 접근성은 그 어느 때보다도 높아졌기 때문에, 기술 수준을 막론하고 사이버 범죄자들이 △개인정보 탈취 △신원 도용 △사기 △잘못된 정보 등으로 피해자를 기만하는 대규모 사이버 공격을 더욱 쉽게 감행할 수 있게 됐다.
트렌드마이크로 케빈 심저(Kevin Simzer) 최고운영책임자(COO)는 “최근 연구에 따르면 사이버 범죄자들이 사기, 소셜 엔지니어링, 보안 우회 시도 등을 범죄자 개인의 기술 수준과 관계 없이 손쉽게 실행할 수 있게 하는 새로운 딥페이크 도구들이 발견됐다”면서, “트렌드마이크로는 딥페이크를 비롯한 AI 기반 사이버 공격을 탐지하는 새로운 기술을 통해 기업 및 개인 사용자 고객 모두를 보호하고자 보안 업계를 선도하는 기업으로서 적극적으로 대응하고 있다”고 전했다. 이어 그는 “지금까지 위협 트렌드와 IT 환경의 전환기마다 늘 그래 왔듯이 트렌드마이크로는 최신 AI 기술로 부상한 보안의 새로운 과제를 파악하고 이에 대응하고 있다”고 덧붙였다.
최근 트렌드마이크로가 진행한 설문조사에서 71%의 응답자가 딥페이크에 대해 부정적으로 인식하고 있으며, 딥페이크가 가장 많이 사용되는 분야 중 하나가 디지털 사기라고 응답한 만큼, 이러한 AI 기반 공격을 탐지하고 무력화하는 것은 기업의 공격 표면 위험을 더 효과적으로 관리하고 디지털 환경에서 소비자의 전반적인 사이버 위험을 낮추는 데 핵심적인 역할을 한다.
트렌드마이크로의 통합 보안 플랫폼인 ‘트렌드 비전 원™’에 탑재 예정인 새로운 딥페이크 탐지 기술은 다양한 고급 기술을 적용해 AI가 생성한 가짜 콘텐츠를 찾아낸다. 해당 기능은 현재 트렌드마이크로가 무료로 공개한 개인 사용자용 ‘딥페이크 인스펙터(Deepfake Inspector)’에서도 사용할 수 있다.
트렌드마이크로의 딥페이크 탐지 기술은 기존의 이미지 노이즈 분석 및 색상 감지 수준을 넘어 사용자 행동 요소도 분석함으로써 딥페이크 탐지 및 차단을 위한 훨씬 더 강력한 접근 방식을 제공한다. 또한 딥페이크 탐지 즉시 담당 보안 팀에 알림을 전송해 보안 운영 조직이 학습하고 교육하며 사전 조치를 취할 수 있도록 지원함으로써 향후 공격의 재발을 방지한다.
또한 개인 사용자용 트렌드마이크로 딥페이크 인스펙터는 실시간 비디오 대화의 상대방이 딥페이크 기술을 사용하고 있는지 확인해 대화 상대가 실제 인물과 다를 수 있음을 사용자에게 경고한다. 이때 분석은 소비자 디바이스에서 실시간 로컬로 이루어지므로 사용자의 데이터와 개인정보는 보호될 수 있다.
시장 조사 연구 기관인 가트너의 애널리스트 댄 아윱(Dan Ayoub)은 “이제는 누구나 고품질의 생성형 AI 애플리케이션으로 시청자를 속이거나 기만할 수 있는 사실적인 비디오 콘텐츠를 제작할 수 있다”면서, “이러한 생성형 AI 도구의 사용 진입 장벽이 점점 낮아지고 결과물은 더 정교해짐에 따라 생성형 AI 딥페이크 콘텐츠를 탐지할 수 있는 체계적인 접근 방식의 개발이 필요하다”고 말했다.
딥페이크는 기업과 개인 소비자에게 위협적인 범죄 기술이다. 탐지되지 않은 딥페이크는 △재정적 손실 △일자리 손실 △법적 문제 △평판 손상 △신원 도용 △정신적·신체적 건강에 대한 잠재적 피해로도 이어질 수 있다.
최근 트렌드마이크로의 조사에 따르면, 응답자의 36%가 딥페이크가 적용된 사기 시도를 경험했다고 답했다. 관련해 미국 FBI는 이미 딥페이크 기술이 화상 업무 환경의 보급과 함께 비즈니스 이메일 침해(BEC) 공격을 강화하고, 원격 근무 활동에 악용되고 있음을 경고한 바 있다. 이 기술은 인체를 활용한 인증뿐만 아니라 안면인식과 같은 생체인식 보안 조치를 우회하는 데에도 악용되고 있다.
또한 연구 결과로 맞춤형 AI 범죄 도구를 개발하는 대신 혁신적인 탈옥 기술(jailbreaking technique)을 통해 기존 LLM 모델을 악용하는 경향이 증가하는 것으로 나타났다. 인류의 AI 여정을 안전하게 보호하기 위한 사명의 일환으로, 트렌드마이크로는 지속적으로 새로운 솔루션을 출시하고 있다.
이에 발맞춰 트렌드마이크로는 최근 제로 트러스트 전략을 지원하는 트렌드 비전 원 플랫폼의 신기능으로 △임직원의 생성형 AI 접속·사용에 대한 중앙 집중식 관리 △데이터 유출 및 악의적 인젝션 방지 위한 프롬프트 검사 △컴플라이언스 규정 준수 요건 충족하는 생성형 AI 콘텐츠 필터링 △대규모 언어 모델(LLM) 공격 방어 등을 출시했다.
트렌드마이크로가 딥페이크 및 AI 기반 사이버 공격 차단 기술을 선보이며 첫 번째로 공개한 딥페이크 인스펙터는 공식 홈페이지를 통해 무료로 다운로드할 수 있다.
[이소미 기자(boan4@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
이소미기자 기사보기
[2024-09-26] 
.jpg)
