.jpg)
있지도 않은 영상 그대로 만들어내는 무서운 인공지능 기술
오바마 전 대통령 가짜 영상으로 유명해져...사회에 큰 파장 있는 공격
[보안뉴스 문가용 기자] 2018년 한 해 동안 가장 많이 등장하기 시작한 단어 중에 ‘가짜뉴스’란 것이 있다. 그러면서 공유되고 전파되는 정보들의 진위 여부에 많은 관심이 쏠리기 시작했다. 하지만 이와 비슷한 ‘딥페이크(deepfake)’에 대한 내용은 거의 언급되지 않고 있다. 단순 해킹이나 데이터 유출에 비해 딥페이크 쪽이 파급력은 훨씬 큰데도 말이다.
딥페이크 기술은 2017년 후반부까지 인공지능을 연구하는 사람들 사이에서만 알려진 것이었다. 그러나 ‘딥 러닝(deep learning)’과 ‘가짜(fake)’라는 말의 합성어인 딥페이크스(Deepfakes)를 닉으로 사용하는 한 레딧(Reddit) 커뮤니티 사용자가 디지털 기술로 짜깁기 된 포르노그래피 영상을 올리기 시작하면서 딥페이크라는 말은 빠르게 확산됐다. 머신 러닝 기술로 사람들이 한 번도 하지 않은 말과 한 번도 하지 않은 행동을, 진짜로 한 것처럼 보이게 만드는 게 가능했다니!
거기다가 버락 오바마 전 대통령이 도널드 트럼프 현 대통령을 모욕한 것처럼 보이는 영상도 나왔다. 물론 머신 러닝이 만든 가짜 영상이었다. 헐리우드의 영화 제작자인 조던 필(Jordan Peele)이 찍은 영상에 버락 오바마의 얼굴을 입힌 것이었다. 이 영상 때문에 딥페이크 기술에 대한 경고가 일파만파 번졌다.
그러나 이 두 가지 사례는 빠르게 성장하고 있는 새 사이버 공격 유형의 한 가지 단면일 뿐이다. 딥페이크가 실제 여론 조작이나 가짜뉴스 공격에 활용되기 시작하면 개개인과 조직은 물론 사회 전체에 커다란 위협이 될 가능성이 농후하다. 민간 기업이고 공공 기관이고 막대한 피해를 입는다는 건 마찬가지일 것이다. 딥페이크 영상들을 ‘악성’으로 판별해 탐지하는 것도 어렵고, 영상이 가짜라는 걸 증명하는 것도 어렵기 때문이다.
이렇게까지 내용물을 조작할 수 있는 공격 기법이나 기술은 존재한 적이 없었다. 내용물에 대한 조작이 이런 수준으로까지 가능하게 된다면, 소비자와 브랜드, 결정권자와 정치인 사이의 신뢰가 심각하게 손상된다. 정보를 생산하고 제공하던 모든 미디어 사업자들도 큰 타격을 입을 수밖에 없다. 인공지능과 딥러닝 기술이 발전하면 할수록 딥페이크는 더 실제적이고, 따라서 강력한 설득력을 가질 수밖에 없게 된다. 허위 정보와 가짜뉴스의 파급력은 이루 말할 수 없을 정도로 커질 전망이다.
여태까지 보안 산업은 데이터에 대한 허가 없는 접근에 대해 주로 집중해왔다. 데이터를 빼가는 것이 공격자들의 가장 중요한 목표였기 때문이다. 하지만 공격자들의 생리에 변화가 생겼다. 정보를 훔쳐내고, 이를 빌미로 돈이나 어떤 대가를 요구하는 게 아니라 정보를 바꾸고, 그걸 원래 정보가 있던 자리에 그대로 두는 게 요즘 공격자들의 행위다.
데브옵스 툴 제공업체인 소나타입(Sonatype)이 실시한 연구에 의하면 “2020년까지 조직들의 50%가 사기성 데이터와 소프트웨어로 인한 피해를 입은 상태일 것”이라고 한다. 이제부터 조직들은 불법적인 데이터 접근만이 아니라, 데이터 조작에 대한 방어진도 구축해야 한다는 뜻이다.
데이터 조작, 어느 정도의 피해 입히나?
데이터를 조작함으로써 공격자들은 어떤 이득을 거둘 수 있을까? 한두 가지가 아니다. 심지어 데이터를 훔치는 것보다 조작하는 게 더 큰 이득을 돌려줄 수도 있다. 금전적인 측면에서, 공격자가 경쟁사의 금융 정보 데이터베이스에 접근해 모든 숫자를 무작위의 작은 숫자로 곱해버리면 어떻게 될까? 한 눈에 띄지 않을 정도로 교묘하게 숫자를 조작함으로써, 그 회사는 그 숫자를 사용할 것이고, 파트너사와 고객들에게 엉뚱한 정보를 제공하게 된다. 각종 수입과 지출 계산도 엉망이 된다. 경쟁사는 엄청난 타격을 받고 휘청이고, 그 사이 공격자의 회사가 유리한 고지를 선점할 수 있다.
인식과 여론 조작도 주요한 ‘딥페이크’ 공격 동기가 될 수 있다. 국가의 지원을 받는 공격자들이 적국의 뉴스를 중간에 가로채서 내용을 바꾸고 독자들에게 전달한다면, 큰 사회적 혼란을 야기할 수도 있게 된다. 정보의 무결성에 흠집을 낼 수 있다는 건 강력한 프로파간다 도구일 수밖에 없다.
데이터 조작은 개개인의 삶에도 직접적인 영향을 미칠 수 있다. 의료건강 및 제약 산업에서는 더욱 그러하다. 만약 공격자들이 의료 정보나 처방전 정보를 마음대로 바꿀 수 있다면 어떤 결과를 낳게 되겠는가? 환자가 제출한 정보에서 알레르기 관련 항목을 누군가 마음대로 조작한다면, 끔직한 약이 처방될 수 있다.
그렇다면 조직들은 디지털 자산을 아무런 변경이나 조작 없이 지키려면 어떤 조치를 취해야 할까? 제일 먼저 소프트웨어 개발자들은 모든 제품, 프로세스, 거래 시스템을 구축할 때 ‘신뢰’ 문제를 어떤 식으로 유지할지 고민해야 한다. 특히 기업 내 데이터 저장 및 교환이 어떤 식으로 이뤄지고 있는지, 어느 시스템에서 이뤄지고 있는지를 집중적으로 파악하는 게 우선이다. 데이터가 백업되고, 복사되고, 암호화되는 과정 속에서 데이터의 내용 자체가 온전하게 유지되도록 항상 확인하고 신뢰할 수 있도록 만들어야 한다는 것이다.
시뮬레이션을 진행하고, 소비자들이나 파트너들과 소통하며, 사업 진행에 있어 핵심적인 결정을 내리는 데 사용되는 인공지능이나 머신 러닝 애플리케이션들에 주입되는 데이터라면 이 무결성 혹은 신뢰도 문제는 더 중요한 것이 된다.
딥페이크 공격의 그 참담한 결과는 너무 커서 상상할 수도 없고, 무시할 수도 없다. 디지털 공격이 있었는지, 혹은 누군가 데이터를 훔쳐갔는지 알아보기 위해 기존의 보안 장치들을 설치하고 운영하는 것만으로는 부족하다. 최근 수많은 고객들의 정보가 유출된, 메리어트 호텔과 쿼라(Quora)에서 발생한 해킹 공격을 기억해야 한다. 정보 유출이 여전히 큰 위협임에 변함이 없는데, 이젠 정보가 조작되지 않은 것도 확인할 수 있어야 한다. 저장되고, 사용되고, 처리되고, 거래되는 모든 과정에서 데이터 무결성 확인은 필수가 되었다.
이를 감당할 수 없다면, 그 결과는 가혹할 것이다.
글 : 더크 칸지세르(Dirk Kanngiesser), Cryptowerk
[국제부 문가용 기자(globoan@boannews.com)]
오바마 전 대통령 가짜 영상으로 유명해져...사회에 큰 파장 있는 공격
[보안뉴스 문가용 기자] 2018년 한 해 동안 가장 많이 등장하기 시작한 단어 중에 ‘가짜뉴스’란 것이 있다. 그러면서 공유되고 전파되는 정보들의 진위 여부에 많은 관심이 쏠리기 시작했다. 하지만 이와 비슷한 ‘딥페이크(deepfake)’에 대한 내용은 거의 언급되지 않고 있다. 단순 해킹이나 데이터 유출에 비해 딥페이크 쪽이 파급력은 훨씬 큰데도 말이다.
[이미지 = iclickart]
딥페이크 기술은 2017년 후반부까지 인공지능을 연구하는 사람들 사이에서만 알려진 것이었다. 그러나 ‘딥 러닝(deep learning)’과 ‘가짜(fake)’라는 말의 합성어인 딥페이크스(Deepfakes)를 닉으로 사용하는 한 레딧(Reddit) 커뮤니티 사용자가 디지털 기술로 짜깁기 된 포르노그래피 영상을 올리기 시작하면서 딥페이크라는 말은 빠르게 확산됐다. 머신 러닝 기술로 사람들이 한 번도 하지 않은 말과 한 번도 하지 않은 행동을, 진짜로 한 것처럼 보이게 만드는 게 가능했다니!
거기다가 버락 오바마 전 대통령이 도널드 트럼프 현 대통령을 모욕한 것처럼 보이는 영상도 나왔다. 물론 머신 러닝이 만든 가짜 영상이었다. 헐리우드의 영화 제작자인 조던 필(Jordan Peele)이 찍은 영상에 버락 오바마의 얼굴을 입힌 것이었다. 이 영상 때문에 딥페이크 기술에 대한 경고가 일파만파 번졌다.
그러나 이 두 가지 사례는 빠르게 성장하고 있는 새 사이버 공격 유형의 한 가지 단면일 뿐이다. 딥페이크가 실제 여론 조작이나 가짜뉴스 공격에 활용되기 시작하면 개개인과 조직은 물론 사회 전체에 커다란 위협이 될 가능성이 농후하다. 민간 기업이고 공공 기관이고 막대한 피해를 입는다는 건 마찬가지일 것이다. 딥페이크 영상들을 ‘악성’으로 판별해 탐지하는 것도 어렵고, 영상이 가짜라는 걸 증명하는 것도 어렵기 때문이다.
이렇게까지 내용물을 조작할 수 있는 공격 기법이나 기술은 존재한 적이 없었다. 내용물에 대한 조작이 이런 수준으로까지 가능하게 된다면, 소비자와 브랜드, 결정권자와 정치인 사이의 신뢰가 심각하게 손상된다. 정보를 생산하고 제공하던 모든 미디어 사업자들도 큰 타격을 입을 수밖에 없다. 인공지능과 딥러닝 기술이 발전하면 할수록 딥페이크는 더 실제적이고, 따라서 강력한 설득력을 가질 수밖에 없게 된다. 허위 정보와 가짜뉴스의 파급력은 이루 말할 수 없을 정도로 커질 전망이다.
여태까지 보안 산업은 데이터에 대한 허가 없는 접근에 대해 주로 집중해왔다. 데이터를 빼가는 것이 공격자들의 가장 중요한 목표였기 때문이다. 하지만 공격자들의 생리에 변화가 생겼다. 정보를 훔쳐내고, 이를 빌미로 돈이나 어떤 대가를 요구하는 게 아니라 정보를 바꾸고, 그걸 원래 정보가 있던 자리에 그대로 두는 게 요즘 공격자들의 행위다.
데브옵스 툴 제공업체인 소나타입(Sonatype)이 실시한 연구에 의하면 “2020년까지 조직들의 50%가 사기성 데이터와 소프트웨어로 인한 피해를 입은 상태일 것”이라고 한다. 이제부터 조직들은 불법적인 데이터 접근만이 아니라, 데이터 조작에 대한 방어진도 구축해야 한다는 뜻이다.
데이터 조작, 어느 정도의 피해 입히나?
데이터를 조작함으로써 공격자들은 어떤 이득을 거둘 수 있을까? 한두 가지가 아니다. 심지어 데이터를 훔치는 것보다 조작하는 게 더 큰 이득을 돌려줄 수도 있다. 금전적인 측면에서, 공격자가 경쟁사의 금융 정보 데이터베이스에 접근해 모든 숫자를 무작위의 작은 숫자로 곱해버리면 어떻게 될까? 한 눈에 띄지 않을 정도로 교묘하게 숫자를 조작함으로써, 그 회사는 그 숫자를 사용할 것이고, 파트너사와 고객들에게 엉뚱한 정보를 제공하게 된다. 각종 수입과 지출 계산도 엉망이 된다. 경쟁사는 엄청난 타격을 받고 휘청이고, 그 사이 공격자의 회사가 유리한 고지를 선점할 수 있다.
인식과 여론 조작도 주요한 ‘딥페이크’ 공격 동기가 될 수 있다. 국가의 지원을 받는 공격자들이 적국의 뉴스를 중간에 가로채서 내용을 바꾸고 독자들에게 전달한다면, 큰 사회적 혼란을 야기할 수도 있게 된다. 정보의 무결성에 흠집을 낼 수 있다는 건 강력한 프로파간다 도구일 수밖에 없다.
데이터 조작은 개개인의 삶에도 직접적인 영향을 미칠 수 있다. 의료건강 및 제약 산업에서는 더욱 그러하다. 만약 공격자들이 의료 정보나 처방전 정보를 마음대로 바꿀 수 있다면 어떤 결과를 낳게 되겠는가? 환자가 제출한 정보에서 알레르기 관련 항목을 누군가 마음대로 조작한다면, 끔직한 약이 처방될 수 있다.
그렇다면 조직들은 디지털 자산을 아무런 변경이나 조작 없이 지키려면 어떤 조치를 취해야 할까? 제일 먼저 소프트웨어 개발자들은 모든 제품, 프로세스, 거래 시스템을 구축할 때 ‘신뢰’ 문제를 어떤 식으로 유지할지 고민해야 한다. 특히 기업 내 데이터 저장 및 교환이 어떤 식으로 이뤄지고 있는지, 어느 시스템에서 이뤄지고 있는지를 집중적으로 파악하는 게 우선이다. 데이터가 백업되고, 복사되고, 암호화되는 과정 속에서 데이터의 내용 자체가 온전하게 유지되도록 항상 확인하고 신뢰할 수 있도록 만들어야 한다는 것이다.
시뮬레이션을 진행하고, 소비자들이나 파트너들과 소통하며, 사업 진행에 있어 핵심적인 결정을 내리는 데 사용되는 인공지능이나 머신 러닝 애플리케이션들에 주입되는 데이터라면 이 무결성 혹은 신뢰도 문제는 더 중요한 것이 된다.
딥페이크 공격의 그 참담한 결과는 너무 커서 상상할 수도 없고, 무시할 수도 없다. 디지털 공격이 있었는지, 혹은 누군가 데이터를 훔쳐갔는지 알아보기 위해 기존의 보안 장치들을 설치하고 운영하는 것만으로는 부족하다. 최근 수많은 고객들의 정보가 유출된, 메리어트 호텔과 쿼라(Quora)에서 발생한 해킹 공격을 기억해야 한다. 정보 유출이 여전히 큰 위협임에 변함이 없는데, 이젠 정보가 조작되지 않은 것도 확인할 수 있어야 한다. 저장되고, 사용되고, 처리되고, 거래되는 모든 과정에서 데이터 무결성 확인은 필수가 되었다.
이를 감당할 수 없다면, 그 결과는 가혹할 것이다.
글 : 더크 칸지세르(Dirk Kanngiesser), Cryptowerk
[국제부 문가용 기자(globoan@boannews.com)]
Copyrighted 2015. UBM-Tech. 117153:0515BC
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-04-15] 
.jpg)
