딥페이크의 위험성 다시 한 번 각인시키는 논란...대중은 무심
무조건적인 저작권 가져간다는 약관 문제돼...회사 측에서 급히 수정
[보안뉴스 문가용 기자] 중국에서 큰 인기를 누리고 있는 앱이 프라이버시 논란에 휩싸였다. 문제의 앱은 자오(Zao)로 딥페이크(deepfake) 기술을 바탕으로 사용자의 각종 사진들을 가지고 동영상을 만들어낸다. 특히 유명 영화나 드라마의 장면에서 사용자가 배우 대신 연기하는 것처럼 보이는 영상을 제작하는 데 사용된다.
자오 앱은 현재 가장 많이 다운로드 된 앱 순위에서 빠른 속도로 치솟고 있다. 사용자들은 여러 가지 표정을 담은 셀카 사진을 찍어 자오에 올리고, 자오는 이를 인공지능 딥페이크 알고리즘에 입력해 영상을 만들어내는 식이라 사용이 간편하다는 것도 인기에 큰 작용을 하고 있다.
하지만 최근 자오 앱은 프라이버시 논란에 휩싸이게 되었다. 이용자 약관에 이런 내용의 문구가 있다는 게 발견됐기 때문이다. “사용자가 생성한 모든 콘텐츠에 대한 권한을 무료로, 영구히, 취소 조건이나 양도 조건 없이 자오가 가져가게 되며, 이는 라이선스로 대여할 수도 있다.”
예전부터 제기되어 온 딥페이크 기술의 위험성을 고려했을 때 이는 대단히 심각한 문제다. 딥페이크로 제작된 영상은 너무 진짜처럼 보이기 때문에 각종 가짜뉴스 생성이나 여론 조작에 활용되기 쉽기 때문이다. 유명 배우의 모습으로 된 가짜 포르노 영상이나, 미국 대통령이 하지도 않은 말을 정말로 한 것처럼 보이게 하는 인터뷰 영상이 화제가 된 적 있다.
이에 자오 측은 급히 약관을 수정하며 다음과 같이 발표했다. “프라이버시와 관련해 많은 분들이 우려를 표명하고 있음을 인지했고, 스스로도 그 위험성을 인정하고 있습니다. 많은 의견을 받았고, 약관과 정책, 자오라는 앱의 기능성에 대한 수정에 참고할 계획입니다. 수정에는 적잖은 시간이 걸릴 예정입니다.”
자오를 개발한 회사는 모모(Momo)다. 중국형 온라인 데이팅 서비스를 제공하는 곳으로 미국 나스닥에 상장되어 있다. 하지만 온라인 데이팅을 사업모델로 삼은 기업들은 국적을 막론하고 전통적으로 보안과 프라이버시 보호에 매우 취약한 모습을 보여 왔다.
모모 측은 논란이 일자 자오의 약관을 “사용자가 업로드한 데이터 중 얼굴 사진이나 영상은 앱 성능 개발 외의 목적으로는 절대 사용하지 않겠다”고 변경했다. 또한 사용자가 업로드 했지만 삭제한 콘텐츠는 회사 서버에서도 삭제하겠다고 약속했다.
논란이 일긴 했지만 프라이버시 전문가들 사이에서 만이었던 것으로 보인다. 앱의 인기는 여전하다. 너무 변함이 없어 모모가 약관을 바꾸고 성명을 발표한 게 이상해보일 정도다. 이번 주 월요일 오후를 기준으로 중국 무료 앱 중 다운로드 1위에서 내려오지 않고 있다.
딥페이크의 위험성은 2016년 미국 대선 때부터 알려져 왔다. 가짜 정보와 뉴스를 퍼트리는 데에 있어 엄청난 파급력을 선보이기도 했다. 지난 6월 페이스북의 CEO인 마크 저커버그(Mark Zuckerberg)는 “딥페이크 영상을 처리하는 문제 때문에 회사 전체가 애쓰고 있다”고 말했다. 그러면서 “인류 역사를 통해 사용되어 왔던 ‘거짓 정보’와는 차원이 다른 것일지도 모른다”고 덧붙였다.
3줄 요약
1. 사진 조합해 영상 제작해주는 중국 앱, 딥페이크 기반으로 인기가 매우 높음.
2. 사용자들이 만든 영상에 대해 개발사가 무조건적인 권한 가져간다는 정책 내용 발견됨.
3. 이에 개발사가 얼굴 영상은 개발 목적으로만 사용하겠다고 발표. 앱 인기는 여전.
[국제부 문가용 기자(globoan@boannews.com)]
무조건적인 저작권 가져간다는 약관 문제돼...회사 측에서 급히 수정
[보안뉴스 문가용 기자] 중국에서 큰 인기를 누리고 있는 앱이 프라이버시 논란에 휩싸였다. 문제의 앱은 자오(Zao)로 딥페이크(deepfake) 기술을 바탕으로 사용자의 각종 사진들을 가지고 동영상을 만들어낸다. 특히 유명 영화나 드라마의 장면에서 사용자가 배우 대신 연기하는 것처럼 보이는 영상을 제작하는 데 사용된다.
[이미지 = iclickart]
자오 앱은 현재 가장 많이 다운로드 된 앱 순위에서 빠른 속도로 치솟고 있다. 사용자들은 여러 가지 표정을 담은 셀카 사진을 찍어 자오에 올리고, 자오는 이를 인공지능 딥페이크 알고리즘에 입력해 영상을 만들어내는 식이라 사용이 간편하다는 것도 인기에 큰 작용을 하고 있다.
하지만 최근 자오 앱은 프라이버시 논란에 휩싸이게 되었다. 이용자 약관에 이런 내용의 문구가 있다는 게 발견됐기 때문이다. “사용자가 생성한 모든 콘텐츠에 대한 권한을 무료로, 영구히, 취소 조건이나 양도 조건 없이 자오가 가져가게 되며, 이는 라이선스로 대여할 수도 있다.”
예전부터 제기되어 온 딥페이크 기술의 위험성을 고려했을 때 이는 대단히 심각한 문제다. 딥페이크로 제작된 영상은 너무 진짜처럼 보이기 때문에 각종 가짜뉴스 생성이나 여론 조작에 활용되기 쉽기 때문이다. 유명 배우의 모습으로 된 가짜 포르노 영상이나, 미국 대통령이 하지도 않은 말을 정말로 한 것처럼 보이게 하는 인터뷰 영상이 화제가 된 적 있다.
이에 자오 측은 급히 약관을 수정하며 다음과 같이 발표했다. “프라이버시와 관련해 많은 분들이 우려를 표명하고 있음을 인지했고, 스스로도 그 위험성을 인정하고 있습니다. 많은 의견을 받았고, 약관과 정책, 자오라는 앱의 기능성에 대한 수정에 참고할 계획입니다. 수정에는 적잖은 시간이 걸릴 예정입니다.”
자오를 개발한 회사는 모모(Momo)다. 중국형 온라인 데이팅 서비스를 제공하는 곳으로 미국 나스닥에 상장되어 있다. 하지만 온라인 데이팅을 사업모델로 삼은 기업들은 국적을 막론하고 전통적으로 보안과 프라이버시 보호에 매우 취약한 모습을 보여 왔다.
모모 측은 논란이 일자 자오의 약관을 “사용자가 업로드한 데이터 중 얼굴 사진이나 영상은 앱 성능 개발 외의 목적으로는 절대 사용하지 않겠다”고 변경했다. 또한 사용자가 업로드 했지만 삭제한 콘텐츠는 회사 서버에서도 삭제하겠다고 약속했다.
논란이 일긴 했지만 프라이버시 전문가들 사이에서 만이었던 것으로 보인다. 앱의 인기는 여전하다. 너무 변함이 없어 모모가 약관을 바꾸고 성명을 발표한 게 이상해보일 정도다. 이번 주 월요일 오후를 기준으로 중국 무료 앱 중 다운로드 1위에서 내려오지 않고 있다.
딥페이크의 위험성은 2016년 미국 대선 때부터 알려져 왔다. 가짜 정보와 뉴스를 퍼트리는 데에 있어 엄청난 파급력을 선보이기도 했다. 지난 6월 페이스북의 CEO인 마크 저커버그(Mark Zuckerberg)는 “딥페이크 영상을 처리하는 문제 때문에 회사 전체가 애쓰고 있다”고 말했다. 그러면서 “인류 역사를 통해 사용되어 왔던 ‘거짓 정보’와는 차원이 다른 것일지도 모른다”고 덧붙였다.
3줄 요약
1. 사진 조합해 영상 제작해주는 중국 앱, 딥페이크 기반으로 인기가 매우 높음.
2. 사용자들이 만든 영상에 대해 개발사가 무조건적인 권한 가져간다는 정책 내용 발견됨.
3. 이에 개발사가 얼굴 영상은 개발 목적으로만 사용하겠다고 발표. 앱 인기는 여전.
[국제부 문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-04-18] 
.jpg)
.jpg)
.jpg)
