모두의 예상을 깨고 엑스가 꽤나 평범한 투명성 보고서를 발표했다. 전반기 동안 1천만 건이 넘는 콘텐츠를 삭제하고, 계정들만 해도 500만 개 이상을 지우거나 차단했다고 한다. 하지만 그럼에도 악성 콘텐츠가 차지하는 비율은 0.01% 정도라고 엑스는 주장했다.
[보안뉴스 문정후 기자] 소셜미디어 엑스에서 투명성 보고서가 나왔다. 사실 소셜미디어 플랫폼들은 대다수가 주기적으로 투명성 보고서를 발표하는데, 이번 엑스의 보고서에 관심이 쏠리는 건 일론 머스크(Elon Musk) 체제 하에 엑스가 편입된 뒤 처음으로 나오는 것이기 때문이다. 일론 머스크는 투명성 보고서에 대하여 부정적인 입장임을 숨기지 않았기 때문에 앞으로 엑스에서 이러한 문건이 나오리라고 생각하기 힘들었다.
모두의 예상을 깨고 등장한 엑스의 투명성 보고서에는 어떤 내용이 담겨 있었을까? 간단히 말해 ‘전형적인 내용’이었다. “엑스의 목적은 공적인 대화를 촉진하고, 누구나 자유롭게 대화에 참여할 수 있는 안전한 환경을 제공하는 것”이라는 선언과 함께 시작한 이 투명성 보고서는 “모든 사용자들의 안전을 위해 노력하고 있다”고 알렸으며, “콘텐츠 관리 시스템과 정책에서 투명성을 강화하고 있다”고 강조했다. 이번 보고서는 올해 전반기에 엑스에서 있었던 일들을 다루고 있다.
소셜미디어들이 투명성 보고서를 내는 이유는 딱 하나다. 정책 입안자들(즉 권력자들)과 사용자들(즉 소비자들)을 모두 만족시키기 위해서다. 권력자들이 원하는 건 “가짜뉴스나 해악한 콘텐츠가 퍼지지 않게 하라”는 것이고 소비자들이 원하는 건 “검열로부터 우리를 지키라”는 것이다. 그래서 소셜미디어 플랫폼은 스스로가 얼마나 많은 독성 콘텐츠를 찾아 지웠는지, 정보 요청을 얼마나 잘 듣고 또 잘 거절했는지를 수치로 보여주려고 한다.
엑스의 보고서도 크게 다르지 않았다. “우리는 사용자가 검열에 대한 두려움 없이 자신의 의견을 표현할 권리가 있다고 믿습니다. 동시에 우리 플랫폼에서 폭력, 괴롭힘 등 규칙 위반 콘텐츠로부터 사용자를 보호할 책임이 있다고 생각합니다.” 이런 보고서 내 표현이 보고서를 발간하는 엑스의 위치를 그대로 보여준다고 할 수 있다.
그러면서 엑스는 스스로 콘텐츠 관련 결정을 내리고, 그 결정 사안을 실제로 집행할 때 다음과 같은 것들을 고려한다고 설명했다.
1) 이 콘텐츠가 특정 개인이나 단체, 혹은 보호 대상자들을 겨냥하고 있는가?
2) 피해자 혹은 제 3자가 이 콘텐츠를 신고했는가?
3) 해당 콘텐츠의 작성자가 과거에도 규칙을 위반한 적이 있는가?
4) 위반의 심각성은 어느 정도인가?
5) 해당 콘텐츠가 공공의 이득에 부합하는 측면이 있는가? 있다면 어느 정도인가?
이런 점들을 고려하여 콘텐츠를 삭제하거나 여러 가지 조치를 취하는데, 이 때 머신러닝도 활용하고 인간 리뷰어들까지도 활용한다고 엑스는 강조했다. “자동 조치를 취해야 하는 수많은 경우들이 있는데, 이 때 머신러닝이 큰 도움이 됩니다. 신고 처리와 같은 부분에 있어서 기계들이 많이 작동하죠. 하지만 기계가 모든 것을 다 파악할 수는 없습니다. 인간 리뷰어가 추가 맥락을 고려하여 최종 결정을 내리는데요, 심사해야 할 것이 워낙 많아서 다언어 지원 팀이 24시간 점검을 합니다. 물론 이렇게 하더라도 이의가 있을 수 있고, 그래서 이에 대비한 이의 제기 절차도 마련하고 있습니다.”
이런 시스템 아래에서 진행된 사용자들의 신고 현황은 다음과 같았다. “1월부터 6월까지 접수된 사용자 신고는 총 224,129,805건입니다. 이를 분야별로 나누면 다음과 같습니다.”
1) 학대 및 괴롭힘 : 81,730,426건 (36.47%)
2) 아동 안전 관련 : 8,928,019건 (3.98%)
3) 혐오를 불러일으키는 행위 : 66,898,539건 (29.85%)
4) 불법 또는 규제된 상품이나 서비스 : 35,695건 (0.02%)
5) 가짜 신원 관련 : 5,179,431건 (2.31%)
6) 동의 없이 촬영되거나 공개된 성적 이미지 : 38,736건 (0.02%)
7) 개인정보 관련 : 9,902,566건 (4.42%)
8) 자살 및 자해 : 2,479,097건 (1.11%)
9) 폭력 단체 관련 : 8,932,100건 (3.99%)
10) 폭력적인 콘텐츠 : 40,005,196건 (17.85%)
이런 건들에 대해 엑스는 다음과 같은 조치를 취했다.
1) 계정 정지 : 5,296,870건
2) 콘텐츠 삭제 및 라벨링 : 10,675,980건
이를 좀 더 세분화 하면 다음과 같다고 엑스는 공개했다.
1) 학대 및 괴롭힘 : 계정 정지 1,102,778건, 게시물 삭제/라벨링 2,648,475건
2) 아동 안전 관련 : 계정 정지 2,781,634건, 게시물 삭제 14,571건
3) 혐오를 불러일으키는 행위 : 계정 정지 2,361건, 게시물 삭제/라벨링 4,950,321건
4) 불법/규제 상품 관련 : 계정 정지 514,095건, 게시물 삭제 549,328건
“하지만 이런 악성 콘텐츠들이 차지하는 건 전체 콘텐츠의 0.0123%에 불과합니다. 엑스라는 플랫폼을 이용하면서 삭제될 정도로 극단적으로 해악스런 콘텐츠를 접할 확률은 극히 낮다는 소리입니다. 사용자들은 엑스를 이용하면서 크게 염려하지 않아도 됩니다.”
하지만 사용자들이 더 걱정하는 건 정부 기관이 엑스에 접근하여 사용자 정보를 요청했을 때, 이를 얼마나 잘 들어주느냐이다. 모든 투명성 보고서가 그렇듯 엑스도 이 부분에 대한 상세 통계치를 제공했다. “정부 기관들이 보낸 요청의 건수는 1월부터 6월까지 18,737였습니다. 이 중 공개적으로 처리된 건 9,897건이었습니다.”
국가별로 요청 건수를 집계했을 때, 다음과 같은 결과가 나왔다.
1) 미국 : 3,329건
2) 일본 : 2,726건
3) 유럽연합 : 7,872건
4) 영국 : 635건
5) 그 외 나머지 : 4,175건
여기서 특히 중요한 건 정부 기관이 특정 콘텐츠를 삭제할 것을 요청하는 건데, 이것도 엑스는 따로 집계해 공개했다.
1) 튀르키예 : 9,364건
2) 일본 : 46,648건
3) 한국 : 5,889건
4) 유럽연합 : 2,458건
5) 그 외 나머지 : 8,345건
[국제부 문정후 기자(globoan@boannews.com)]
[보안뉴스 문정후 기자] 소셜미디어 엑스에서 투명성 보고서가 나왔다. 사실 소셜미디어 플랫폼들은 대다수가 주기적으로 투명성 보고서를 발표하는데, 이번 엑스의 보고서에 관심이 쏠리는 건 일론 머스크(Elon Musk) 체제 하에 엑스가 편입된 뒤 처음으로 나오는 것이기 때문이다. 일론 머스크는 투명성 보고서에 대하여 부정적인 입장임을 숨기지 않았기 때문에 앞으로 엑스에서 이러한 문건이 나오리라고 생각하기 힘들었다.
[이미지 = gettyimagesbank]
모두의 예상을 깨고 등장한 엑스의 투명성 보고서에는 어떤 내용이 담겨 있었을까? 간단히 말해 ‘전형적인 내용’이었다. “엑스의 목적은 공적인 대화를 촉진하고, 누구나 자유롭게 대화에 참여할 수 있는 안전한 환경을 제공하는 것”이라는 선언과 함께 시작한 이 투명성 보고서는 “모든 사용자들의 안전을 위해 노력하고 있다”고 알렸으며, “콘텐츠 관리 시스템과 정책에서 투명성을 강화하고 있다”고 강조했다. 이번 보고서는 올해 전반기에 엑스에서 있었던 일들을 다루고 있다.
소셜미디어들이 투명성 보고서를 내는 이유는 딱 하나다. 정책 입안자들(즉 권력자들)과 사용자들(즉 소비자들)을 모두 만족시키기 위해서다. 권력자들이 원하는 건 “가짜뉴스나 해악한 콘텐츠가 퍼지지 않게 하라”는 것이고 소비자들이 원하는 건 “검열로부터 우리를 지키라”는 것이다. 그래서 소셜미디어 플랫폼은 스스로가 얼마나 많은 독성 콘텐츠를 찾아 지웠는지, 정보 요청을 얼마나 잘 듣고 또 잘 거절했는지를 수치로 보여주려고 한다.
엑스의 보고서도 크게 다르지 않았다. “우리는 사용자가 검열에 대한 두려움 없이 자신의 의견을 표현할 권리가 있다고 믿습니다. 동시에 우리 플랫폼에서 폭력, 괴롭힘 등 규칙 위반 콘텐츠로부터 사용자를 보호할 책임이 있다고 생각합니다.” 이런 보고서 내 표현이 보고서를 발간하는 엑스의 위치를 그대로 보여준다고 할 수 있다.
그러면서 엑스는 스스로 콘텐츠 관련 결정을 내리고, 그 결정 사안을 실제로 집행할 때 다음과 같은 것들을 고려한다고 설명했다.
1) 이 콘텐츠가 특정 개인이나 단체, 혹은 보호 대상자들을 겨냥하고 있는가?
2) 피해자 혹은 제 3자가 이 콘텐츠를 신고했는가?
3) 해당 콘텐츠의 작성자가 과거에도 규칙을 위반한 적이 있는가?
4) 위반의 심각성은 어느 정도인가?
5) 해당 콘텐츠가 공공의 이득에 부합하는 측면이 있는가? 있다면 어느 정도인가?
이런 점들을 고려하여 콘텐츠를 삭제하거나 여러 가지 조치를 취하는데, 이 때 머신러닝도 활용하고 인간 리뷰어들까지도 활용한다고 엑스는 강조했다. “자동 조치를 취해야 하는 수많은 경우들이 있는데, 이 때 머신러닝이 큰 도움이 됩니다. 신고 처리와 같은 부분에 있어서 기계들이 많이 작동하죠. 하지만 기계가 모든 것을 다 파악할 수는 없습니다. 인간 리뷰어가 추가 맥락을 고려하여 최종 결정을 내리는데요, 심사해야 할 것이 워낙 많아서 다언어 지원 팀이 24시간 점검을 합니다. 물론 이렇게 하더라도 이의가 있을 수 있고, 그래서 이에 대비한 이의 제기 절차도 마련하고 있습니다.”
이런 시스템 아래에서 진행된 사용자들의 신고 현황은 다음과 같았다. “1월부터 6월까지 접수된 사용자 신고는 총 224,129,805건입니다. 이를 분야별로 나누면 다음과 같습니다.”
1) 학대 및 괴롭힘 : 81,730,426건 (36.47%)
2) 아동 안전 관련 : 8,928,019건 (3.98%)
3) 혐오를 불러일으키는 행위 : 66,898,539건 (29.85%)
4) 불법 또는 규제된 상품이나 서비스 : 35,695건 (0.02%)
5) 가짜 신원 관련 : 5,179,431건 (2.31%)
6) 동의 없이 촬영되거나 공개된 성적 이미지 : 38,736건 (0.02%)
7) 개인정보 관련 : 9,902,566건 (4.42%)
8) 자살 및 자해 : 2,479,097건 (1.11%)
9) 폭력 단체 관련 : 8,932,100건 (3.99%)
10) 폭력적인 콘텐츠 : 40,005,196건 (17.85%)
이런 건들에 대해 엑스는 다음과 같은 조치를 취했다.
1) 계정 정지 : 5,296,870건
2) 콘텐츠 삭제 및 라벨링 : 10,675,980건
이를 좀 더 세분화 하면 다음과 같다고 엑스는 공개했다.
1) 학대 및 괴롭힘 : 계정 정지 1,102,778건, 게시물 삭제/라벨링 2,648,475건
2) 아동 안전 관련 : 계정 정지 2,781,634건, 게시물 삭제 14,571건
3) 혐오를 불러일으키는 행위 : 계정 정지 2,361건, 게시물 삭제/라벨링 4,950,321건
4) 불법/규제 상품 관련 : 계정 정지 514,095건, 게시물 삭제 549,328건
“하지만 이런 악성 콘텐츠들이 차지하는 건 전체 콘텐츠의 0.0123%에 불과합니다. 엑스라는 플랫폼을 이용하면서 삭제될 정도로 극단적으로 해악스런 콘텐츠를 접할 확률은 극히 낮다는 소리입니다. 사용자들은 엑스를 이용하면서 크게 염려하지 않아도 됩니다.”
하지만 사용자들이 더 걱정하는 건 정부 기관이 엑스에 접근하여 사용자 정보를 요청했을 때, 이를 얼마나 잘 들어주느냐이다. 모든 투명성 보고서가 그렇듯 엑스도 이 부분에 대한 상세 통계치를 제공했다. “정부 기관들이 보낸 요청의 건수는 1월부터 6월까지 18,737였습니다. 이 중 공개적으로 처리된 건 9,897건이었습니다.”
국가별로 요청 건수를 집계했을 때, 다음과 같은 결과가 나왔다.
1) 미국 : 3,329건
2) 일본 : 2,726건
3) 유럽연합 : 7,872건
4) 영국 : 635건
5) 그 외 나머지 : 4,175건
여기서 특히 중요한 건 정부 기관이 특정 콘텐츠를 삭제할 것을 요청하는 건데, 이것도 엑스는 따로 집계해 공개했다.
1) 튀르키예 : 9,364건
2) 일본 : 46,648건
3) 한국 : 5,889건
4) 유럽연합 : 2,458건
5) 그 외 나머지 : 8,345건
[국제부 문정후 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-10-31] .jpg)
