.jpg)
디지털 전문가들 절반은 ‘과학이 민주주의 발전 저해할 것’
기술 권위주의로 통칭되는 중국 디지털 공간의 통제모델 문제
권위주의 국가의 AI 기술 ‘오용’에 대한 보안대책은 무엇일까
[보안뉴스 성기노 기자] 과학의 발달과 민주주의의 상관관계는 첨단 기술이 발전할수록 더욱 뜨거워지는 핫이슈다. 기술이 발달하면 그에 따른 인간의 생활 편의성 향상 등으로 민주주의도 더 성숙해지지 않을까? 그렇지 않다면 과학기술이 민주주의에 어떤 부정적 영향을 줄 수도 있을까? 이럴 경우 보안 의식에는 또 어떤 영향을 미치게 될까?
미국의 퓨 리서치 센터(Pew Research Center)가 2020년 2월에 발표한 인터넷·디지털 등 기술 전문가 대상 설문조사 결과에 따르면, 응답자 중 거의 절반인 49%가 앞으로 10년 동안 기술의 이용이 민주주의에 부정적인 영향을 미칠 것이라고 답했다. 반면 기술이 민주주의를 발전시킬 것이라는 응답자는 33%에 그쳤고, 10%는 큰 변화가 없을 것이라고 예상했다.
먼저 과학이 민주주의 발전에 긍정적인 기여를 할 것이라는 대답부터 살펴보자. 인터넷과 AI의 발달로 정보가 빠르고 광범위하게 확산하고 그것이 시민들의 정치 참여를 더 활성화한다. 지난해 12월 3일 윤석열 대통령이 비상계엄을 선포했을 때 다양한 ‘시민 미디어’의 국회 생중계가 없었다면 계엄이 어떤 쪽으로 결론났을지 알 수 없다. 과학의 발전이 민주주의를 지킨 대표적인 예가, 씁쓸하지만 2024년 12월 대한민국이 전 세계에 실증한 셈이 됐다.
이밖에도 교육 수준이 향상돼 국민들의 비판의식이 높아지고 데이터 분석과 감시를 통해 정부 정책의 투명성과 책임성도 강화된다. 과학은 또한 빈곤, 질병 같은 사회적 문제를 해결하는 데 기여해 민주주의 체제를 더 안정적으로 유지한다.
하지만 인터넷·디지털 전문가의 절반 정도는 과학이 민주주의의 ‘발목’을 잡을 가능성이 있다며 우려를 표하고 있다. 이런 디지털 전문가들의 부정적 인식 배경에는 ‘기술 권위주의’(Techno-Authoritarianism)라는 인류의 새로운 고민거리가 자리 잡고 있다. 러시아, 중국 등 권위주의 국가들에서는 국민에 대한 사회적 통제뿐만 아니라 다른 국가의 민주주의에 영향을 미치기 위해 감시기술.인공지능.빅데이터를 자신들에게 유리하게 이용하는 능력을 급속히 발전시켰다(박재형 2024).
요즘 국제 정치 경제 외교 분야에서는 ‘기술 권위주의’라 불리는 중국 디지털 공간의 통제모델이 빅이슈이다. 기술 권위주의 또는 디지털 권위주의는 언론이나 인권 관련 특정 대상에 대한 억압, 검열, 인터넷 셧다운 및 체제 선전에 디지털 기술을 이용하는 것을 뜻하며, 어쩌면 미래 글로벌 디지털 문명의 성격을 규정할 수도 있는 거대한 이슈이기도 하다(최계영 2023).
대규모 데이터와 첨단 AI 기술의 결합은 정부가 국민을 감시·통제하고 영향력을 행사하는 데 과거에 일찍이 없었던 흘륭한 수단이 되고 있다. 특히 중국의 경우 디지털 권위주의를 가장 강력하게 활용하는 국가로 손꼽힌다.
최근 중국 IT 천재들이 개발한 ‘딥시크’를 우리나라를 비롯한 여러 국가에서 사용 차단 조치를 내린 배경에는 중국이 디지털 권위주의 노하우를 이용해 딥시크 사용국 국민들의 개인정보뿐 아니라 국가 안보기밀까지 빼내 갈 가능성이 제기됐기 때문이다.
사실 중국의 디지털 권위주의는 인류에 커다란 위협이 되고 있다. 중국 기업들은 자국에서 아무렇지도 않게 활용되는 각종 감시기술을 중국 정부뿐 아니라 다른 국가 정부와 보안기관에도 수출하고 있는 것으로 알려진다.
보이시주립대학의 스티븐 펠드스타인은 “중국은 말레이시아, 싱가포르, 짐바브웨, 세르비아 등을 포함한 50개국 이상의 정부에 인공지능 감시기술을 제공함으로써 감시기술의 적용이 세계적인 현상이 되도록 하는 데 중요한 역할을 했다”고 주장한다(박재형 2024).
특히 빅데이터를 활용한 AI의 놀라운 발전은 기술 권위주의와 결합해 인류의 ‘보안’에 심각한 위협요소로 자리잡고 있다. 전 세계적으로 AI 시스템은 권위주의 정권을 선동하고 시민과 국가 간의 관계를 뒤집을 수 있는 잠재력을 보여주고 있으며, 이로써 권위주의의 세계적 부활을 가속화하고 있다(박재형 2024).
반면 민주주의 국가에서는 권위주의 국가에서와 달리 AI 등을 이용한 감시기술의 광범위한 활용이 상당히 어렵다. 의회와 NGO 등이 적극적으로 정부의 ‘감시기술’을 감시하고 반대하기 때문이다.
올해 1월 13일 개인정보보호위원회가 ‘안전한 개인정보, 신뢰받는 AI 시대’를 비전으로 하는 2025년 주요 정책 추진계획을 발표하면서 산업 발전을 위해 원본데이터 활용을 제한적으로 허용하는 특례 규정을 도입한다고 덧붙였다. 자율주행 AI 개발 등 가명 처리만으로는 연구 목적 달성이 어려운 경우 개인정보위 심의를 거쳐 원본 데이터 사용을 허용하기로 한 것이다. 개인정보보호 ‘규제’에 묶여 AI 연구가 더디게 진행되자 정부가 그 ‘빗장’을 조금 푼 셈이다.
하지만 중국은 사실상 개인정보보호에 대한 ‘규제’가 없다시피 하다. 오히려 사회신용평가제도라는 것을 운영하고 있는데, 이는 대중 스스로 검열하고 정부가 관리한다고 하지만 개인이 정부에 종속되어 정상적이고 평범한 사회생활을 할 수 없도록 하는 강력한 도구가 되었다고 한다. 중국은 2021년 11월 개인정보보호법을 제정해 실행하고 있지만 민감한 정보의 해외유출을 방지하기 위해 정부와 함께 안전평가를 진행해야 하는 등 국가가 적극적으로 개입하고 있다.
과학기술의 경쟁에서 체제의 차이는 사뭇 다른 결과를 초래할 수 있다. 특히 그 과학 발전의 결과가 인류에 ‘선한 영향력’을 줄지도 의문이다. AI 분야 전문가들 사이에서도 중국의 기술 권위주의 행태에 대해 우려하는 목소리가 높다.
지난해 7월 오픈AI의 CEO 샘 올트먼은 미국이 민주적 노선을 따라 AI의 미래를 형성하기 위한 글로벌 동맹을 주도해야 한다는 취지의 기고문을 낸 바 있다. 그는 워싱턴포스트 기고문에서 AI 개발의 두 가지 경로에 대해 설명하며 하나는 미국과 동맹국이 주도하는 민주적 AI의 미래이고, 다른 하나는 국가가 권력을 강화하기 위해 AI를 사용하는 권위주의적 버전이라고 주장했다. 올트먼이 최근 한국을 방문해 AI 공동 개발을 위한 ‘스타게이트’ 투자를 협의한 것도 ‘민주적 AI’를 지키기 위한 대응책이라고 할 수 있다 .
특히 올트먼은 권위주의 국가가 AI를 주도할 경우 미국 기업과 다른 국가의 기업들이 사용자 데이터를 공유하도록 강요받고, 이러한 기술을 활용해 자국민을 감시하거나 다른 국가를 상대로 차세대 사이버 무기를 개발할 가능성이 있다고 경고했다.
올트먼 “민주적 AI와 권위주의적 AI의 개발 경쟁”
올트먼은 이러한 권위주의 국가의 AI 기술의 ‘오용’ 위험에 대응하기 위해 핵심 대책을 제안했다. 그 첫 번째 단계가 바로 보안이다. 올트먼은 “미국 기업들이 더 강력한 사이버 방어와 데이터 보호를 개발해야 한다”고 주장하며 “그것을 위해 미국 정부와 민간 부문이 협력할 것”을 제안했다.
중국이 기술 권위주의로 전 세계 AI 판도를 휘젓고 있는 상황에서 우리도 보안과 규제에 대한 사회적 합의와 함께 정부의 장기적인 대책 마련이 시급하다.
기술 권위주의로 무장한 중국에게 개인정보와 ‘보안’이라는 영역은 하나의 들러리일 뿐이지만 우리처럼 ‘민주적 절차’에 의해 기술을 구축해야 하는 상황에서는 보안분야도 보다 면밀하고 체계적인 접근이 필요하다.
특히 보안이 생명인 기업의 사내 문화도 ‘권위적’인 수직체계에서 벗어나 수평적인 관계와 소통을 기반으로 한 보안 의식의 대혁신도 요구된다.
[성기노 기자(kino@boannews.com)]
기술 권위주의로 통칭되는 중국 디지털 공간의 통제모델 문제
권위주의 국가의 AI 기술 ‘오용’에 대한 보안대책은 무엇일까
[보안뉴스 성기노 기자] 과학의 발달과 민주주의의 상관관계는 첨단 기술이 발전할수록 더욱 뜨거워지는 핫이슈다. 기술이 발달하면 그에 따른 인간의 생활 편의성 향상 등으로 민주주의도 더 성숙해지지 않을까? 그렇지 않다면 과학기술이 민주주의에 어떤 부정적 영향을 줄 수도 있을까? 이럴 경우 보안 의식에는 또 어떤 영향을 미치게 될까?
[자료: gettyimagesbank]
미국의 퓨 리서치 센터(Pew Research Center)가 2020년 2월에 발표한 인터넷·디지털 등 기술 전문가 대상 설문조사 결과에 따르면, 응답자 중 거의 절반인 49%가 앞으로 10년 동안 기술의 이용이 민주주의에 부정적인 영향을 미칠 것이라고 답했다. 반면 기술이 민주주의를 발전시킬 것이라는 응답자는 33%에 그쳤고, 10%는 큰 변화가 없을 것이라고 예상했다.
먼저 과학이 민주주의 발전에 긍정적인 기여를 할 것이라는 대답부터 살펴보자. 인터넷과 AI의 발달로 정보가 빠르고 광범위하게 확산하고 그것이 시민들의 정치 참여를 더 활성화한다. 지난해 12월 3일 윤석열 대통령이 비상계엄을 선포했을 때 다양한 ‘시민 미디어’의 국회 생중계가 없었다면 계엄이 어떤 쪽으로 결론났을지 알 수 없다. 과학의 발전이 민주주의를 지킨 대표적인 예가, 씁쓸하지만 2024년 12월 대한민국이 전 세계에 실증한 셈이 됐다.
이밖에도 교육 수준이 향상돼 국민들의 비판의식이 높아지고 데이터 분석과 감시를 통해 정부 정책의 투명성과 책임성도 강화된다. 과학은 또한 빈곤, 질병 같은 사회적 문제를 해결하는 데 기여해 민주주의 체제를 더 안정적으로 유지한다.
하지만 인터넷·디지털 전문가의 절반 정도는 과학이 민주주의의 ‘발목’을 잡을 가능성이 있다며 우려를 표하고 있다. 이런 디지털 전문가들의 부정적 인식 배경에는 ‘기술 권위주의’(Techno-Authoritarianism)라는 인류의 새로운 고민거리가 자리 잡고 있다. 러시아, 중국 등 권위주의 국가들에서는 국민에 대한 사회적 통제뿐만 아니라 다른 국가의 민주주의에 영향을 미치기 위해 감시기술.인공지능.빅데이터를 자신들에게 유리하게 이용하는 능력을 급속히 발전시켰다(박재형 2024).
요즘 국제 정치 경제 외교 분야에서는 ‘기술 권위주의’라 불리는 중국 디지털 공간의 통제모델이 빅이슈이다. 기술 권위주의 또는 디지털 권위주의는 언론이나 인권 관련 특정 대상에 대한 억압, 검열, 인터넷 셧다운 및 체제 선전에 디지털 기술을 이용하는 것을 뜻하며, 어쩌면 미래 글로벌 디지털 문명의 성격을 규정할 수도 있는 거대한 이슈이기도 하다(최계영 2023).
대규모 데이터와 첨단 AI 기술의 결합은 정부가 국민을 감시·통제하고 영향력을 행사하는 데 과거에 일찍이 없었던 흘륭한 수단이 되고 있다. 특히 중국의 경우 디지털 권위주의를 가장 강력하게 활용하는 국가로 손꼽힌다.
최근 중국 IT 천재들이 개발한 ‘딥시크’를 우리나라를 비롯한 여러 국가에서 사용 차단 조치를 내린 배경에는 중국이 디지털 권위주의 노하우를 이용해 딥시크 사용국 국민들의 개인정보뿐 아니라 국가 안보기밀까지 빼내 갈 가능성이 제기됐기 때문이다.
[자료: gettyimagesbank]
사실 중국의 디지털 권위주의는 인류에 커다란 위협이 되고 있다. 중국 기업들은 자국에서 아무렇지도 않게 활용되는 각종 감시기술을 중국 정부뿐 아니라 다른 국가 정부와 보안기관에도 수출하고 있는 것으로 알려진다.
보이시주립대학의 스티븐 펠드스타인은 “중국은 말레이시아, 싱가포르, 짐바브웨, 세르비아 등을 포함한 50개국 이상의 정부에 인공지능 감시기술을 제공함으로써 감시기술의 적용이 세계적인 현상이 되도록 하는 데 중요한 역할을 했다”고 주장한다(박재형 2024).
특히 빅데이터를 활용한 AI의 놀라운 발전은 기술 권위주의와 결합해 인류의 ‘보안’에 심각한 위협요소로 자리잡고 있다. 전 세계적으로 AI 시스템은 권위주의 정권을 선동하고 시민과 국가 간의 관계를 뒤집을 수 있는 잠재력을 보여주고 있으며, 이로써 권위주의의 세계적 부활을 가속화하고 있다(박재형 2024).
반면 민주주의 국가에서는 권위주의 국가에서와 달리 AI 등을 이용한 감시기술의 광범위한 활용이 상당히 어렵다. 의회와 NGO 등이 적극적으로 정부의 ‘감시기술’을 감시하고 반대하기 때문이다.
올해 1월 13일 개인정보보호위원회가 ‘안전한 개인정보, 신뢰받는 AI 시대’를 비전으로 하는 2025년 주요 정책 추진계획을 발표하면서 산업 발전을 위해 원본데이터 활용을 제한적으로 허용하는 특례 규정을 도입한다고 덧붙였다. 자율주행 AI 개발 등 가명 처리만으로는 연구 목적 달성이 어려운 경우 개인정보위 심의를 거쳐 원본 데이터 사용을 허용하기로 한 것이다. 개인정보보호 ‘규제’에 묶여 AI 연구가 더디게 진행되자 정부가 그 ‘빗장’을 조금 푼 셈이다.
하지만 중국은 사실상 개인정보보호에 대한 ‘규제’가 없다시피 하다. 오히려 사회신용평가제도라는 것을 운영하고 있는데, 이는 대중 스스로 검열하고 정부가 관리한다고 하지만 개인이 정부에 종속되어 정상적이고 평범한 사회생활을 할 수 없도록 하는 강력한 도구가 되었다고 한다. 중국은 2021년 11월 개인정보보호법을 제정해 실행하고 있지만 민감한 정보의 해외유출을 방지하기 위해 정부와 함께 안전평가를 진행해야 하는 등 국가가 적극적으로 개입하고 있다.
과학기술의 경쟁에서 체제의 차이는 사뭇 다른 결과를 초래할 수 있다. 특히 그 과학 발전의 결과가 인류에 ‘선한 영향력’을 줄지도 의문이다. AI 분야 전문가들 사이에서도 중국의 기술 권위주의 행태에 대해 우려하는 목소리가 높다.
[자료: gettyimagesbank]
지난해 7월 오픈AI의 CEO 샘 올트먼은 미국이 민주적 노선을 따라 AI의 미래를 형성하기 위한 글로벌 동맹을 주도해야 한다는 취지의 기고문을 낸 바 있다. 그는 워싱턴포스트 기고문에서 AI 개발의 두 가지 경로에 대해 설명하며 하나는 미국과 동맹국이 주도하는 민주적 AI의 미래이고, 다른 하나는 국가가 권력을 강화하기 위해 AI를 사용하는 권위주의적 버전이라고 주장했다. 올트먼이 최근 한국을 방문해 AI 공동 개발을 위한 ‘스타게이트’ 투자를 협의한 것도 ‘민주적 AI’를 지키기 위한 대응책이라고 할 수 있다 .
특히 올트먼은 권위주의 국가가 AI를 주도할 경우 미국 기업과 다른 국가의 기업들이 사용자 데이터를 공유하도록 강요받고, 이러한 기술을 활용해 자국민을 감시하거나 다른 국가를 상대로 차세대 사이버 무기를 개발할 가능성이 있다고 경고했다.
올트먼 “민주적 AI와 권위주의적 AI의 개발 경쟁”
올트먼은 이러한 권위주의 국가의 AI 기술의 ‘오용’ 위험에 대응하기 위해 핵심 대책을 제안했다. 그 첫 번째 단계가 바로 보안이다. 올트먼은 “미국 기업들이 더 강력한 사이버 방어와 데이터 보호를 개발해야 한다”고 주장하며 “그것을 위해 미국 정부와 민간 부문이 협력할 것”을 제안했다.
중국이 기술 권위주의로 전 세계 AI 판도를 휘젓고 있는 상황에서 우리도 보안과 규제에 대한 사회적 합의와 함께 정부의 장기적인 대책 마련이 시급하다.
기술 권위주의로 무장한 중국에게 개인정보와 ‘보안’이라는 영역은 하나의 들러리일 뿐이지만 우리처럼 ‘민주적 절차’에 의해 기술을 구축해야 하는 상황에서는 보안분야도 보다 면밀하고 체계적인 접근이 필요하다.
특히 보안이 생명인 기업의 사내 문화도 ‘권위적’인 수직체계에서 벗어나 수평적인 관계와 소통을 기반으로 한 보안 의식의 대혁신도 요구된다.
[성기노 기자(kino@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
성기노기자 기사보기
[2025-02-13] 
.jpg)
.jpg)
.jpg)
