.jpg)
인공지능에 접근할 수 있느냐 없느냐...삶의 질 좌지우지 할 것
누구나 사용 가능하도록 해야...아직은 더 논의되어야 할 문제
[보안뉴스 문가용 기자] 생명, 자유, 행복추구. 인공지능이 주도하는 내일로 성큼 걸어들어가는 지금, 이러한 인간의 기본권에 ‘인공지능에 접근할 수 있는 권리’ 혹은 ‘인공지능을 사용할 수 있을 권리’ 역시 포함될 수 있을까?
이론 신경과학자이자 기술 전문가이면서, 사업가이자 인공지능 전문가이기도 한 비비엔 밍(Vivienne Ming)은 지난 12월 인공지능을 인간의 기본적인 권리로서 생각하기 시작해야 한다고 설파했다. 그보다 더 최근에는 세일즈포스(Salesforce)의 CEO인 마크 베니오프(Marc Benioff)가 다보스 세계경제포럼에 참석해 비슷한 말을 하기도 했다. “인공지능이라는 기술이 새로운 인권 요소가 되어가고 있으며, 따라서 누구든 사용할 수 있어야 한다”고 주장한 것이다. “인공지능 기술을 소유한 자는 더 똑똑하고, 더 건강하며, 더 부자가 될 것”이라며 “심지어 인공지능 유무로 전쟁이 판가름 날 것”이라고 경고하기도 했다.
이러한 말에 동의하거나 반대하려면 인권이란 것이 무엇인지부터 정확히 짚고 넘어가야 한다. UN에 의하면 인권은 모든 인간들에게 천부적으로 주어지는 모든 유형의 권리들을 말한다. 이는 국적, 거주지, 성별, 민족, 피부색, 종교, 언어 등에 의해 변경되거나 제한되지 않는다. 인권과 가장 연관성이 깊다고 여겨지는 권리의 예로는 ‘시민적 정치적 권리’와 같은 것이 있다. 이는 생존권, 자유권, 표현의 자유, 법 앞의 평등권 등을 포함하는 개념이다.
인공지능, 인권에 오히려 방해가 된다?
문제는 ‘이러이러한 건 인간의 기본적인 권리’라고 말하는 것과, 그 권리를 실제로 보장해주는 건 차원이 다른 일이라는 것이다. 인공지능이 인권의 일부 요소로서 받아들여진다고 해도, 이를 누구나 실제 사용 가능하도록 만든다는 건 아직 상상하기 힘들다. 게다가 인공지능 때문에 기존의 인권이 침해받는 부분도 생긴다. 최근 에릭슨(Ericsson)의 회사 블로그에 게시된 글은, 인공지능 남용으로 사생활 침해가 발생할 수 있으며, 표현의 자유와 사상의 자유도 위협받을 수 있다는 것을 지적하고 있다. 뿐만 아니라 불공정한 대우, 기회의 불평등, 편견으로 인한 차별, 이득의 불공평한 분배, 개인의 삶에 대한 임의적 간섭 역시 인공지능 때문에 오히려 더 커질 수 있는 문제라고 한다.
마이크로소프트 리서치(Microsoft Research)의 케이트 크로포드(Kate Crawford)는 가디언지 기고문을 통해 “의도적이든 그렇지 않든, 인공지능은 불평등을 야기할 수 있고, 대중과 공동체가 반목하도록 하며, 반대 의견을 억압하고, 인권을 부인하도록 하는 데 오히려 도움을 줄 수 있다”고 경고하기도 했다. 또 “소수 대기업들의 이윤을 위해 인공지능이 악용될 수도 있다”고도 지적했다.
꼭 그렇게까지 부정적으로 생각하지 않더라도, “인공지능을 사용할 수 없는 사람들은 사용 가능한 사람들보다 더 약하고, 더 가난하고, 교육도 덜 받고, 더 아프게 될 것은 자명한 일”이라고 베니오프는 예언하고 있다. 밍은 한 발 더 나아가 “모든 기술은 불평등을 심화한다”고까지 주장한다. 왜? “정작 기술을 누릴 수 있을 만한 처지의 사람들은, 그 기술이 가장 안 필요한 부류들”이기 때문이다. “전 세계 인구의 99.999%는 기술이 어떤 식으로 사용되는가에 대해 아무런 의견조차 낼 수 없습니다. 그저 누군가 정해준 것들을 나중에야 받아들여야 하죠.”
뉴욕대학교의 에이미 웹(Amy Webb) 교수는 최근 비즈니스 인사이더(Business Insider)의 기고문을 통해 “인공지능의 미래를 좌지우지 할 수 있는 기업은 9개뿐”이라고 지적했다. “구글, 마이크로소프트, 아마존, 페이스북, IBM, 애플, 바이두, 알리바바, 텐센트”가 웹이 꼽은 9개 기업들이다. 어떻게 하다가 인공지능이라는 기술이 10개도 되지 않는 기업들 손에 들어가게 되었을까? 오늘날은 물론 앞으로 당분간 인공지능, 특히 딥 러닝은, 제대로 계발되고 활용되기 위해서 거대한 양의 데이터와 컴퓨팅 파워를 필요로 할 것이기 때문이다. 그래야 정확도와 효율이 높아진다. 위 9개 기업들은 데이터와 컴퓨팅 파워라는 면 모두에서 압도적인 위치를 차지하고 있기 때문에 현대 인공지능 분야를 주무를 수 있는 것이다.
미국 내 모든 기업들은 공개 거래를 기본 바탕으로 삼고 있다. 이는 곧 월가가 제기한 의문이나 염려에 대해 충분한 답을 할 수 있어야 한다는 뜻이다. 그리고 월가는 인권보다는 이윤에 초점을 맞추고 있는 곳이다. 위 9개 기업들 중 미국 기업들은 인공지능 기술을 ‘이윤’에 대한 관점에서 주무를 수밖에 없다는 것이다. 한편 중국 기업들의 경우는 중국 정부의 의문이나 염려에 대해 충분한 답을 할 수 있어야 한다고 웹 교수는 말한다. 국가사면위원회나 다른 여러 기록들을 통해 봤을 때, 우린 중국이 인권 신장에 그리 큰 관심을 가지지 못한 국가라는 걸 잘 알고 있다. 인공지능에 대해 큰 권한을 가진 조직들 전부 인권과는 거리가 멀다는 결론이 나온다.
게다가 이 인공지능과 인권 문제는 상업 분야에만 국한되지 않는다. 인공지능은 전쟁 기술로서도 활발히 연구되고 있다. 미국 국방부는 인공지능에 의한 전쟁을 “알고리즘에 의한 전쟁(algorithmic warfare)”이라고 부른다. ‘전쟁’이라고 하면 ‘빗발치는 총알’을 생각하던 때가 지나고 있다. 아니, 꼭 그런 형태로만 전쟁이 치러지지 않는다. 안면 인식 기술을 사용해 반대 의견을 묵살하거나 억압하고, 따라서 표현의 자유를 간단히 침해할 수 있다. 자동 봇을 사용해 허위 정보를 퍼트리는 것도 가능하다. 중국은 이미 이러한 신기술들을 사용해 대중 감시를 실시하고 있다. 공산당 정권에 대한 반대의 목소리를 찍어 누르기 위해서다. 위구르 무슬림 소수민족에 대한 억압도 감시의 목적 중 하나다. 전쟁은 이미 벌어지고 있는 것이다.
인공지능이 인권이라니, 공상과학에서의 이야기일까?
캐나다의 컴퓨터 과학자이자 딥 러닝 기술의 창시자 중 한 명으로 알려져 있는 요슈아 벤지오(Yoshua Bengio)는 최근 “나 자신이 직접 제작에 참여한 기술이 사람들의 행동을 통제하고 생각을 조정하는 데에 사용되는 것 같다”며 염려의 마음을 내비치기도 했다. 현재의 흐름을 보건데, 확실히 인공지능의 쓰임새는 인권 보호와는 거리가 멀다. 그 자체가 인권이 되는 것은 더더욱 먼 이야기처럼 들린다.
이런 저런 난관을 극복하고 인공지능이 진짜로 인권의 일부가 된다면, 우리는 사회의 여러 가지 고질적인 문제들을 푸는 데에 인공지능을 사용할 수 있을 것이다. 뿐만 아니라 경제적 성장도, 부의 고른 분배도, 인간의 다양한 꿈과 희망을 현실로 이뤄내는 데에도 인공지능이 적극 활용될 수 있다. 현재로서는 불가능에 가까울 정도로 어려운 일로 보이지만, 긍정적인 예측을 할 수 있게끔 만들어주는 지표들이 아예 없는 것도 아니다. 예를 들어 마이크로소프트는 최근 인공지능을 기반으로 한 안면 인식 소프트웨어는 남용될 소지가 크니 관련된 정책을 마련하라고 입법자들을 촉구하기도 했다. 그리고 자사 블로그를 통해 “첨단 기술은 더 이상 사회와 동떨어진 존재가 아니”라며 “인간의 개인적인 삶과 사회 구성원으로서의 삶에 그 어느 때보다 깊이 침투하고 있다”고 설명했다. 그러므로 미국의 양 정당과 전문가 위원회가 기술의 남용을 막을 수 있는 정책을 앞장서서 만들어야 한다는 결론이었다.
비슷하게 구글도 AI의 응용과 계발에 있어 지켜야 할 윤리적 원칙을 담은 가이드라인을 공개했다. 심지어 구글은 내부 직원들이 인공지능 기술을 좀 더 윤리적으로 사용하라고 회사에 촉구하기도 했다. 구글이 국방부와 인공지능을 합작으로 개발한다는 소식이 나오자 구글 안에서부터 일어났던 반응들은 꽤나 격했다. PC매거진(PC Magazine)이라는 잡지는 편집자의 글을 통해 “인공지능 산업이 2018년 한 해 윤리적인 면모에 대해 인지하기 시작했다”며 직원들이 회사의 인공지능 개발 및 사용 방향성에 대해 강력하게 의견을 제시한 사례를 몇 가지 들기도 했다. 구글의 경우 직원들의 반대가 극심해지자 국방부와의 합작 프로젝트를 2019년 이후부터 새로 진행하지 않겠다고 발표했다. 구글의 CEO인 선다 피차이는 당시 인간의 기본적인 권리 규범을 어기는 기술을 개발하는 일에 참여하지 않겠다고 다짐하기도 했다.
인공지능도 인권이라는 개념의 논의는 이미 사회적 압력을 받아 기울어져 가고 있는지도 모르겠다. 시스코(Cisco)는 최근 ‘시스코 인권 대차대조표(Human Rights Position Statements)’라는 것을 발표했다. 이를 통해 여러 가지 기술들을 인권 문제로서 다뤘는데, 인공지능의 경우 “인공지능의 발전이 빠르게 이뤄지는 만큼 안전, 신뢰, 투명성, 공평함, 윤리, 평등의 문제에 대한 관심도가 높아져야 한다”고 썼다. 이 부분이 제대로 해결되지 않는다면 인권의 근본부터 흔들릴 수 있기 때문이다. “특히 새로운 기술이 가져다 줄 영향력과 변화를 전부 예측할 수 없다면 이러한 관심도는 필수 요소가 된다”고 시스코는 설명하고 있다.
시스코는 내부적으로 여러 가지 긍정적인 시도들을 하고 있다. “자사 공급망에서 판매를 담당하고 있는 직원들에게 기술 교육의 기회를 제공한다거나, 인공지능과 머신러닝이 사회와 인권에 미칠 영향을 시스코 임직원 전체가 더 잘 이해할 수 있도록 대화의 창구를 늘리고 자주 이야기하는 것 등”이라고 한다.
비즈니스 인사이더에 따르면 “인공지능이 향하고 있는 미래와 공상과학에 그리고 있는 미래를 구분하는 게 힘들다”고 한다. 인권의 일부로서 인공지능을 인정하는 건 둘째치고, 인공지능의 긍정적인 용례를 쌓아가는 것부터 우리 안에 있는 최대한의 선의를 필요로 하고 있다. 또한 정부 기관, 사업가, 일반 대중의 대다수가 힘을 모아야 한다. 둘 중 하나가 부족해도 인공지능의 미래가 밝을 수만은 없게 된다. 위의 사례에서 보았던 직원들의 자발적인 목소리 발현과 시민들의 행동이 있어야 인공지능이 윤리적으로 활용되도록 길을 밝힐 수 있을지도 모르겠다. 그런 후에야 인공지능이 인간의 천부적인 기본 권리가 되도록 힘쓸 수 있을 것이다.
글 : 개리 그로스먼(Gary Grossman), Edelman AI Center
[국제부 문가용 기자(globoan@boannews.com)]
누구나 사용 가능하도록 해야...아직은 더 논의되어야 할 문제
[보안뉴스 문가용 기자] 생명, 자유, 행복추구. 인공지능이 주도하는 내일로 성큼 걸어들어가는 지금, 이러한 인간의 기본권에 ‘인공지능에 접근할 수 있는 권리’ 혹은 ‘인공지능을 사용할 수 있을 권리’ 역시 포함될 수 있을까?
[이미지 = iclickart]
이론 신경과학자이자 기술 전문가이면서, 사업가이자 인공지능 전문가이기도 한 비비엔 밍(Vivienne Ming)은 지난 12월 인공지능을 인간의 기본적인 권리로서 생각하기 시작해야 한다고 설파했다. 그보다 더 최근에는 세일즈포스(Salesforce)의 CEO인 마크 베니오프(Marc Benioff)가 다보스 세계경제포럼에 참석해 비슷한 말을 하기도 했다. “인공지능이라는 기술이 새로운 인권 요소가 되어가고 있으며, 따라서 누구든 사용할 수 있어야 한다”고 주장한 것이다. “인공지능 기술을 소유한 자는 더 똑똑하고, 더 건강하며, 더 부자가 될 것”이라며 “심지어 인공지능 유무로 전쟁이 판가름 날 것”이라고 경고하기도 했다.
이러한 말에 동의하거나 반대하려면 인권이란 것이 무엇인지부터 정확히 짚고 넘어가야 한다. UN에 의하면 인권은 모든 인간들에게 천부적으로 주어지는 모든 유형의 권리들을 말한다. 이는 국적, 거주지, 성별, 민족, 피부색, 종교, 언어 등에 의해 변경되거나 제한되지 않는다. 인권과 가장 연관성이 깊다고 여겨지는 권리의 예로는 ‘시민적 정치적 권리’와 같은 것이 있다. 이는 생존권, 자유권, 표현의 자유, 법 앞의 평등권 등을 포함하는 개념이다.
인공지능, 인권에 오히려 방해가 된다?
문제는 ‘이러이러한 건 인간의 기본적인 권리’라고 말하는 것과, 그 권리를 실제로 보장해주는 건 차원이 다른 일이라는 것이다. 인공지능이 인권의 일부 요소로서 받아들여진다고 해도, 이를 누구나 실제 사용 가능하도록 만든다는 건 아직 상상하기 힘들다. 게다가 인공지능 때문에 기존의 인권이 침해받는 부분도 생긴다. 최근 에릭슨(Ericsson)의 회사 블로그에 게시된 글은, 인공지능 남용으로 사생활 침해가 발생할 수 있으며, 표현의 자유와 사상의 자유도 위협받을 수 있다는 것을 지적하고 있다. 뿐만 아니라 불공정한 대우, 기회의 불평등, 편견으로 인한 차별, 이득의 불공평한 분배, 개인의 삶에 대한 임의적 간섭 역시 인공지능 때문에 오히려 더 커질 수 있는 문제라고 한다.
마이크로소프트 리서치(Microsoft Research)의 케이트 크로포드(Kate Crawford)는 가디언지 기고문을 통해 “의도적이든 그렇지 않든, 인공지능은 불평등을 야기할 수 있고, 대중과 공동체가 반목하도록 하며, 반대 의견을 억압하고, 인권을 부인하도록 하는 데 오히려 도움을 줄 수 있다”고 경고하기도 했다. 또 “소수 대기업들의 이윤을 위해 인공지능이 악용될 수도 있다”고도 지적했다.
꼭 그렇게까지 부정적으로 생각하지 않더라도, “인공지능을 사용할 수 없는 사람들은 사용 가능한 사람들보다 더 약하고, 더 가난하고, 교육도 덜 받고, 더 아프게 될 것은 자명한 일”이라고 베니오프는 예언하고 있다. 밍은 한 발 더 나아가 “모든 기술은 불평등을 심화한다”고까지 주장한다. 왜? “정작 기술을 누릴 수 있을 만한 처지의 사람들은, 그 기술이 가장 안 필요한 부류들”이기 때문이다. “전 세계 인구의 99.999%는 기술이 어떤 식으로 사용되는가에 대해 아무런 의견조차 낼 수 없습니다. 그저 누군가 정해준 것들을 나중에야 받아들여야 하죠.”
뉴욕대학교의 에이미 웹(Amy Webb) 교수는 최근 비즈니스 인사이더(Business Insider)의 기고문을 통해 “인공지능의 미래를 좌지우지 할 수 있는 기업은 9개뿐”이라고 지적했다. “구글, 마이크로소프트, 아마존, 페이스북, IBM, 애플, 바이두, 알리바바, 텐센트”가 웹이 꼽은 9개 기업들이다. 어떻게 하다가 인공지능이라는 기술이 10개도 되지 않는 기업들 손에 들어가게 되었을까? 오늘날은 물론 앞으로 당분간 인공지능, 특히 딥 러닝은, 제대로 계발되고 활용되기 위해서 거대한 양의 데이터와 컴퓨팅 파워를 필요로 할 것이기 때문이다. 그래야 정확도와 효율이 높아진다. 위 9개 기업들은 데이터와 컴퓨팅 파워라는 면 모두에서 압도적인 위치를 차지하고 있기 때문에 현대 인공지능 분야를 주무를 수 있는 것이다.
미국 내 모든 기업들은 공개 거래를 기본 바탕으로 삼고 있다. 이는 곧 월가가 제기한 의문이나 염려에 대해 충분한 답을 할 수 있어야 한다는 뜻이다. 그리고 월가는 인권보다는 이윤에 초점을 맞추고 있는 곳이다. 위 9개 기업들 중 미국 기업들은 인공지능 기술을 ‘이윤’에 대한 관점에서 주무를 수밖에 없다는 것이다. 한편 중국 기업들의 경우는 중국 정부의 의문이나 염려에 대해 충분한 답을 할 수 있어야 한다고 웹 교수는 말한다. 국가사면위원회나 다른 여러 기록들을 통해 봤을 때, 우린 중국이 인권 신장에 그리 큰 관심을 가지지 못한 국가라는 걸 잘 알고 있다. 인공지능에 대해 큰 권한을 가진 조직들 전부 인권과는 거리가 멀다는 결론이 나온다.
게다가 이 인공지능과 인권 문제는 상업 분야에만 국한되지 않는다. 인공지능은 전쟁 기술로서도 활발히 연구되고 있다. 미국 국방부는 인공지능에 의한 전쟁을 “알고리즘에 의한 전쟁(algorithmic warfare)”이라고 부른다. ‘전쟁’이라고 하면 ‘빗발치는 총알’을 생각하던 때가 지나고 있다. 아니, 꼭 그런 형태로만 전쟁이 치러지지 않는다. 안면 인식 기술을 사용해 반대 의견을 묵살하거나 억압하고, 따라서 표현의 자유를 간단히 침해할 수 있다. 자동 봇을 사용해 허위 정보를 퍼트리는 것도 가능하다. 중국은 이미 이러한 신기술들을 사용해 대중 감시를 실시하고 있다. 공산당 정권에 대한 반대의 목소리를 찍어 누르기 위해서다. 위구르 무슬림 소수민족에 대한 억압도 감시의 목적 중 하나다. 전쟁은 이미 벌어지고 있는 것이다.
인공지능이 인권이라니, 공상과학에서의 이야기일까?
캐나다의 컴퓨터 과학자이자 딥 러닝 기술의 창시자 중 한 명으로 알려져 있는 요슈아 벤지오(Yoshua Bengio)는 최근 “나 자신이 직접 제작에 참여한 기술이 사람들의 행동을 통제하고 생각을 조정하는 데에 사용되는 것 같다”며 염려의 마음을 내비치기도 했다. 현재의 흐름을 보건데, 확실히 인공지능의 쓰임새는 인권 보호와는 거리가 멀다. 그 자체가 인권이 되는 것은 더더욱 먼 이야기처럼 들린다.
이런 저런 난관을 극복하고 인공지능이 진짜로 인권의 일부가 된다면, 우리는 사회의 여러 가지 고질적인 문제들을 푸는 데에 인공지능을 사용할 수 있을 것이다. 뿐만 아니라 경제적 성장도, 부의 고른 분배도, 인간의 다양한 꿈과 희망을 현실로 이뤄내는 데에도 인공지능이 적극 활용될 수 있다. 현재로서는 불가능에 가까울 정도로 어려운 일로 보이지만, 긍정적인 예측을 할 수 있게끔 만들어주는 지표들이 아예 없는 것도 아니다. 예를 들어 마이크로소프트는 최근 인공지능을 기반으로 한 안면 인식 소프트웨어는 남용될 소지가 크니 관련된 정책을 마련하라고 입법자들을 촉구하기도 했다. 그리고 자사 블로그를 통해 “첨단 기술은 더 이상 사회와 동떨어진 존재가 아니”라며 “인간의 개인적인 삶과 사회 구성원으로서의 삶에 그 어느 때보다 깊이 침투하고 있다”고 설명했다. 그러므로 미국의 양 정당과 전문가 위원회가 기술의 남용을 막을 수 있는 정책을 앞장서서 만들어야 한다는 결론이었다.
비슷하게 구글도 AI의 응용과 계발에 있어 지켜야 할 윤리적 원칙을 담은 가이드라인을 공개했다. 심지어 구글은 내부 직원들이 인공지능 기술을 좀 더 윤리적으로 사용하라고 회사에 촉구하기도 했다. 구글이 국방부와 인공지능을 합작으로 개발한다는 소식이 나오자 구글 안에서부터 일어났던 반응들은 꽤나 격했다. PC매거진(PC Magazine)이라는 잡지는 편집자의 글을 통해 “인공지능 산업이 2018년 한 해 윤리적인 면모에 대해 인지하기 시작했다”며 직원들이 회사의 인공지능 개발 및 사용 방향성에 대해 강력하게 의견을 제시한 사례를 몇 가지 들기도 했다. 구글의 경우 직원들의 반대가 극심해지자 국방부와의 합작 프로젝트를 2019년 이후부터 새로 진행하지 않겠다고 발표했다. 구글의 CEO인 선다 피차이는 당시 인간의 기본적인 권리 규범을 어기는 기술을 개발하는 일에 참여하지 않겠다고 다짐하기도 했다.
인공지능도 인권이라는 개념의 논의는 이미 사회적 압력을 받아 기울어져 가고 있는지도 모르겠다. 시스코(Cisco)는 최근 ‘시스코 인권 대차대조표(Human Rights Position Statements)’라는 것을 발표했다. 이를 통해 여러 가지 기술들을 인권 문제로서 다뤘는데, 인공지능의 경우 “인공지능의 발전이 빠르게 이뤄지는 만큼 안전, 신뢰, 투명성, 공평함, 윤리, 평등의 문제에 대한 관심도가 높아져야 한다”고 썼다. 이 부분이 제대로 해결되지 않는다면 인권의 근본부터 흔들릴 수 있기 때문이다. “특히 새로운 기술이 가져다 줄 영향력과 변화를 전부 예측할 수 없다면 이러한 관심도는 필수 요소가 된다”고 시스코는 설명하고 있다.
시스코는 내부적으로 여러 가지 긍정적인 시도들을 하고 있다. “자사 공급망에서 판매를 담당하고 있는 직원들에게 기술 교육의 기회를 제공한다거나, 인공지능과 머신러닝이 사회와 인권에 미칠 영향을 시스코 임직원 전체가 더 잘 이해할 수 있도록 대화의 창구를 늘리고 자주 이야기하는 것 등”이라고 한다.
비즈니스 인사이더에 따르면 “인공지능이 향하고 있는 미래와 공상과학에 그리고 있는 미래를 구분하는 게 힘들다”고 한다. 인권의 일부로서 인공지능을 인정하는 건 둘째치고, 인공지능의 긍정적인 용례를 쌓아가는 것부터 우리 안에 있는 최대한의 선의를 필요로 하고 있다. 또한 정부 기관, 사업가, 일반 대중의 대다수가 힘을 모아야 한다. 둘 중 하나가 부족해도 인공지능의 미래가 밝을 수만은 없게 된다. 위의 사례에서 보았던 직원들의 자발적인 목소리 발현과 시민들의 행동이 있어야 인공지능이 윤리적으로 활용되도록 길을 밝힐 수 있을지도 모르겠다. 그런 후에야 인공지능이 인간의 천부적인 기본 권리가 되도록 힘쓸 수 있을 것이다.
글 : 개리 그로스먼(Gary Grossman), Edelman AI Center
[국제부 문가용 기자(globoan@boannews.com)]
Copyrighted 2015. UBM-Tech. 117153:0515BC
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-11-22] 
.jpg)
.jpg)
.jpg)
.jpg)
.jpg)
