Home > 전체기사
아마존·MS·인텔, 인류의 생명을 위험에 빠트릴 수 있다?
  |  입력 : 2019-08-22 15:34
페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기
인공지능을 무기에 접목하려는 시도 계속 이어져...개발 자체는 막기 힘들 것
발을 빼는 기업도 있고, 빈 자리에 찾아 들어가려는 기업도 있고...세계적 합의 필요


[보안뉴스 문가용 기자] 아마존과 마이크로소프트, 인텔이 인류를 위험 속으로 몰아넣고 있다는 내용의 보고서가 발표됐다. 제한 없이 인공지능 기술을 향상시키고 있기 때문이라고 한다. 해당 보고서는 네덜란드의 NGO인 팍스(Pax)가 발표한 것으로, “이 세 회사 때문에 인류는 지능을 가진 무기들의 위협에 노출될 것”이라고 내다봤다.

[이미지 = iclickart]


팍스는 다음 세 가지 기준을 바탕으로 50개의 회사를 선정해 순위를 매겼다.
1) 생명을 앗아갈 잠재력이 있는 인공지능 기술을 개발 중인가?
2) 인공지능과 관련된 군사 프로젝트에 참여 중인가?
3) 위 두 가지에 참여하지 않고 있다면, 앞으로도 그럴 계획인가?

이 보고서의 1저자인 프랭크 슬리퍼(Frank Slijper)는 “마이크로소프트나 아마존과 같은 기업들은 현재 살인을 스스로 결정할 수 있는 지능을 가진 무기들을 개발하는 데 일조하고 있다는 걸 부정하지 않고 있다”고 썼다. 슬리퍼는 인공지능 기술이 첨단 무기와 만날 때의 상황을 우려하는 차원에서 이 보고서를 쓴 것이다. 무기가 스스로 생각해 결정을 할 수 있게 된다는 건, 인간의 개입 없이 살인을 저지를 수 있다는 뜻이 된다. 이는 꽤나 오랜 시간 논란이 되어온 주제다.

구글은 지난 해 무기와 관련된 인공지능 기술을 개발하거나 연구하지 않겠다는 내용의 원칙을 수립해 공개한 바 있다. 이 때문인지 이번 팍스의 연구 보고서에서는 가장 바람직한 회사 중 하나로 꼽혔다. 인공지능 애완견 로봇으로 유명한 일본의 소프트뱅크(Softbank)도 구글처럼 바람직한 회사에 이름을 올렸다. 참고로 해당 연구는 12개국에 걸쳐서 진행됐다고 한다.

‘어느 정도 우려가 된다’는 수준의 평가를 받은 기업은 총 22개였다. ‘많이 우려가 된다’ 항목에 들어간 기업은 21개였는데, 이 중에는 아마존과 마이크로소프트가 있었다. 그 외에도 CIA와 어느 정도 커넥션이 있는 기업인 팔란티어(Palantir)도 위험한 그룹으로 묶였다. 팔란티어는 군인들이 실시간으로 전투 지형을 분석할 수 있게 해주는 인공지능 기술을 개발 중인 회사다.

“자기 스스로 살인을 결정할 수 있는 무기는 대량 학살의 위험성을 소지하고 있습니다. 이런 기술을 보유한 소수의 사람 혹은 개인이 수많은 사람들의 목숨을 쥐게 된다는 소리입니다.” 캘리포니아 대학의 스튜어트 러셀(Stuart Russell) 컴퓨터 과학과 교수는 주장한다. “하지만 기업들의 경쟁 논리에 의해 이러한 기술은 반드시 개발될 겁니다. 기술 개발 자체를 막을 수는 없습니다. 다만 그런 기술이 보편화되지 않도록 하는 장치를 마련해야 합니다.”

실제로 미국 정부는 이미 이러한 무기 개발을 위한 프로젝트를 실행 중에 있거나 적어도 준비 중에 있다. 작년 미국 국방부는 프로젝트 메이븐(Project Maven)이라는 걸 실시해 드론 영상을 머신 러닝으로 분석해 사람과 물체를 구분하는 기술을 개발하려고 했다. 이 때 구글이 참여하지 않기로 결정하면서 여론의 관심이 들끓었던 바 있다.

그 외에도 구글은 공동엔터프라이즈방어시설(Joint Enterprise Defense Infrastructure, JEDI)이라는 클라우드 사업에서도 빠져나왔다. 그 자리를 아마존과 마이크로소프트가 탐내고 있는 상태다. 팍스의 보고서에 따르면 마이크로소프트의 근무자들은 미군과 회사가 계약을 맺어 군인들을 위한 증강현실 헤드셋이나 홀로렌즈 등 살상력을 높이는 무기를 개발하는 것에 반대해왔다고 한다.

러셀에 따르면 “지금 무기로 간주되기만 하면 뭐든지 인공지능을 얹어보려고 하는 시도가 이뤄지고 있다”고 한다. “탱크든, 전투기든, 잠수함이든 구분 없이 말입니다.” 실제로 이스라엘은 스스로 공격할 지역을 선택할 수 있는 드론이 출시된 바 있다. 이 드론의 이름은 하피(Harpy)였다.

“드론 얘기가 나와서 하는 말인데, 보고서에는 언급도 되지 않은 새로운 인공지능 무기들이 존재합니다. 살상형 미니 드론 같은 것들 말이죠. 미니 드론 1백만 개를 배 컨테이너에 실어서 특정 지역에 보내면 마치 핵폭탄이 떨어진 것과 같은 효과가 발생할 겁니다. 게다가 사람만 골라 죽이겠죠. 건물이나 시설 등은 그대로 놔두고요.” 러셀의 설명이다. “이런 기술로 하룻밤 안에 인종 말살도 시킬 수 있습니다. 특별 성별에 대한 학살도 할 수 있고요. 정치적으로 반대편에 있는 인물들도 찾아서 죽일 수 있죠.”

지난 4월 유럽연합은 인공지능 개발을 위한 윤리적 가이드라인을 발표했다. 그러면서 인간의 감독과 환경 및 사회적 발전에 초점을 맞춘 개발이라는 개념을 강조했다. 본지도 얼마 전 주말판 기사를 통해 인공지능의 윤리 프레임워크에 대한 내용을 정리해 보도(https://www.boannews.com/media/view.asp?idx=82156&skind=D)하기도 했다.

러셀은 생명에 위협을 줄 수 있는 인공지능 기술은 전 세계가 공통으로 금지시켜야 한다는 입장이다. “살인을 스스로 결정하고 실행할 수 있는 기계는 아무도 개발하지 말고, 구축하지도 말며, 활용하지도 말아야 합니다. 그 누구도, 그 어떤 나라라도 다 마찬가지입니다.”

3줄 요약
1. 인공지능 개발이 무기와 접목되면서 인류의 생명이 위협을 받는다는 보고서 나옴.
2. 위험한 기업과 안전한 회사를 나눴을 때 구글은 Good, MS와 아마존은 Bad.
3. 전 세계적으로 살상력 가진 인공지능 기술의 개발을 금지시키는 데 합의하는 게 최선이라는 주장도 있음.

[국제부 문가용 기자(globoan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>

  •  
  • 0
  • 페이스북 보내기 트위터 보내기 네이버 밴드 보내기 카카오 스토리 보내기


  •  SNS에서도 보안뉴스를 받아보세요!! 
IBM 파워비즈 배너 2019년2월8일~2020년2월7일까지/7월25일 수정위즈디엔에스 2018파워비즈배너 시작 11월6일 20181105-20200131
설문조사
지난 10월 정보보호정책관을 정보네트워크정책관으로 변경하는 과학기술정보통신부의 조직 개편 움직임이 논란이 된 바 있습니다. 과기정통부에서 정보보호 업무를 총괄하는 조직 위상에 대한 견해는?
과기정통부에서 분리해 별도의 정부부처가 전담해야
과기정통부 내 정보보호정책실(실장급)로 격상시켜야
지금처럼 정보보호정책관(국장급) 조직을 유지해야
네트워크 업무를 통합시키되, 정보보호네트워크정책관(국장급)으로 명명해야
과기정통부의 초안처럼 정보네트워크정책관(국장급)으로 해야
기타(댓글로)
      

이스온
원격감시 / 안전관리

인콘
통합관제 / 소방방재

현대틸스
팬틸트 / 카메라

파나소닉코리아
Sevurity Camera / CCTV

시큐인포
CCTV / NVR

한화테크윈
CCTV 카메라 / 영상감시

AVIGILON
영상 보안 / 출입 통제

대명코퍼레이션
DVR / IP카메라

티제이원
영상 보안 / 출입 통제

하이크비전 코리아
CCTV / IP / NVR

원우이엔지
줌카메라

비전정보통신
IP카메라 / VMS / 폴

다후아 코리아
CCTV / DVR

씨앤비텍
통합보안솔루션

지케이테코
출입통제 / 얼굴인식

아이디스
DVR / IP / VMS

한국하니웰
CCTV / DVR

이화트론
DVR / IP / CCTV

피엔에이
CCTV / IP 카메라 모듈

테크스피어
손혈관 / 차량하부 검색기

쿠도커뮤니케이션
스마트 관제 솔루션

슈프리마
출입통제 / 얼굴인식

아이티엑스엠투엠
DVR / NVR / IP CAMERA

씨엠아이텍
근태관리 소프트웨어 / 홍채 스케너

링크플로우
이동형 CCTV 솔루션

한국씨텍
PTZ CCTV

엔토스정보통신
DVR / NVR / CCTV

경인씨엔에스
CCTV / 자동복구장치

트루엔
IP 카메라

씨오피코리아
CCTV 영상 전송장비

CCTV협동조합
CCTV

디비시스
CCTV토탈솔루션

도마카바코리아
시큐리티 게이트

다민정보산업
기업형 스토리지

테크어헤드
얼굴인식 소프트웨어

에스카
CCTV / 영상개선

브이유텍
플랫폼 기반 통합 NVR

윈스
지능형 차세대 방화벽

포티넷
네트워크 보안

화이트박스로보틱스
CCTV / 카메라

신우테크
팬틸드 / 하우징

네이즈
VMS

케이제이테크
지문 / 얼굴 출입 통제기

혜인에스앤에스
통합보안시스템

셀링스시스템
IP 카메라 / 비디오 서버

사라다
지능형 객체 인식 시스템

수퍼락
출입통제 시스템

구네보코리아
보안게이트

일산정밀
CCTV / 부품 / 윈도우

아이엔아이
울타리 침입 감지 시스템

이노뎁
VMS

새눈
CCTV 상태관리 솔루션

케이티앤씨
CCTV / 모듈 / 도어락

파이브지티
얼굴인식 시스템

이스트컨트롤
통합 출입 통제 솔루션

아이유플러스
레이더 / 카메라

지와이네트웍스
CCTV 영상분석

두레옵트로닉스
카메라 렌즈

지에스티엔지니어링
게이트 / 스피드게이트

이후커뮤니케이션
전송장치/CCTV

창우
폴대

넷플로우
IP인터폰 / 방송시스템

대산시큐리티
CCTV 폴 / 함체 / 랙

엘림광통신
광전송링크

티에스아이솔루션
출입 통제 솔루션

에프에스네트웍스
스피드 돔 카메라

엔클라우드
VMS / 스위치

DK솔루션
메트릭스 / 망전송시스템

싸이닉스
스피드 돔 카메라

다원테크
CCTV / POLE / 브라켓

유진시스템코리아
팬틸트 / 하우징

포커스에이치앤에스
지능형 / 카메라

휴컴스
PTZ 카메라 / 줌카메라

카티스
출입통제 / 외곽경비

세환엠에스
시큐리티 게이트