.jpg)
‘인공지능(AI)이 국제 평화와 안보에 미치는 영향’ 주제로 AI 리스크 및 해결과제 논의
군사 차원의 AI 거버넌스 및 AI 이용에 따른 국제 협력 필요성 강조...인간의 책임성 중요
[보안뉴스 김경애 기자] REAIM 2024 본 회의가 ‘인공지능(AI)이 국제 평화와 안보에 미치는 영향’이라는 주제로 열렸다. 손지애 외교부 문화협력대사가 사회를 맡은 가운데 이영수 공군참모총장, 프레데릭 추 싱가포르 국방차관보, 마이크 베일러, 록히드마틴 데이터AI최고책임자, 사이드 알다헤리 두바이대 미래학연구소장, 폴 샤레 신미국안보센터(CNAS) 총괄부사장겸 연구소장이 토론자로 참여했다. 특히, 이번 본 회의는 AI의 군사분야 이용 현황과 성과, 기술개발에 따른 리스크, 해결과제 등에 대해 모색하는 자리로 진행됐다.
Q. 군사분야의 AI의 이용 현황과 성과는 어떤가?
이영수 공군참모총장 : 소수 국가에 한정돼 있던 AI 기술이 빠르게 발전하면서 AI 기술 개발과 이용이 점점 더 확산되고 있다. 러시아-우크라이나 전쟁에서도 AI가 사용됐고, AI를 통해 저비용의 무기가 개발되고 있다. AI 기술은 적의 위치 식별, 적의 정보 분석, 적이 날린 드론 요격, 무인기 활용, 소총 등에 적용되는 등 군의 지휘통제체제 전반을 포함해 모든 작전 분야에 활용할 수 있고, 사이버 안보에도 적용될 수 있다. 앞으로는 AI로 인해 전쟁의 방식이 바뀔 수 있고, 인류의 위협을 가할 수도 있어 국제협력이 중요하다.
Q. 산업계를 대표해 민간 분야 AI 기술을 이끌고 있는데, 현재 상황은 어떤가?
마이크 베일러 록히드마틴 데이터AI최고책임자 : AI의 책임있는 이용에 대해 국가 정책, 국제 기준을 수립하는데 있어 민간 분야의 역할이 크다. 산업계에서도 책임있는 AI 기술 개발과 제품 및 서비스 출시를 위해 노력하고 있다. 안전한 AI 활용을 위한 국제표준과 백악관의 행정명령, 각 국가의 정책 및 제도를 AI 기술 개발에 적용하고 있다.
이와 함께 국제적인 노력도 필요하다. AI 가이드라인도 유용하지만 AI를 통제할 수 있는 AI 정책과 보호조치가 필요하다. 그리고 이를 업계에 적용해야 한다. 특히 AI 정책은 빠르게 발전하고 있는 AI 기술 속도를 고려해 유연해야 한다. 또한 AI 인력 교육, AI 군사분야의 교육, AI 정책에 기반한 보호조치 수립 등도 필요하다.
Q. 군사적으로 실제 어떻게 사용되고 있나?
프레데릭 추 싱가포르 국방차관보 : 분쟁지역에서 AI 기술이 사용되는 것을 볼 수 있다. 러-우 전쟁에서는 수만개의 드론이 사용되고 원격으로 제어하고 있다. AI가 드론 개발 등에 적용되면서 사람의 통제를 넘어서는 측면에 대한 우려가 커지고 있다. 따라서 군사분야의 AI 이용은 시급한 주제로 논의돼야 한다.
Q. AI의 군사적 이용에 대한 현재 평가는 어떤가? 군사 분야를 체계적으로 변화시키고 있나
프레데릭 추 싱가포르 국방차관보 : 특히 AI가 군사분야를 이끌 수 있다는 점은 군사적으로 발전을 촉진시킬 수 있는 반면, 위험을 초래할 수도 있다. 따라서 AI의 기술개발 속도를 따라가면서 다양한 시각을 포용할 수 있는 논의가 진행돼야 한다. 상호연결성 측면에서 대화의 문을 개방해 빅테크 기업, 시민들이 군사 분야에서의 AI를 통한 기술혁신 과정에 참여해야 한다.
Q. AI가 전 세계에 미치는 영향과 해결과제는 무엇인가?
사이드 알다헤리 두바이대 미래학연구소장 : 오늘날 AI 기술은 전쟁의 양상과 글로벌 안보의 안전성을 크게 흔들어놓을 것이다. 새로운 기술 활용에 있어 대량살상무기와 같이 AI 로봇이 살상용으로 개발되면 인간의 개입 없이 AI가 악용될 수 있다. 즉 인간의 책임성 문제가 많이 발생할 것으로 예상된다. 이때 누가 책임질 것인가의 문제가 큰 이슈가 될 수 있다. 이와 관련 지난 2022년 70개국이 유엔 총회에서 우려를 표명하기도 했다. AI 이용과 관련해서는 AI 자율무기, 금융시스템 마비, 사이버 분쟁 등에 있어 글로벌 협력과 거버넌스 체계 마련이 무엇보다 필요하다.
폴 샤레 신미국안보센터(CNAS) 총괄부사장겸 연구소장 : AI를 어떻게 유익하게 활용하도록 할 것이냐가 관건이다. 제대로 사용하면 국가 간의 안전을 강화할 수 있다. 위험을 줄이기 위해 사람과 AI 간의 역할 구분을 명확히 해야 한다. 무엇보다 인간의 책임성울 포기하지 않는 게 중요하다.
[김경애 기자(boan3@boannews.com)]
군사 차원의 AI 거버넌스 및 AI 이용에 따른 국제 협력 필요성 강조...인간의 책임성 중요
[보안뉴스 김경애 기자] REAIM 2024 본 회의가 ‘인공지능(AI)이 국제 평화와 안보에 미치는 영향’이라는 주제로 열렸다. 손지애 외교부 문화협력대사가 사회를 맡은 가운데 이영수 공군참모총장, 프레데릭 추 싱가포르 국방차관보, 마이크 베일러, 록히드마틴 데이터AI최고책임자, 사이드 알다헤리 두바이대 미래학연구소장, 폴 샤레 신미국안보센터(CNAS) 총괄부사장겸 연구소장이 토론자로 참여했다. 특히, 이번 본 회의는 AI의 군사분야 이용 현황과 성과, 기술개발에 따른 리스크, 해결과제 등에 대해 모색하는 자리로 진행됐다.
▲‘인공지능(AI)이 국제 평화와 안보에 미치는 영향’ 주제로 개최된 REAIM 2024 본 회의 모습[사진=보안뉴스]
Q. 군사분야의 AI의 이용 현황과 성과는 어떤가?
이영수 공군참모총장 : 소수 국가에 한정돼 있던 AI 기술이 빠르게 발전하면서 AI 기술 개발과 이용이 점점 더 확산되고 있다. 러시아-우크라이나 전쟁에서도 AI가 사용됐고, AI를 통해 저비용의 무기가 개발되고 있다. AI 기술은 적의 위치 식별, 적의 정보 분석, 적이 날린 드론 요격, 무인기 활용, 소총 등에 적용되는 등 군의 지휘통제체제 전반을 포함해 모든 작전 분야에 활용할 수 있고, 사이버 안보에도 적용될 수 있다. 앞으로는 AI로 인해 전쟁의 방식이 바뀔 수 있고, 인류의 위협을 가할 수도 있어 국제협력이 중요하다.
Q. 산업계를 대표해 민간 분야 AI 기술을 이끌고 있는데, 현재 상황은 어떤가?
마이크 베일러 록히드마틴 데이터AI최고책임자 : AI의 책임있는 이용에 대해 국가 정책, 국제 기준을 수립하는데 있어 민간 분야의 역할이 크다. 산업계에서도 책임있는 AI 기술 개발과 제품 및 서비스 출시를 위해 노력하고 있다. 안전한 AI 활용을 위한 국제표준과 백악관의 행정명령, 각 국가의 정책 및 제도를 AI 기술 개발에 적용하고 있다.
이와 함께 국제적인 노력도 필요하다. AI 가이드라인도 유용하지만 AI를 통제할 수 있는 AI 정책과 보호조치가 필요하다. 그리고 이를 업계에 적용해야 한다. 특히 AI 정책은 빠르게 발전하고 있는 AI 기술 속도를 고려해 유연해야 한다. 또한 AI 인력 교육, AI 군사분야의 교육, AI 정책에 기반한 보호조치 수립 등도 필요하다.
Q. 군사적으로 실제 어떻게 사용되고 있나?
프레데릭 추 싱가포르 국방차관보 : 분쟁지역에서 AI 기술이 사용되는 것을 볼 수 있다. 러-우 전쟁에서는 수만개의 드론이 사용되고 원격으로 제어하고 있다. AI가 드론 개발 등에 적용되면서 사람의 통제를 넘어서는 측면에 대한 우려가 커지고 있다. 따라서 군사분야의 AI 이용은 시급한 주제로 논의돼야 한다.
Q. AI의 군사적 이용에 대한 현재 평가는 어떤가? 군사 분야를 체계적으로 변화시키고 있나
프레데릭 추 싱가포르 국방차관보 : 특히 AI가 군사분야를 이끌 수 있다는 점은 군사적으로 발전을 촉진시킬 수 있는 반면, 위험을 초래할 수도 있다. 따라서 AI의 기술개발 속도를 따라가면서 다양한 시각을 포용할 수 있는 논의가 진행돼야 한다. 상호연결성 측면에서 대화의 문을 개방해 빅테크 기업, 시민들이 군사 분야에서의 AI를 통한 기술혁신 과정에 참여해야 한다.
Q. AI가 전 세계에 미치는 영향과 해결과제는 무엇인가?
사이드 알다헤리 두바이대 미래학연구소장 : 오늘날 AI 기술은 전쟁의 양상과 글로벌 안보의 안전성을 크게 흔들어놓을 것이다. 새로운 기술 활용에 있어 대량살상무기와 같이 AI 로봇이 살상용으로 개발되면 인간의 개입 없이 AI가 악용될 수 있다. 즉 인간의 책임성 문제가 많이 발생할 것으로 예상된다. 이때 누가 책임질 것인가의 문제가 큰 이슈가 될 수 있다. 이와 관련 지난 2022년 70개국이 유엔 총회에서 우려를 표명하기도 했다. AI 이용과 관련해서는 AI 자율무기, 금융시스템 마비, 사이버 분쟁 등에 있어 글로벌 협력과 거버넌스 체계 마련이 무엇보다 필요하다.
폴 샤레 신미국안보센터(CNAS) 총괄부사장겸 연구소장 : AI를 어떻게 유익하게 활용하도록 할 것이냐가 관건이다. 제대로 사용하면 국가 간의 안전을 강화할 수 있다. 위험을 줄이기 위해 사람과 AI 간의 역할 구분을 명확히 해야 한다. 무엇보다 인간의 책임성울 포기하지 않는 게 중요하다.
[김경애 기자(boan3@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김경애기자 기사보기
[2024-09-18] 
