AI의 규범형성과 외교적 활동, 정책지향성 부재·전문인력의 부족 등 내부 논의 미흡
정부는 AI와 관련된 실패와 재난 대비해 예방, 완화 및 사고 대응 위한 정책 수립해야
AI 정상회의 기반으로 기술개발의 정책적 함의, 표준, 윤리 등 다양하게 고려해야
[보안뉴스=국가안보전략연구원 김소정 연구위원] AI는 시대를 규정하는 기술이 될 가능성이 있으며, 경제, 사회, 정치적 성공을 결정할 수 있다. 인공지능(AI)의 급속한 기술 발전은 군사적 안정성에 새로운 위험을 초래하며, 이를 완화하기 위해 각국은 규범과 신뢰 구축 조치(CBMs)를 마련하고자 노력하고 있다.
한국도 ‘2024 인공지능의 책임있는 군사적 이용에 관한 고위급회의(REAIM : REsponsible AI in the Military domain)’, ‘AI 서울 정상회의’ 등을 개최하고, AI에 관한 규범 개발에 적극적으로 참여하고 있으며, AI 국제 규범을 정립하고 상호간 신뢰가능하고 안전하고, 투명한 AI를 개발 및 사용하고자 노력하고 있다.
UN, OECD 등 다양한 형태의 국제기구들도 AI 사용에 관한 원칙 등을 공개했으며, 각국은 자국의 AI 수용 및 활용, 국가간 활용 등에 대비한 자국의 전략·정책 문서들을 공개하고 있다. 반면, 사이버안보 규범에 대한 논의는 상대적으로 활발히 이루어지지는 않는 것으로 보인다. 사이버 규범 논의가 이미 30여년간 지속되었음에도 불구하고, 국제법 등 경성규범의 형태로 합의를 도출하지 못했으며, 비가시적인 사이버공간을 가시적 형태로 규범화시키는데 한계를 느끼고 있기 때문인 것으로 보여진다.
사이버 규범논의가 주춤해진 사이, 오히려 AI, 우주 등 타 과학기술분야 규범논의는 조금씩 활발해져 왔다. 이들은 모두 국가안보에 치명적 위해를 가할 수 있는 파괴적인 역량을 보유하고 있다는 공통점 외에도, IT에 기반한 사이버안보 및 보안의 요소가 필수적으로 요구된다는 점에서 또 다른 공통점을 갖고 있다. 이 점에서 파괴적 신기술로 일컬어지는 AI, 우주, 양자컴퓨터, 첨단바이오 산업 등은 사이버안보와 밀접한 연관을 갖고 있다.
정치적·군사적 역학에 대한 이해 없이 AI 기능을 통합하면 예상치 못한 결과를 초래할 수 있다. 정책결정자들은 AI 기능과 그 잠재적 영향에 대한 충분한 이해가 부족해 정보에 근거한 정책 결정 및 전략 계획을 세우지 못할 수 있다. AI는 국제 의제에서 매우 중요한 주제로 떠오르며 정치, 사회, 경제 전반에 걸쳐 많은 영향을 미치고 있다.
특히 AI 시스템은 방대한 양의 데이터를 처리한다. 이는 개인정보 보호와 데이터 보호와 관련된 우려를 불러일으킨다. 현재 AI의 안전성과 보안성 강화가 지속적으로 요구된다. 정부는 AI를 설계, 개발, 배포하는 과정에서 인권을 존중하도록 민간 부문을 독려해야 할 의무가 있다. AI 시스템 개발자들은 사용되는 데이터의 무결성을 보장하고, AI 애플리케이션에 개인정보 보호 및 데이터 보호 기능을 내재화해야 한다.
생성형 AI 기술은 사이버 공격 및 사이버 스파이 행위의 주요 표적이 될 수 있다. 이들의 훈련 데이터는 조작될 수 있으며, 사이버 취약성이 있는 기술 기반에서 실행된다. AI의 안전성과 보안성을 향상시키기 위해 1) 설계 단계에서의 안전성 강화를 위한 보안 설계, 2) 데이터 익명화 및 검즈, 암호화, 3) AI 모델 편향 제거, 성능 검증 및 보안테스트 실시 등이 요구된다. 이들은 기관별 보안정책으로 반영돼야 하며, 지속적으로 감시 및 모니터링 해야 된다.
역사적으로 기술 산업은 메모리 안전성 등 컴퓨터 보안 과학을 구현하는 데 실패했으며, 이는 지난 35년간 지속된 사이버 불안정성 위기에 크게 기여했다. 민간주도의 기술개발에 AI의 발전을 모두 일임하게 되면, 경쟁 압박과 이익에 비해 보안 및 안전에 대한 유인책이 약한 AI가 광범위하게 배치될 것이다. 이는 정보기술의 급속한 사용 확대시 보안을 고려하지 못했던 것과 유사한 실패로 이어질 수 있다. 정부는 AI와 관련된 실패와 재난에 대비해 예방, 완화 및 사고 대응을 위한 정책을 수립해야 한다.
사이버안보 규범논의와 유사하게 AI의 규범형성과 외교적 활동에 대해서 한국은 아직 많은 내부적 논의가 진행되지 않고 있다. 정책지향성 부재, 전문인력의 부족, 학제간 소통 및 문제의식 공유 부재, 정책결정 지원 가능한 생산의 한계, 국가 R&D와의 정합성 부족, 지속적 실행력 부재 등이 지속되고 있으며, 결국 발달하는 과학기술을 외교와 정책, 전략적 측면의 접점을 이해하고 풀어가는 데 아직 충분한 사유를 하지 못한 결과일 것이다. REAIM 및 AI 정상회의 등을 기반으로 한국내 전사회적인 접근이 가능할 수 있는 체계를 마련하고 이를 지속하면서, 논의 주제도 군사적 사용 외 민간 사용, 기술개발의 정책적 함의, 표준, 윤리 및 인권적 측면 등까지 포괄할 수 있도록 다양한 분야가 고려되어야 한다.
[글_ 국가안보전략연구원 김소정 연구위원]
정부는 AI와 관련된 실패와 재난 대비해 예방, 완화 및 사고 대응 위한 정책 수립해야
AI 정상회의 기반으로 기술개발의 정책적 함의, 표준, 윤리 등 다양하게 고려해야
[보안뉴스=국가안보전략연구원 김소정 연구위원] AI는 시대를 규정하는 기술이 될 가능성이 있으며, 경제, 사회, 정치적 성공을 결정할 수 있다. 인공지능(AI)의 급속한 기술 발전은 군사적 안정성에 새로운 위험을 초래하며, 이를 완화하기 위해 각국은 규범과 신뢰 구축 조치(CBMs)를 마련하고자 노력하고 있다.
[이미지=gettyimagesbank]
한국도 ‘2024 인공지능의 책임있는 군사적 이용에 관한 고위급회의(REAIM : REsponsible AI in the Military domain)’, ‘AI 서울 정상회의’ 등을 개최하고, AI에 관한 규범 개발에 적극적으로 참여하고 있으며, AI 국제 규범을 정립하고 상호간 신뢰가능하고 안전하고, 투명한 AI를 개발 및 사용하고자 노력하고 있다.
UN, OECD 등 다양한 형태의 국제기구들도 AI 사용에 관한 원칙 등을 공개했으며, 각국은 자국의 AI 수용 및 활용, 국가간 활용 등에 대비한 자국의 전략·정책 문서들을 공개하고 있다. 반면, 사이버안보 규범에 대한 논의는 상대적으로 활발히 이루어지지는 않는 것으로 보인다. 사이버 규범 논의가 이미 30여년간 지속되었음에도 불구하고, 국제법 등 경성규범의 형태로 합의를 도출하지 못했으며, 비가시적인 사이버공간을 가시적 형태로 규범화시키는데 한계를 느끼고 있기 때문인 것으로 보여진다.
사이버 규범논의가 주춤해진 사이, 오히려 AI, 우주 등 타 과학기술분야 규범논의는 조금씩 활발해져 왔다. 이들은 모두 국가안보에 치명적 위해를 가할 수 있는 파괴적인 역량을 보유하고 있다는 공통점 외에도, IT에 기반한 사이버안보 및 보안의 요소가 필수적으로 요구된다는 점에서 또 다른 공통점을 갖고 있다. 이 점에서 파괴적 신기술로 일컬어지는 AI, 우주, 양자컴퓨터, 첨단바이오 산업 등은 사이버안보와 밀접한 연관을 갖고 있다.
정치적·군사적 역학에 대한 이해 없이 AI 기능을 통합하면 예상치 못한 결과를 초래할 수 있다. 정책결정자들은 AI 기능과 그 잠재적 영향에 대한 충분한 이해가 부족해 정보에 근거한 정책 결정 및 전략 계획을 세우지 못할 수 있다. AI는 국제 의제에서 매우 중요한 주제로 떠오르며 정치, 사회, 경제 전반에 걸쳐 많은 영향을 미치고 있다.
특히 AI 시스템은 방대한 양의 데이터를 처리한다. 이는 개인정보 보호와 데이터 보호와 관련된 우려를 불러일으킨다. 현재 AI의 안전성과 보안성 강화가 지속적으로 요구된다. 정부는 AI를 설계, 개발, 배포하는 과정에서 인권을 존중하도록 민간 부문을 독려해야 할 의무가 있다. AI 시스템 개발자들은 사용되는 데이터의 무결성을 보장하고, AI 애플리케이션에 개인정보 보호 및 데이터 보호 기능을 내재화해야 한다.
생성형 AI 기술은 사이버 공격 및 사이버 스파이 행위의 주요 표적이 될 수 있다. 이들의 훈련 데이터는 조작될 수 있으며, 사이버 취약성이 있는 기술 기반에서 실행된다. AI의 안전성과 보안성을 향상시키기 위해 1) 설계 단계에서의 안전성 강화를 위한 보안 설계, 2) 데이터 익명화 및 검즈, 암호화, 3) AI 모델 편향 제거, 성능 검증 및 보안테스트 실시 등이 요구된다. 이들은 기관별 보안정책으로 반영돼야 하며, 지속적으로 감시 및 모니터링 해야 된다.
역사적으로 기술 산업은 메모리 안전성 등 컴퓨터 보안 과학을 구현하는 데 실패했으며, 이는 지난 35년간 지속된 사이버 불안정성 위기에 크게 기여했다. 민간주도의 기술개발에 AI의 발전을 모두 일임하게 되면, 경쟁 압박과 이익에 비해 보안 및 안전에 대한 유인책이 약한 AI가 광범위하게 배치될 것이다. 이는 정보기술의 급속한 사용 확대시 보안을 고려하지 못했던 것과 유사한 실패로 이어질 수 있다. 정부는 AI와 관련된 실패와 재난에 대비해 예방, 완화 및 사고 대응을 위한 정책을 수립해야 한다.
사이버안보 규범논의와 유사하게 AI의 규범형성과 외교적 활동에 대해서 한국은 아직 많은 내부적 논의가 진행되지 않고 있다. 정책지향성 부재, 전문인력의 부족, 학제간 소통 및 문제의식 공유 부재, 정책결정 지원 가능한 생산의 한계, 국가 R&D와의 정합성 부족, 지속적 실행력 부재 등이 지속되고 있으며, 결국 발달하는 과학기술을 외교와 정책, 전략적 측면의 접점을 이해하고 풀어가는 데 아직 충분한 사유를 하지 못한 결과일 것이다. REAIM 및 AI 정상회의 등을 기반으로 한국내 전사회적인 접근이 가능할 수 있는 체계를 마련하고 이를 지속하면서, 논의 주제도 군사적 사용 외 민간 사용, 기술개발의 정책적 함의, 표준, 윤리 및 인권적 측면 등까지 포괄할 수 있도록 다양한 분야가 고려되어야 한다.
[글_ 국가안보전략연구원 김소정 연구위원]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김경애기자 기사보기
[2024-09-26] 
.jpg)
