.jpg)
인공지능의 안전한 개발을 위해 모두가 힘을 합하기로 결의했다. UN 회원국들의 이야기다. 이 약속 하나로 모든 게 바뀌지는 않겠지만, 중요한 변화의 시작점이 될 수는 있다.
[보안뉴스 문가용 기자] UN이 얼마 전 새로운 결의안을 채택했다. 인공지능이라는 기술을 책임감 있게 활용하자는 내용을 담고 있는 것으로, 인공지능을 활용한 보안 기술이나 정책, 전략 등에 어떤 영향을 미칠지 아직 예상하기 힘들다.
결의안의 초안은 미국이 주도적으로 작성했지만 120개국이 이를 후원했을 뿐만 아니라 투표를 하지도 않고 찬성했다. 문건은 총 8페이지로 구성되어 있는데, 유독 한 표현이 눈에 띈다. “안전하며 외부의 공격으로부터 보호되며, 신뢰할 만한 인공지능(safe, secure and trustworthy artificial intelligence)”이라는 문구인데, 8페이지에 걸쳐 총 24번 반복된다.
UN의 회원국들이 이처럼 적극적으로 여기에 동참했다는 것은 인공지능이라는 기술의 발전이 전 세계적인 불안감을 조성하고 있다는 사실을 드러낸다. 인공지능으로 더 진짜 같아진 가짜들 때문에 선거 캠페인이 조작되고, 인권이 침해되고, 각종 비방과 모함이 더 실질적으로 변하고 있다는 건 누구나 알고 있는 사실이다. 그럼에도 이런 인공지능의 악용을 막을 사회적 장치들이 없어 다들 전전긍긍한 상태였다.
보안 업체 앱옴니(AppOmni)의 수석 인공지능 엔지니어인 조셉 태커(Joseph Thacker)는 “인공지능에 대한 논의는 아직 더 깊고 길게 이어져야 하는데, 이번 UN의 결의안이 그런 긴 여정의 좋은 시작점이 될 수 있을 것으로 보인다”는 의견을 제시한다. “어찌됐든 ‘당신은 이렇게 저렇게 하기로 약속해놓고 지키지 않는다’는 불만을 제기할 근거는 마련됐으니까요.”
결의안에 담긴 내용
인공지능과 새로운 UN 결의안에는 어떤 내용이 담겼을까? 인공지능과 관련된 위협이 가장 직접적으로 언급된 곳은 6f라는 항목인데, 회원국들로 하여금 확실하고 안전한 인공지능 개발 및 활용 가이드라인을 개발하는 데 적극적인 투자를 하도록 촉구하고 있다. 각종 물리 보안 및 인공지능 시스템 보안, 리스크 관리 체계 등을 강화하라는 것이다. 그래야 인공지능의 생애주기 내내 안전을 보장할 수 있다는 게 결의안의 내용이다.
태커는 특히 “시스템 보안(system security)”이라는 용어에 주목하고 있다. “저는 개인적으로 이 용어가 마음에 듭니다. 결국 인공지능과 관련된 전체 개발 생애주기를 아우르는 것이기 때문입니다. 단순히 인공지능으로 인해 야기되는 안전 문제만을 다루겠다는 게 아니라 처음부터 끝까지를 다루겠다는 결의안의 의지가 엿보입니다.”
그 외에 개인정보를 지켜야 한다는 내용도 결의안에 담겨져 있다. 리스크 모니터링과 관리, 데이터 보안을 위한 메커니즘이 있어야 한다는 내용이 포함되어 있는데 여기서 말하는 ‘메커니즘’ 등에는 데이터 보호 및 프라이버시 보호를 위한 정책, 적절한 평가 및 관리 체계 등이 포함되어 있다고 태커는 설명한다. “인공지능을 실험하고 평가하고 구축하는 모든 것을 아우르는 정책과 체계여야 한다”고 결의안은 분명히 하고 있다.
태커는 “이번 결의안으로 세상이 바뀌지는 않을 것”이라고 말한다. “개발자들이나 인공지능 전문가들 모두 어제와 똑같은 방법으로 일하게 될 것입니다. 하지만 그렇다고 어제와 오늘이 똑같은 세상인 것은 아닙니다. 이제 우리에게는 가장 기초가 되는 표준의 초석이 있고, 인공지능이 위험할 수 있다는 기본적인 전제를 같이 가지고 있기 때문입니다. 이것만 해도 꽤나 큰 의미를 가지고 있다고 봅니다.”
정부들, 인공지능을 심각하게 여기다
이번 UN 결의안이 나오기 전까지 서방 국가들은 인공지능의 위험성을 계속해서 경고해 왔었다. 특히 백악관의 경우 지난 가을 긴급 행정명령까지 내려 인공지능 개발자들이 중요 안전 정보를 공유하도록 하고 취약점을 찾아 고치는 사이버 보안 프로그램을 새롭게 만들도록 했다. 여기서 말하는 취약점은 보안 업계에서 말하는 소프트웨어 취약점만을 말하는 게 아니라 인공지능 기술의 전반적인 악용 가능성을 말하는 것이라고 할 수 있다.
이 결의안이나 백악관의 행정명령, 얼마 전 유럽연합의 인공지능법까지 인공지능에 대한 규제는 착착 이뤄지고 있는 것처럼 보인다. 하지만 신설된 규제들이 실제 어떤 효과를 낼 수 있을 것인지는 아직 더 두고봐야 한다. 이제 막 초기 단계이기 때문이고, 규정들은 여러 번의 수정과 개정을 거쳐 온전해지기 때문이다. 따라서 이번에 연속해서 나오는 규제나 결의안들이 완성형이라고 생각하면 안 되고, 오히려 그것들을 어떻게 바꿔야 하는지 더 면밀히 지켜봐야 하는 책임이 업계 종사자들에게 남아있다.
태커는 "다음에 어떤 결의안이나 규제 혹은 표준이 나올지 모르지만, 내가 작업에 참여하게 된다면 교육에 대한 부분을 더 강조할 것”이라는 의견이다. “인공지능이라는 미지의 기술을 우리가 지금부터 다 규제할 수 있으리라고 보기는 힘듭니다. 앞으로 더 발전된 기술이 나올 것이고, 더 창의적인 활용 사례가 등장하겠고, 그러면서 생각지도 못한 악용 사례들도 나타날 겁니다. 그러면서 규제와 표준도 점점 바뀌어가야겠죠. 이런 흐름을 놓치지 않으려면 인공지능에 대한 교육이 끝없이 이뤄져야 합니다.”
3줄 요약
1. UN 회원국들의 열렬한 지지 아래 인공지능에 대한 결의안이 채택됨.
2. 안전하고 믿을 수 있는 인공지능 개발에 적극적으로 투자하기로 결정.
3. 이것만으로 인공지능의 미래가 결정된 건 아니지만, 중요한 첫 걸음.
[국제부 문가용 기자(globoan@boannews.com)]
[보안뉴스 문가용 기자] UN이 얼마 전 새로운 결의안을 채택했다. 인공지능이라는 기술을 책임감 있게 활용하자는 내용을 담고 있는 것으로, 인공지능을 활용한 보안 기술이나 정책, 전략 등에 어떤 영향을 미칠지 아직 예상하기 힘들다.
[이미지 = gettyimagesbank]
결의안의 초안은 미국이 주도적으로 작성했지만 120개국이 이를 후원했을 뿐만 아니라 투표를 하지도 않고 찬성했다. 문건은 총 8페이지로 구성되어 있는데, 유독 한 표현이 눈에 띈다. “안전하며 외부의 공격으로부터 보호되며, 신뢰할 만한 인공지능(safe, secure and trustworthy artificial intelligence)”이라는 문구인데, 8페이지에 걸쳐 총 24번 반복된다.
UN의 회원국들이 이처럼 적극적으로 여기에 동참했다는 것은 인공지능이라는 기술의 발전이 전 세계적인 불안감을 조성하고 있다는 사실을 드러낸다. 인공지능으로 더 진짜 같아진 가짜들 때문에 선거 캠페인이 조작되고, 인권이 침해되고, 각종 비방과 모함이 더 실질적으로 변하고 있다는 건 누구나 알고 있는 사실이다. 그럼에도 이런 인공지능의 악용을 막을 사회적 장치들이 없어 다들 전전긍긍한 상태였다.
보안 업체 앱옴니(AppOmni)의 수석 인공지능 엔지니어인 조셉 태커(Joseph Thacker)는 “인공지능에 대한 논의는 아직 더 깊고 길게 이어져야 하는데, 이번 UN의 결의안이 그런 긴 여정의 좋은 시작점이 될 수 있을 것으로 보인다”는 의견을 제시한다. “어찌됐든 ‘당신은 이렇게 저렇게 하기로 약속해놓고 지키지 않는다’는 불만을 제기할 근거는 마련됐으니까요.”
결의안에 담긴 내용
인공지능과 새로운 UN 결의안에는 어떤 내용이 담겼을까? 인공지능과 관련된 위협이 가장 직접적으로 언급된 곳은 6f라는 항목인데, 회원국들로 하여금 확실하고 안전한 인공지능 개발 및 활용 가이드라인을 개발하는 데 적극적인 투자를 하도록 촉구하고 있다. 각종 물리 보안 및 인공지능 시스템 보안, 리스크 관리 체계 등을 강화하라는 것이다. 그래야 인공지능의 생애주기 내내 안전을 보장할 수 있다는 게 결의안의 내용이다.
태커는 특히 “시스템 보안(system security)”이라는 용어에 주목하고 있다. “저는 개인적으로 이 용어가 마음에 듭니다. 결국 인공지능과 관련된 전체 개발 생애주기를 아우르는 것이기 때문입니다. 단순히 인공지능으로 인해 야기되는 안전 문제만을 다루겠다는 게 아니라 처음부터 끝까지를 다루겠다는 결의안의 의지가 엿보입니다.”
그 외에 개인정보를 지켜야 한다는 내용도 결의안에 담겨져 있다. 리스크 모니터링과 관리, 데이터 보안을 위한 메커니즘이 있어야 한다는 내용이 포함되어 있는데 여기서 말하는 ‘메커니즘’ 등에는 데이터 보호 및 프라이버시 보호를 위한 정책, 적절한 평가 및 관리 체계 등이 포함되어 있다고 태커는 설명한다. “인공지능을 실험하고 평가하고 구축하는 모든 것을 아우르는 정책과 체계여야 한다”고 결의안은 분명히 하고 있다.
태커는 “이번 결의안으로 세상이 바뀌지는 않을 것”이라고 말한다. “개발자들이나 인공지능 전문가들 모두 어제와 똑같은 방법으로 일하게 될 것입니다. 하지만 그렇다고 어제와 오늘이 똑같은 세상인 것은 아닙니다. 이제 우리에게는 가장 기초가 되는 표준의 초석이 있고, 인공지능이 위험할 수 있다는 기본적인 전제를 같이 가지고 있기 때문입니다. 이것만 해도 꽤나 큰 의미를 가지고 있다고 봅니다.”
정부들, 인공지능을 심각하게 여기다
이번 UN 결의안이 나오기 전까지 서방 국가들은 인공지능의 위험성을 계속해서 경고해 왔었다. 특히 백악관의 경우 지난 가을 긴급 행정명령까지 내려 인공지능 개발자들이 중요 안전 정보를 공유하도록 하고 취약점을 찾아 고치는 사이버 보안 프로그램을 새롭게 만들도록 했다. 여기서 말하는 취약점은 보안 업계에서 말하는 소프트웨어 취약점만을 말하는 게 아니라 인공지능 기술의 전반적인 악용 가능성을 말하는 것이라고 할 수 있다.
이 결의안이나 백악관의 행정명령, 얼마 전 유럽연합의 인공지능법까지 인공지능에 대한 규제는 착착 이뤄지고 있는 것처럼 보인다. 하지만 신설된 규제들이 실제 어떤 효과를 낼 수 있을 것인지는 아직 더 두고봐야 한다. 이제 막 초기 단계이기 때문이고, 규정들은 여러 번의 수정과 개정을 거쳐 온전해지기 때문이다. 따라서 이번에 연속해서 나오는 규제나 결의안들이 완성형이라고 생각하면 안 되고, 오히려 그것들을 어떻게 바꿔야 하는지 더 면밀히 지켜봐야 하는 책임이 업계 종사자들에게 남아있다.
태커는 "다음에 어떤 결의안이나 규제 혹은 표준이 나올지 모르지만, 내가 작업에 참여하게 된다면 교육에 대한 부분을 더 강조할 것”이라는 의견이다. “인공지능이라는 미지의 기술을 우리가 지금부터 다 규제할 수 있으리라고 보기는 힘듭니다. 앞으로 더 발전된 기술이 나올 것이고, 더 창의적인 활용 사례가 등장하겠고, 그러면서 생각지도 못한 악용 사례들도 나타날 겁니다. 그러면서 규제와 표준도 점점 바뀌어가야겠죠. 이런 흐름을 놓치지 않으려면 인공지능에 대한 교육이 끝없이 이뤄져야 합니다.”
3줄 요약
1. UN 회원국들의 열렬한 지지 아래 인공지능에 대한 결의안이 채택됨.
2. 안전하고 믿을 수 있는 인공지능 개발에 적극적으로 투자하기로 결정.
3. 이것만으로 인공지능의 미래가 결정된 건 아니지만, 중요한 첫 걸음.
[국제부 문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-04-24] _m.jpg)
.jpg)
.jpg)
