.jpg)
UN은 인공지능을 규제해야 한다는 쪽에 무게를 실었다. 그러면서 거버넌스의 최종 버전을 공개했다. 강제력은 없지만, 앞으로 인공지능을 발전시키는 데 있어 누구나 염두에 두어야 할 UN의 철학이 구체적으로 담겨져 있다.
[보안뉴스 문정후 기자] 인공지능을 둘러싸고 첨예한 논란이 이어지고 있다. 인공지능은 인류를 위협할 위험한 기술이기 때문에 더 발전하기 전에 미리 안전선을 그어두고 그 안에서 연구와 개발 행위가 이어질 수 있도록 해야 한다는 주장과, 기술 자체에 대한 이해도를 높이지 않은 채 위험성에 대한 염려를 바탕으로 접근하면 발전을 저해한다는 주장이 맞서는 것이다. 하지만 저울추는 조금씩 거버넌스와 규제가 필요하다는 쪽으로 기울고 있다. 그 증거로 UN은 ‘인류를 위한 인공지능 거버넌스’ 라는 문건의 최종 버전을 발표하기도 했다.
UN은 서두에 인공지능의 잠재력을 인정하는 것부터 시작한다. “인공지능은 세계를 변화시키고 있습니다. 인공지능 때문에 새로운 과학 탐구의 방법이 만들어지고, 에너지망의 효율성이 높아지며, 공공 보건과 농업 활동이 개선되고 있습니다. 지속가능성이라는 기치 아래에 수립된 여러 목표들을 달성하는 데에도 인공지능이 적잖은 역할을 담당합니다.” 하지만 이런 잠재력이 제대로 발휘되려면 거버넌스가 필요하다는 게 UN의 주장이다. “인공지능이 알아서 발전하도록 방치한다면, 인공지능의 잠재력은 제대로 발현되지 않을 겁니다.”
발전을 제대로 하지 못한다는 것 외에, 지금 인공지능 기술 그 자체로도 위협이 될 수 있음을 UN은 계속해서 지적한다. “인공지능은 또 다른 위험을 초래하기도 합니다. 인공지능은 아직 편향성을 내포하고 있는 것은 물론 대형 언어 모델은 허위 정보를 생성하기도 합니다. 인공지능으로 만든 허위 정보는 지금도 꾸준히 유포되고 있으며, 이는 안전에 대한 위협이 됩니다. 여기에 더해 인공지능 시스템의 에너지 소비 문제도 새로운 우려거리로 떠오르고 있습니다.”
하지만 인공지능과 관련된 거버넌스는 존재하지 않는다고 해도 과언이 아니다. 각 지역별, 산업별, 기업별로는 비슷한 것이 있을지 모르겠지만 세계 전체에 일관되게 적용될 표준 같은 건 없다. “논의는 활발히 이뤄지고 있지요. 하지만 그것뿐입니다. 규범과 제도의 틀은 아직 미성숙합니다. 그나마 있는 규정이라는 것도 자발적 참여라는 제한을 가지고 있고요. 인공지능이 특정한 답을 내기까지의 과정을 설명조차 하지 못한다는 것도 큰 문제로 남아 있습니다.”
글로벌 거버넌스, 정말 필요한가?
이런 상황에서 UN은 인공지능과 관련된 글로벌 거버넌스의 필요성을 설득하기 위해 꽤나 많은 분량을 할애했다. “현재 인공지능은 전 세계적으로 빠르게 퍼지고 있습니다. 이는 다양한 애플리케이션의 탄생으로 이어지고도 있습니다. 하지만 그럴수록 권력과 부의 불평등한 집중이 초래되고 있으며, 이는 지정학적으로나 경제학적인 위험성을 내포하고 있습니다. 이 문제를 그대로 방치할 경우 우리는 또 다른 차원의 갈등을 마주하게 될 것입니다.”
기술적으로 미완성이라는 점도 지적되고 있다. “현재 인공지능 내부의 작동 방식을 이해하거나 설명하거나 예측하거나 제어할 수 있는 사람은 없습니다. 인공지능 개발자들은 이런 상황에서 계속해서 인공지능을 발전시키고 있는데, 이는 인공지능으로 야기되는 결과에 책임을 지지 않겠다는 뜻이나 다름이 없습니다. 여기서부터 발생하는 부정적인 파급 효과는 장기적인 영향을 미칠 것이 분명합니다. 이를 시장의 자율성에 맡겨 해결할 수는 없습니다.”
이러한 사회적, 기술적 문제는 이미 인공지능 분야에서 활발히 논의되고 있다. 수백 개의 가이드와 프레임워크, 원칙들이 나오고 있기도 하다. 이런 문건들을 만드는 데 참여하는 건 민간 전문가들뿐만 아니라 각국 정부 기관과 컨소시엄, 국제 기관들까지 다양하다. “이러한 노력이 가지는 의미는 분명합니다. 하지만 각자의 사정에 맞춰 이뤄지고 있기 때문에 인공지능 거버넌스의 수준에까지 이르고 있는 건 아닙니다. 그러므로 문제가 발생했을 때 책임 소재가 불분명해지고, 따라서 개선과 수정을 이끌어갈 구심점이 부재하게 됩니다. 합의된 방향으로의 일관성 있는 발전이 불가능하게 되지요.”
UN은 보고서를 통해 인공지능 거버넌스라는 건 그 특성상 전 세계를 포괄해야 효과적이라고 주장한다. “왜냐하면 통일된 거버넌스가 수립되지 않고 지금처럼 각자가 알아서 관리하는 체제로 나아간다면 결국 인공지능 기술을 보유한 국가들 간의 군비 경쟁으로 귀결될 것이기 때문입니다. 경쟁 체제로 돌입하면 안전선을 정해두고 그 안에서 발전을 꾀한다는 개념은 사라질 수밖에 없습니다. 인공지능은 국경을 초월한 기술이며, 따라서 모두가 국가적 이득과 입장을 넘어선 상태에서 인공지능을 다뤄야 할 것입니다.”
첫 번째 제안
이런 맥락에서 UN은 첫 번째 제안을 내놓기에 이른다. 바로 ‘국제 인공지능 과학 패널’을 설립하는 것이다. “이미 UN은 기후 변화에 대비한 정부 간 패널인 IPCC나 원자력 방사선의 영향력을 연구하는 과학위원회를 창설하여 운영하고 있습니다. 이와 같은 선례를 참고하여 국제적이고 다학제적인 인공지능 과학 패널을 구성하여 이 분야의 연구를 이끌어갈 필요가 있습니다. 여기서 나온 결과를 가지고 정책 입안자들과 회원국 등이 인공지능에 관한 공통된 관점을 얻을 수 있으면 글로벌 거버넌스를 구축하는 데 큰 도움이 될 것입니다.”
이 부분에 대한 UN의 제안문은 다음과 같다.
“우리는 독립적인 국제 인공지능 과학 패널을 구성할 것을 권장한다. 이 패널은 다양한 분야의 전문가들로 구성되며, 개인 자격으로 참여한다. UN 인공지능 사무국과 다른 유관 기관들이 지원하며, 관련 국제 기구들과 협력하여 다음과 같은 임무를 수행할 것이다.
a) 인공지능 관련 기술 역량, 기회, 위험 및 불확실성을 조사하는 연례 보고서를 발행하고, 기술 동향에 대한 과학적 합의 영역과 추가 연구가 필요한 분야를 파악한다.
b) 인공지능이 지속 가능 발전 목표(SDGs) 달성에 기여할 수 있도록 분기별로 연구를 진행해 요약문을 발표하며, 특히 공공의 이익을 위해 잘 다루어지지 않은 분야에 초점을 맞춘다.
c) 새로운 위험의 출현 또는 거버넌스 체제의 중요한 격차와 같은 긴급 사안에 대한 보고서를 수시로 발행한다.
두 번째 제안
하지만 UN의 단체 하나가 인공지능과 관련된 모든 것을 홀로 관장할 수는 없다. 오히려 이 패널에 소속되지 않은 더 많은 사람들이 인공지능을 주제로 한 대화에 참여하여야 UN의 인공지능 과학 패널에 힘이 실린다. “그래야 패널이 마련한 거버넌스를 각국, 각 지역에서 실제로 운영할 수 있게 되거든요. 누군가 전달한 거버넌스만으로는 아무 변화도 일어나지 않습니다. 그걸 가지고 실제 운영에까지 이르러야 의미가 있게 되는데, 그러려면 우리 모두가 대화할 수 있어야 합니다. 그렇지 않으면 거버넌스는 곧 강력한 규제로밖에 도입될 수 없습니다.”
UN은 이번 보고서를 통해 모든 회원국이 전문가들의 전문성을 바탕으로 인권을 존중하고 발전을 촉진하는 최선의 실천 사례를 수립 및 공유할 수 있어야 한다고 강조한다. “거버넌스에 어떻게 접근해야 하는지, 추가적으로 고려해야 할 것이 무엇인지, 혹은 빼야 할 것이 무엇인지는 서류를 통해 공유할 수가 없습니다. 대화를 해야 하죠. 포럼이 있어야 합니다.”
UN은 매년 뉴욕에서 열리는 UN총회와 제네바 회의의 ‘부속 회의’ 형태로 이 대화를 시작할 수 있을 것이라고 제안한다. “기존 인공지능 관련 기관들의 역량을 넘어서는 인공지능 사건에 대한 정보를 공유하는 적절한 포럼이 될 수 있습니다. 어떤 대화 세션은 국가적 접근 방식에 초점을 맞추고, 또 다른 대화 세션은 기술에 초점을 맞추고, 또 다른 세션은 사회적 입장에 초점을 맞추는 등으로 다각도로 접근할 필요가 있습니다. 인공지능은 다양한 사람을 포괄하기 때문에 여러 사람들이 대화에 참여할 수 있도록 해야 합니다.”
이 부분에 대한 UN의 제안문은 다음과 같다.
인공지능 거버넌스에 대한 정부 간 및 다중 이해 관계자 간 정책 대화를 UN의 기존 회의에서 연 2회 개최할 것을 권고한다. 이 대화의 목적은 다음과 같다:
a) 모든 인권을 존중, 보호하고 충족시키면서 발전을 촉진하는 AI 거버넌스 모범 사례를 공유하고, 기회를 추구하며 위험을 관리하는 방안을 논의한다.
b) 민간 및 공공 부문 AI 개발자와 사용자가 AI 거버넌스 조치를 실행하는 데 있어 국제 상호운용성을 높이기 위한 공동 이해를 증진한다.
c) 국가 기관의 대응 능력을 넘어서는 중요한 AI 사건들을 자발적으로 공유한다.
d) 국제 AI 과학 패널의 보고서를 적절히 논의한다.
세 번째 제안
대화는 모호한 느낌을 가지고서 이뤄갈 수 없다. 각자의 표준만을 가지고도 의미 있는 대화는 이뤄지기 힘들다. 그렇기에 UN은 인공지능 연구와 제어와 관련된 여러 가지 내용들을 측정하고 정량화 할 표준을 마련하고 정착시켜야 한다고 제안한다. “지금도 많은 단체들이 표준을 제안하고 있습니다. IEEE, ITU, ISO, IEC 등이 이런 노력들에 앞장서고 있죠. 하지만 이러한 표준화 기구 간에 공통된 언어가 없다는 게 문제입니다. 그럴 수밖에 없는 게 인공지능과 관련된 공정성, 안전성, 투명성과 같은 용어들에 대한 정의가 합의되지 않았기 때문입니다. 해결이 시급합니다.”
이 부분에 대한 UN의 제안문은 다음과 같다.
우리는 인공지능 표준 교환 시스템을 구축할 것을 권고한다. 이 시스템은 국가 및 국제 표준 개발 기구의 대표자들, 기술 기업, 시민 사회, 그리고 국제 과학 패널의 회원들을 포함하며, 다음과 같은 임무를 맡는다:
a) 인공지능 시스템을 평가하고 측정하는 데 필요한 정의와 적용 가능한 표준의 목록을 개발하고 유지한다.
b) 표준은 물론 그 표준을 만드는 과정에 대해 토론하고 평가한다.
c) 새로운 표준이 필요한 곳을 파악해내고, 적절한 표준을 마련한다.
네 번째 제안
거버넌스를 마련하고 대화를 이어가고 표준을 개발하는 데에는 분명한 목표가 있어야 한다. 하나된 목표를 향해 나아가야 흩어진 마음들이 모이고, 이야기가 진행될 수 있다. UN의 경우 인공지능이라는 기술이 지속 가능 발전 목표(SDG) 달성에 기여할 수 있도록 목표를 설정해야 한다고 주장한다. 그렇지 않으면 인공지능이 오히려 불평등과 편견을 강화하는 데 이바지할 것이라고 한다.
“인공지능 기술에 대한 수요가 각계각층에서 증가하고 있습니다. 문제는 인공지능을 다룰 수 있는 기술력을 보유한 인재가 얼마 없다는 겁니다. 그렇기 때문에 많은 대가를 지불할 수 있는 단체들이 인공지능 기술을 독식하고 있고, 그러면서 불공정이 빠르게 퍼지고 있습니다. 따라서 인공지능 인재들을 육성하고, 역량을 강화시키는 작업이 전 세계적으로 진행되어야 합니다. 그래서 더 많은 사람들이 인공지능 발전에 참여할 수 있도록 해야 불공정이 완화될 것입니다.”
이 부분에 대한 UN의 제안문은 다음과 같다.
인공지능 역량 개발을 촉진하기 위해 UN과 연계된 협력 네트워크를 구축할 것을 권고한다. 이 네트워크는 주요 이해 관계자에게 인공지능 전문 지식, 컴퓨팅 자원, 인공지능 훈련 데이터를 제공하며, 그 목적은 다음과 같다:
a) 지역 및 글로벌 인공지능 역량 개발 노력을 촉진하고 네트워크 간 협력을 지원한다.
b) 공공 기관 관계자의 인공지능 거버넌스 역량을 강화하여 인권 존중, 보호 및 충족을 도모하면서 발전을 촉진한다.
c) 연구자와 사회적 기업가들이 인공지능을 지역 공공 이익에 맞게 적용할 수 있도록 다양한 센터에서 트레이너, 컴퓨팅 자원 및 인공지능 훈련 데이터를 제공한다. 이를 위해 다음과 같은 프로그램을 제안한다:
i) 컴퓨팅 자원이 부족한 환경의 연구팀과 기업가들이 인공지능 모델을 훈련 및 적용할 수 있도록 컴퓨팅 자원 접근 프로토콜을 마련한다.
ii) 인공지능 솔루션을 테스트하고 학습할 수 있는 샌드박스 환경을 제공한다.
iii) 대학생, 젊은 연구자, 사회적 기업가 및 공공 부문 관계자를 대상으로 한 온라인 인공지능 교육 기회를 마련한다.
iv) 유망한 인재들이 학술 기관이나 기술 기업에서 경험을 쌓을 수 있도록 펠로우십 프로그램을 운영한다.
다섯 번째 제안
많은 국가가 인공지능을 적절하고 효과적으로 활용하는 데 필요한 재정적, 자원적 제약에 직면해 있다. 위에 언급된 역량 개발 노력이 진행되더라도, 일부 국가들은 여전히 국제적인 지원 없이는 인공지능 훈련, 컴퓨팅 자원, 모델 및 데이터를 충분히 확보하지 못할 수 있다. 이에 따라 추가적인 국제적 지원과 협력이 필요하다.
이 부분에 대한 UN의 제안문은 다음과 같다.
우리는 인공지능 격차를 줄이기 위한 글로벌 인공지능 펀드의 설립을 권고한다. 이 펀드는 독립적인 관리 구조에 의해 운영되며, 공공 및 민간 부문에서 재정적, 현물 기여를 받아 이를 역량 개발 네트워크를 통해 분배할 것이다. 펀드의 목적은 다음과 같다:
a) 인공지능 개발자가 충분한 지역 자원이나 컴퓨팅 능력을 갖추지 못한 국가에서도 모델 훈련 및 미세 조정을 위한 컴퓨팅 자원을 공유할 수 있도록 한다.
b) 안전하고 신뢰할 수 있는 모델 개발과 데이터 거버넌스의 모범 사례를 주류화하기 위한 샌드박스 및 벤치마킹 도구를 제공한다.
c) 글로벌 적용성을 가진 거버넌스, 안전성 및 상호운용성 솔루션을 마련한다.
d) 데이터 세트와 SDG 관련 프로젝트를 위한 데이터와 모델을 결합하는 연구를 지원한다.
e) SDG를 위한 인공지능 모델 및 선별된 데이터 세트를 제공하는 저장소를 구축한다.
여섯 번째 제안
인공지능이라는 기술은 방대한 양의 데이터를 기반으로 한다. 그렇다는 건 인공지능 기술을 공평하게 배분하는 것만큼 데이터에 공평하게 접근할 수 있게 하는 것이 중요하다는 의미가 된다. “데이터가 부족한 국가나 지역, 공동체, 기업이라면 인공지능 기술을 활용하는 데 있어 불공평한 불편함이 있을 수밖에 없습니다. 그러므로 국제적인 차원에서의 데이터 관리 체계가 필요합니다. 다만 모든 걸 똑같이 퍼주는 게 아니라 데이터 생성과 마련, 확보와 관리에 있어서 선의의 경쟁을 할 수 있도록 해야 할 것입니다.”
이 부분에 대한 UN의 제안문은 다음과 같다.
우리는 UN국제무역법위원회와 같은 관련 기관이 주도하는 글로벌 인공지능 데이터 프레임워크 구축을 권고합니다. 이 프레임워크는 다음과 같은 목표를 포함할 것입니다:
1. 인공지능 학습 데이터의 글로벌 관리 원칙 및 정의 정립.
2. 데이터 출처 및 사용에 관한 공통 기준 수립.
3. 지역 인공지능 생태계를 활성화하기 위한 데이터 관리 및 교환 메커니즘 설립:
- 데이터 신탁 제도.
- 익명화된 데이터 교환을 위한 글로벌 시장.
- 국제 데이터 접근 및 상호운용성을 촉진하기 위한 협약.
일곱 번째 제안
마지막으로 UN은 “효과적이고 공정한 인공지능 거버넌스를 위해서는 UN 내 인공지능 관련 조율 기구가 있어야 한다”고 주장한다. “UN 내 각 기관들과 협력하며, 빠르게 변화하는 AI 기술에 대응할 수 있는 민첩한 조직이 되어야 할 것입니다. 인권고등판무관사무소(OHCHR), 유네스코, UN무역개발회의(UNCTAD) 등 다양한 전문 기관에서 인력을 파견 받아 구성할 수 있을 것으로 보고 있으며, 각계 각층의 기업과 단체, 학계의 협력도 필수적일 것입니다.”
이 부분에 대한 UN의 제안문은 다음과 같다.
우리는 UN 사무국 내에 인공지능 사무소를 설치할 것을 권고합니다. 이 사무소는 사무총장에게 보고하며, 조직은 가볍고 민첩하게 운영되도록 하고, 가능한 기존 UN 기구들을 활용해야 합니다. 이 사무소는 본 보고서의 제안들을 지원하고 촉진하는 역할을 하며, 다른 과정 및 기관들과 협력할 것입니다. 주요 임무는 다음과 같습니다.
a) 제안된 국제 과학 패널, 정책 대화, 표준 교환, 역량 개발 네트워크, 그리고 필요하다면 글로벌 펀드 및 글로벌 인공지능 데이터 프레임워크에 대한 지원 제공.
b) 기술 기업, 시민 사회, 학계를 포함한 다양한 이해 관계자들과 인공지능 관련 새로운 문제에 대해 소통.
c) 인공지능 관련 사안에 대해 사무총장에게 조언하고, UN 내 관련 기관들과 협력하여 UN 전체 차원의 대응을 조율.
끝으로
UN은 인공지능에 대한 논의가 극단적으로 나뉘는 것을 견해한다고 쓰기도 했다. “이 보고서를 작성하는 과정에서 무한한 혜택을 기대하는 사람들도 만나고 종말과 같은 어두운 미래를 우려하는 이들도 만났습니다. 하지만 인공지능이 유토피아를 가져올지, 디스토피아를 가져올지, 아니면 그 무엇도 아닌 다른 것인지 아무도 알 수 없습니다. 분명한 건 이러한 이분법적 논의를 넘어서야만 인공지능이 바람직한 방향으로 발전할 수 있다는 겁니다. 양쪽 모두를 염두에 둔 채 과학적 근거와 사실에 기반하여 인공지능을 다듬어가야 하는 게 우리의 몫입니다.”
그러면서 UN은 거대한 전쟁이 UN을 탄생시켰다는 것을 상기시키기도 했다. “과거 세계 대전들이 현대의 국제 시스템을 낳았습니다. 그 국제 시스템 덕에 화학 무기와 생물학 무기, 핵 무기의 확산이 제한됐고 평화적인 촉진이 이뤄졌습니다. 인류의 공통된 가치를 깨닫게 하고, 현대의 인권 시스템의 기틀을 마련하고 있기도 합니다. 지금은 SDG와 같은 새로운 목표를 설정해 나아가고 있지요. 인공지능이라는 기술 역시 이러한 과정을 거쳐 인류를 위한 기술로 거듭날 수 있을 것입니다.”
[국제부 문정후 기자(globoan@boannews.com)]
[보안뉴스 문정후 기자] 인공지능을 둘러싸고 첨예한 논란이 이어지고 있다. 인공지능은 인류를 위협할 위험한 기술이기 때문에 더 발전하기 전에 미리 안전선을 그어두고 그 안에서 연구와 개발 행위가 이어질 수 있도록 해야 한다는 주장과, 기술 자체에 대한 이해도를 높이지 않은 채 위험성에 대한 염려를 바탕으로 접근하면 발전을 저해한다는 주장이 맞서는 것이다. 하지만 저울추는 조금씩 거버넌스와 규제가 필요하다는 쪽으로 기울고 있다. 그 증거로 UN은 ‘인류를 위한 인공지능 거버넌스’ 라는 문건의 최종 버전을 발표하기도 했다.
[이미지 = gettyimagesbank]
UN은 서두에 인공지능의 잠재력을 인정하는 것부터 시작한다. “인공지능은 세계를 변화시키고 있습니다. 인공지능 때문에 새로운 과학 탐구의 방법이 만들어지고, 에너지망의 효율성이 높아지며, 공공 보건과 농업 활동이 개선되고 있습니다. 지속가능성이라는 기치 아래에 수립된 여러 목표들을 달성하는 데에도 인공지능이 적잖은 역할을 담당합니다.” 하지만 이런 잠재력이 제대로 발휘되려면 거버넌스가 필요하다는 게 UN의 주장이다. “인공지능이 알아서 발전하도록 방치한다면, 인공지능의 잠재력은 제대로 발현되지 않을 겁니다.”
발전을 제대로 하지 못한다는 것 외에, 지금 인공지능 기술 그 자체로도 위협이 될 수 있음을 UN은 계속해서 지적한다. “인공지능은 또 다른 위험을 초래하기도 합니다. 인공지능은 아직 편향성을 내포하고 있는 것은 물론 대형 언어 모델은 허위 정보를 생성하기도 합니다. 인공지능으로 만든 허위 정보는 지금도 꾸준히 유포되고 있으며, 이는 안전에 대한 위협이 됩니다. 여기에 더해 인공지능 시스템의 에너지 소비 문제도 새로운 우려거리로 떠오르고 있습니다.”
하지만 인공지능과 관련된 거버넌스는 존재하지 않는다고 해도 과언이 아니다. 각 지역별, 산업별, 기업별로는 비슷한 것이 있을지 모르겠지만 세계 전체에 일관되게 적용될 표준 같은 건 없다. “논의는 활발히 이뤄지고 있지요. 하지만 그것뿐입니다. 규범과 제도의 틀은 아직 미성숙합니다. 그나마 있는 규정이라는 것도 자발적 참여라는 제한을 가지고 있고요. 인공지능이 특정한 답을 내기까지의 과정을 설명조차 하지 못한다는 것도 큰 문제로 남아 있습니다.”
글로벌 거버넌스, 정말 필요한가?
이런 상황에서 UN은 인공지능과 관련된 글로벌 거버넌스의 필요성을 설득하기 위해 꽤나 많은 분량을 할애했다. “현재 인공지능은 전 세계적으로 빠르게 퍼지고 있습니다. 이는 다양한 애플리케이션의 탄생으로 이어지고도 있습니다. 하지만 그럴수록 권력과 부의 불평등한 집중이 초래되고 있으며, 이는 지정학적으로나 경제학적인 위험성을 내포하고 있습니다. 이 문제를 그대로 방치할 경우 우리는 또 다른 차원의 갈등을 마주하게 될 것입니다.”
[이미지 = gettyimagesbank]
기술적으로 미완성이라는 점도 지적되고 있다. “현재 인공지능 내부의 작동 방식을 이해하거나 설명하거나 예측하거나 제어할 수 있는 사람은 없습니다. 인공지능 개발자들은 이런 상황에서 계속해서 인공지능을 발전시키고 있는데, 이는 인공지능으로 야기되는 결과에 책임을 지지 않겠다는 뜻이나 다름이 없습니다. 여기서부터 발생하는 부정적인 파급 효과는 장기적인 영향을 미칠 것이 분명합니다. 이를 시장의 자율성에 맡겨 해결할 수는 없습니다.”
이러한 사회적, 기술적 문제는 이미 인공지능 분야에서 활발히 논의되고 있다. 수백 개의 가이드와 프레임워크, 원칙들이 나오고 있기도 하다. 이런 문건들을 만드는 데 참여하는 건 민간 전문가들뿐만 아니라 각국 정부 기관과 컨소시엄, 국제 기관들까지 다양하다. “이러한 노력이 가지는 의미는 분명합니다. 하지만 각자의 사정에 맞춰 이뤄지고 있기 때문에 인공지능 거버넌스의 수준에까지 이르고 있는 건 아닙니다. 그러므로 문제가 발생했을 때 책임 소재가 불분명해지고, 따라서 개선과 수정을 이끌어갈 구심점이 부재하게 됩니다. 합의된 방향으로의 일관성 있는 발전이 불가능하게 되지요.”
UN은 보고서를 통해 인공지능 거버넌스라는 건 그 특성상 전 세계를 포괄해야 효과적이라고 주장한다. “왜냐하면 통일된 거버넌스가 수립되지 않고 지금처럼 각자가 알아서 관리하는 체제로 나아간다면 결국 인공지능 기술을 보유한 국가들 간의 군비 경쟁으로 귀결될 것이기 때문입니다. 경쟁 체제로 돌입하면 안전선을 정해두고 그 안에서 발전을 꾀한다는 개념은 사라질 수밖에 없습니다. 인공지능은 국경을 초월한 기술이며, 따라서 모두가 국가적 이득과 입장을 넘어선 상태에서 인공지능을 다뤄야 할 것입니다.”
첫 번째 제안
이런 맥락에서 UN은 첫 번째 제안을 내놓기에 이른다. 바로 ‘국제 인공지능 과학 패널’을 설립하는 것이다. “이미 UN은 기후 변화에 대비한 정부 간 패널인 IPCC나 원자력 방사선의 영향력을 연구하는 과학위원회를 창설하여 운영하고 있습니다. 이와 같은 선례를 참고하여 국제적이고 다학제적인 인공지능 과학 패널을 구성하여 이 분야의 연구를 이끌어갈 필요가 있습니다. 여기서 나온 결과를 가지고 정책 입안자들과 회원국 등이 인공지능에 관한 공통된 관점을 얻을 수 있으면 글로벌 거버넌스를 구축하는 데 큰 도움이 될 것입니다.”
[이미지 = gettyimagesbank]
이 부분에 대한 UN의 제안문은 다음과 같다.
“우리는 독립적인 국제 인공지능 과학 패널을 구성할 것을 권장한다. 이 패널은 다양한 분야의 전문가들로 구성되며, 개인 자격으로 참여한다. UN 인공지능 사무국과 다른 유관 기관들이 지원하며, 관련 국제 기구들과 협력하여 다음과 같은 임무를 수행할 것이다.
a) 인공지능 관련 기술 역량, 기회, 위험 및 불확실성을 조사하는 연례 보고서를 발행하고, 기술 동향에 대한 과학적 합의 영역과 추가 연구가 필요한 분야를 파악한다.
b) 인공지능이 지속 가능 발전 목표(SDGs) 달성에 기여할 수 있도록 분기별로 연구를 진행해 요약문을 발표하며, 특히 공공의 이익을 위해 잘 다루어지지 않은 분야에 초점을 맞춘다.
c) 새로운 위험의 출현 또는 거버넌스 체제의 중요한 격차와 같은 긴급 사안에 대한 보고서를 수시로 발행한다.
두 번째 제안
하지만 UN의 단체 하나가 인공지능과 관련된 모든 것을 홀로 관장할 수는 없다. 오히려 이 패널에 소속되지 않은 더 많은 사람들이 인공지능을 주제로 한 대화에 참여하여야 UN의 인공지능 과학 패널에 힘이 실린다. “그래야 패널이 마련한 거버넌스를 각국, 각 지역에서 실제로 운영할 수 있게 되거든요. 누군가 전달한 거버넌스만으로는 아무 변화도 일어나지 않습니다. 그걸 가지고 실제 운영에까지 이르러야 의미가 있게 되는데, 그러려면 우리 모두가 대화할 수 있어야 합니다. 그렇지 않으면 거버넌스는 곧 강력한 규제로밖에 도입될 수 없습니다.”
[이미지 = gettyimagesbank]
UN은 이번 보고서를 통해 모든 회원국이 전문가들의 전문성을 바탕으로 인권을 존중하고 발전을 촉진하는 최선의 실천 사례를 수립 및 공유할 수 있어야 한다고 강조한다. “거버넌스에 어떻게 접근해야 하는지, 추가적으로 고려해야 할 것이 무엇인지, 혹은 빼야 할 것이 무엇인지는 서류를 통해 공유할 수가 없습니다. 대화를 해야 하죠. 포럼이 있어야 합니다.”
UN은 매년 뉴욕에서 열리는 UN총회와 제네바 회의의 ‘부속 회의’ 형태로 이 대화를 시작할 수 있을 것이라고 제안한다. “기존 인공지능 관련 기관들의 역량을 넘어서는 인공지능 사건에 대한 정보를 공유하는 적절한 포럼이 될 수 있습니다. 어떤 대화 세션은 국가적 접근 방식에 초점을 맞추고, 또 다른 대화 세션은 기술에 초점을 맞추고, 또 다른 세션은 사회적 입장에 초점을 맞추는 등으로 다각도로 접근할 필요가 있습니다. 인공지능은 다양한 사람을 포괄하기 때문에 여러 사람들이 대화에 참여할 수 있도록 해야 합니다.”
이 부분에 대한 UN의 제안문은 다음과 같다.
인공지능 거버넌스에 대한 정부 간 및 다중 이해 관계자 간 정책 대화를 UN의 기존 회의에서 연 2회 개최할 것을 권고한다. 이 대화의 목적은 다음과 같다:
a) 모든 인권을 존중, 보호하고 충족시키면서 발전을 촉진하는 AI 거버넌스 모범 사례를 공유하고, 기회를 추구하며 위험을 관리하는 방안을 논의한다.
b) 민간 및 공공 부문 AI 개발자와 사용자가 AI 거버넌스 조치를 실행하는 데 있어 국제 상호운용성을 높이기 위한 공동 이해를 증진한다.
c) 국가 기관의 대응 능력을 넘어서는 중요한 AI 사건들을 자발적으로 공유한다.
d) 국제 AI 과학 패널의 보고서를 적절히 논의한다.
세 번째 제안
대화는 모호한 느낌을 가지고서 이뤄갈 수 없다. 각자의 표준만을 가지고도 의미 있는 대화는 이뤄지기 힘들다. 그렇기에 UN은 인공지능 연구와 제어와 관련된 여러 가지 내용들을 측정하고 정량화 할 표준을 마련하고 정착시켜야 한다고 제안한다. “지금도 많은 단체들이 표준을 제안하고 있습니다. IEEE, ITU, ISO, IEC 등이 이런 노력들에 앞장서고 있죠. 하지만 이러한 표준화 기구 간에 공통된 언어가 없다는 게 문제입니다. 그럴 수밖에 없는 게 인공지능과 관련된 공정성, 안전성, 투명성과 같은 용어들에 대한 정의가 합의되지 않았기 때문입니다. 해결이 시급합니다.”
[이미지 = gettyimagesbank]
이 부분에 대한 UN의 제안문은 다음과 같다.
우리는 인공지능 표준 교환 시스템을 구축할 것을 권고한다. 이 시스템은 국가 및 국제 표준 개발 기구의 대표자들, 기술 기업, 시민 사회, 그리고 국제 과학 패널의 회원들을 포함하며, 다음과 같은 임무를 맡는다:
a) 인공지능 시스템을 평가하고 측정하는 데 필요한 정의와 적용 가능한 표준의 목록을 개발하고 유지한다.
b) 표준은 물론 그 표준을 만드는 과정에 대해 토론하고 평가한다.
c) 새로운 표준이 필요한 곳을 파악해내고, 적절한 표준을 마련한다.
네 번째 제안
거버넌스를 마련하고 대화를 이어가고 표준을 개발하는 데에는 분명한 목표가 있어야 한다. 하나된 목표를 향해 나아가야 흩어진 마음들이 모이고, 이야기가 진행될 수 있다. UN의 경우 인공지능이라는 기술이 지속 가능 발전 목표(SDG) 달성에 기여할 수 있도록 목표를 설정해야 한다고 주장한다. 그렇지 않으면 인공지능이 오히려 불평등과 편견을 강화하는 데 이바지할 것이라고 한다.
[이미지 = gettyimagesbank]
“인공지능 기술에 대한 수요가 각계각층에서 증가하고 있습니다. 문제는 인공지능을 다룰 수 있는 기술력을 보유한 인재가 얼마 없다는 겁니다. 그렇기 때문에 많은 대가를 지불할 수 있는 단체들이 인공지능 기술을 독식하고 있고, 그러면서 불공정이 빠르게 퍼지고 있습니다. 따라서 인공지능 인재들을 육성하고, 역량을 강화시키는 작업이 전 세계적으로 진행되어야 합니다. 그래서 더 많은 사람들이 인공지능 발전에 참여할 수 있도록 해야 불공정이 완화될 것입니다.”
이 부분에 대한 UN의 제안문은 다음과 같다.
인공지능 역량 개발을 촉진하기 위해 UN과 연계된 협력 네트워크를 구축할 것을 권고한다. 이 네트워크는 주요 이해 관계자에게 인공지능 전문 지식, 컴퓨팅 자원, 인공지능 훈련 데이터를 제공하며, 그 목적은 다음과 같다:
a) 지역 및 글로벌 인공지능 역량 개발 노력을 촉진하고 네트워크 간 협력을 지원한다.
b) 공공 기관 관계자의 인공지능 거버넌스 역량을 강화하여 인권 존중, 보호 및 충족을 도모하면서 발전을 촉진한다.
c) 연구자와 사회적 기업가들이 인공지능을 지역 공공 이익에 맞게 적용할 수 있도록 다양한 센터에서 트레이너, 컴퓨팅 자원 및 인공지능 훈련 데이터를 제공한다. 이를 위해 다음과 같은 프로그램을 제안한다:
i) 컴퓨팅 자원이 부족한 환경의 연구팀과 기업가들이 인공지능 모델을 훈련 및 적용할 수 있도록 컴퓨팅 자원 접근 프로토콜을 마련한다.
ii) 인공지능 솔루션을 테스트하고 학습할 수 있는 샌드박스 환경을 제공한다.
iii) 대학생, 젊은 연구자, 사회적 기업가 및 공공 부문 관계자를 대상으로 한 온라인 인공지능 교육 기회를 마련한다.
iv) 유망한 인재들이 학술 기관이나 기술 기업에서 경험을 쌓을 수 있도록 펠로우십 프로그램을 운영한다.
다섯 번째 제안
많은 국가가 인공지능을 적절하고 효과적으로 활용하는 데 필요한 재정적, 자원적 제약에 직면해 있다. 위에 언급된 역량 개발 노력이 진행되더라도, 일부 국가들은 여전히 국제적인 지원 없이는 인공지능 훈련, 컴퓨팅 자원, 모델 및 데이터를 충분히 확보하지 못할 수 있다. 이에 따라 추가적인 국제적 지원과 협력이 필요하다.
[이미지 = gettyimagesbank]
이 부분에 대한 UN의 제안문은 다음과 같다.
우리는 인공지능 격차를 줄이기 위한 글로벌 인공지능 펀드의 설립을 권고한다. 이 펀드는 독립적인 관리 구조에 의해 운영되며, 공공 및 민간 부문에서 재정적, 현물 기여를 받아 이를 역량 개발 네트워크를 통해 분배할 것이다. 펀드의 목적은 다음과 같다:
a) 인공지능 개발자가 충분한 지역 자원이나 컴퓨팅 능력을 갖추지 못한 국가에서도 모델 훈련 및 미세 조정을 위한 컴퓨팅 자원을 공유할 수 있도록 한다.
b) 안전하고 신뢰할 수 있는 모델 개발과 데이터 거버넌스의 모범 사례를 주류화하기 위한 샌드박스 및 벤치마킹 도구를 제공한다.
c) 글로벌 적용성을 가진 거버넌스, 안전성 및 상호운용성 솔루션을 마련한다.
d) 데이터 세트와 SDG 관련 프로젝트를 위한 데이터와 모델을 결합하는 연구를 지원한다.
e) SDG를 위한 인공지능 모델 및 선별된 데이터 세트를 제공하는 저장소를 구축한다.
여섯 번째 제안
인공지능이라는 기술은 방대한 양의 데이터를 기반으로 한다. 그렇다는 건 인공지능 기술을 공평하게 배분하는 것만큼 데이터에 공평하게 접근할 수 있게 하는 것이 중요하다는 의미가 된다. “데이터가 부족한 국가나 지역, 공동체, 기업이라면 인공지능 기술을 활용하는 데 있어 불공평한 불편함이 있을 수밖에 없습니다. 그러므로 국제적인 차원에서의 데이터 관리 체계가 필요합니다. 다만 모든 걸 똑같이 퍼주는 게 아니라 데이터 생성과 마련, 확보와 관리에 있어서 선의의 경쟁을 할 수 있도록 해야 할 것입니다.”
[이미지 = gettyimagesbank]
이 부분에 대한 UN의 제안문은 다음과 같다.
우리는 UN국제무역법위원회와 같은 관련 기관이 주도하는 글로벌 인공지능 데이터 프레임워크 구축을 권고합니다. 이 프레임워크는 다음과 같은 목표를 포함할 것입니다:
1. 인공지능 학습 데이터의 글로벌 관리 원칙 및 정의 정립.
2. 데이터 출처 및 사용에 관한 공통 기준 수립.
3. 지역 인공지능 생태계를 활성화하기 위한 데이터 관리 및 교환 메커니즘 설립:
- 데이터 신탁 제도.
- 익명화된 데이터 교환을 위한 글로벌 시장.
- 국제 데이터 접근 및 상호운용성을 촉진하기 위한 협약.
일곱 번째 제안
마지막으로 UN은 “효과적이고 공정한 인공지능 거버넌스를 위해서는 UN 내 인공지능 관련 조율 기구가 있어야 한다”고 주장한다. “UN 내 각 기관들과 협력하며, 빠르게 변화하는 AI 기술에 대응할 수 있는 민첩한 조직이 되어야 할 것입니다. 인권고등판무관사무소(OHCHR), 유네스코, UN무역개발회의(UNCTAD) 등 다양한 전문 기관에서 인력을 파견 받아 구성할 수 있을 것으로 보고 있으며, 각계 각층의 기업과 단체, 학계의 협력도 필수적일 것입니다.”
[이미지 = gettyimagesbank]
이 부분에 대한 UN의 제안문은 다음과 같다.
우리는 UN 사무국 내에 인공지능 사무소를 설치할 것을 권고합니다. 이 사무소는 사무총장에게 보고하며, 조직은 가볍고 민첩하게 운영되도록 하고, 가능한 기존 UN 기구들을 활용해야 합니다. 이 사무소는 본 보고서의 제안들을 지원하고 촉진하는 역할을 하며, 다른 과정 및 기관들과 협력할 것입니다. 주요 임무는 다음과 같습니다.
a) 제안된 국제 과학 패널, 정책 대화, 표준 교환, 역량 개발 네트워크, 그리고 필요하다면 글로벌 펀드 및 글로벌 인공지능 데이터 프레임워크에 대한 지원 제공.
b) 기술 기업, 시민 사회, 학계를 포함한 다양한 이해 관계자들과 인공지능 관련 새로운 문제에 대해 소통.
c) 인공지능 관련 사안에 대해 사무총장에게 조언하고, UN 내 관련 기관들과 협력하여 UN 전체 차원의 대응을 조율.
끝으로
UN은 인공지능에 대한 논의가 극단적으로 나뉘는 것을 견해한다고 쓰기도 했다. “이 보고서를 작성하는 과정에서 무한한 혜택을 기대하는 사람들도 만나고 종말과 같은 어두운 미래를 우려하는 이들도 만났습니다. 하지만 인공지능이 유토피아를 가져올지, 디스토피아를 가져올지, 아니면 그 무엇도 아닌 다른 것인지 아무도 알 수 없습니다. 분명한 건 이러한 이분법적 논의를 넘어서야만 인공지능이 바람직한 방향으로 발전할 수 있다는 겁니다. 양쪽 모두를 염두에 둔 채 과학적 근거와 사실에 기반하여 인공지능을 다듬어가야 하는 게 우리의 몫입니다.”
그러면서 UN은 거대한 전쟁이 UN을 탄생시켰다는 것을 상기시키기도 했다. “과거 세계 대전들이 현대의 국제 시스템을 낳았습니다. 그 국제 시스템 덕에 화학 무기와 생물학 무기, 핵 무기의 확산이 제한됐고 평화적인 촉진이 이뤄졌습니다. 인류의 공통된 가치를 깨닫게 하고, 현대의 인권 시스템의 기틀을 마련하고 있기도 합니다. 지금은 SDG와 같은 새로운 목표를 설정해 나아가고 있지요. 인공지능이라는 기술 역시 이러한 과정을 거쳐 인류를 위한 기술로 거듭날 수 있을 것입니다.”
[국제부 문정후 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-11-18] 
.jpg)
.jpg)
.jpg)
