국제 ‘인공지능 3대 협치체계’ 실현, 인공지능 안전 확보 위한 국제 관계망 강화
[보안뉴스 김경애 기자] ‘인공지능안전연구소’(이하 AI안전연구소) 개소식이 27일 판교 글로벌 R&D센터에서 개최됐다. 지난 5월 ‘AI서울정상회의’에서 10개국 정상은 AI안전연구소 설립과 안전한 AI를 위한 글로벌 협력을 강조했고, 윤석열 대통령은 AI안전연구소 설립 의지를 밝혔다. 이에 과기정통부가 연구소 조직·예산·인력·기능 등 사전준비를 거쳐 AI안전연구소를 출범하게 됐다.
AI안전연구소는 AI의 기술적 한계, 인간의 AI기술 오용, AI 통제력 상실 등 AI위험에 대응하기 위한 AI안전연구 전담조직이다. AI안전연구소는 산·학·연 기관이 AI안전분야 연구 협력과 정보 교류를 하고, ‘국제 AI안전연구소 네트워크’의 일원으로 글로벌 연대, AI안전 기술·인력 육성, 과학적 연구데이터에 근거한 AI안전 관련정책의 개발·선진화를 추진한다.
개소식에는 류광준 과기정통부 과기혁신본부장, 염재호 국가AI위원회 부위원장, 이경우 대통령실 AI·디지털 비서관 등 정부 주요인사와 오승필 KT CTO, 오혜연 카이스트 AI연구원장, 이은주 서울대 AI신뢰성 연구센터장, 방승찬 ETRI 원장을 비롯한 AI분야 산·학·연 핵심관계자 40여명이 참석했다.
이날 국가AI위원회 글로벌 자문위원인 AI분야 세계적 석학 요슈아 벤지오 교수는 축사를 통해 “서울선언에 따라 한국정부가 AI안전연구소를 설립하게 된 것을 축하하며, AI안전연구소의 역할로 ①업계와 협업을 통한 위험 평가방법 연구·발전 ②AI안전성 요건 수립 지원 ③국제협력을 통한 AI안전체계의 상호 조화가 중요하다”고 강조했다.
미국 Elizabeth Kelly AI안전연구소 소장은 “한-미 AI안전연구소가 AI위험을 줄이고 혜택을 극대화하며 혁신 촉진을 위해 공통된 과학적 기준을 구축해 나가자”고 강조했다.
영국 Oliver Illot AI안전연구소 소장과 日 아키코 무라카미 AI안전연구소 소장도 “대한민국 AI안전연구소 출범을 축하하며, AI기술을 안전하게 만들어 가기 위해 국경을 넘어선 협력을 확대해 나가자”고 전했다.
‘AI안전연구소’ 초대소장으로 임명된 김명주 소장은 ‘연구소 비전 및 운영계획’ 발표를 통해 “AI 활용으로 발생할 수 있는 제반위험 평가와 이를 예방·극소화하기 위한 정책·기술을 개발·보급하고, 국내외 연대를 강화해 나갈 것”이라며, “연구소는 규제기관의 성격이 아니라, 국내 AI기업들이 글로벌 경쟁력을 확보하는데 장애가 되는 위험요소들을 최소화하도록 지원하는 협력기관으로서 역할을 하겠다”고 강조했다.
이어진 ‘대한민국 AI안전컨소시엄’(이하 컨소시엄) 협약식에서는 AI분야 국내 대표 산학연 기관 총 24곳이 참여한 가운데 AI안전에 관한 정책연구, 평가, 연구개발의 상호협력을 위한 업무협약(MOU)을 체결했다. AI안전연구소와 컨소시엄 참여기관이 함께 AI안전 프레임워크(위험 식별·평가·완화) 연구·개발·실증, AI안전 관련 국제규범 대응 등 정책연구, AI안전 관련 기술 협력 등을 중점적으로 추진할 계획이다.
향후 컨소시엄의 세부 연구주제와 운영방안을 구체화해 나갈 예정이다. 컨소시엄 참여기관들도 AI안전 연구와 관련된 전문성과 기여방안을 제시하며, AI안전연구소와 적극적으로 협력하겠다는 의지를 밝혔다.
유상임 과기정통부 장관은 “AI안전은 지속가능한 AI발전의 전제로 AI분야에 종사하는 우리 모두가 함께 해결해 나가야할 가장 큰 도전과제”라며 “특히, 지난 영국 AI안전성 정상회의(2023년 11월), AI서울정상회의(2024년 5월) 이후, 불과 1년 만에 미국, 영국, 일본, 싱가포르, 캐나다 등 주요국이 모두 AI안전연구소를 설립하고, 전례없이 기민하고 체계적인 국제 AI안전 협력체계가 구축되고 있다”고 밝혔다.
이어 유상임 장관은 “AI안전연구소를 중심으로 산·학·연 연구역량을 결집해 AI안전의 기술·정책적 역량을 확보하고, AI산업 안전기반을 구축해 나가겠다”며 “글로벌 AI안전 연대의 주도적인 역할을 수행해 아태지역을 대표하는 AI안전 연구허브로 발전해 나갈 수 있도록 지원하겠다”고 강조했다.
<보안뉴스>는 김명주 소장과의 인터뷰를 통해 AI안전연구소의 향후 계획에 대해 구체적인 얘기를 들어봤다.
Q. 지난주 센프란시스코에서 개최된 10개국 글로벌 AI안전 네트워크에서 어떤 논의가 있었나
AI안전 관련 기술 연구 등 인터내셔널 네트워크 발표와 함께 앞으로 거버넌스를 어떻게 운영할 것인지에 대해 논의하고 영국, 미국, 캐나다, 일본, 싱가폴 국가 각 센터장과의 논의를 진행했다. 이와 함께 기술·인력·정책 교류를 위해 각 국가별로 1대1 MOU 체결 논의 등이 진행됐다. 국가별로 MOU를 맺으면 인적 교류 등을 수월하게 할 수 있어 효율성을 높일 수 있다.
특히 우리나라 AI기업이 유럽 시장에 진출했을 때 유럽 법을 따라야 하는데, 법의 호환성을 통해 면제해 주는 사안 등에 대해 논의 중이다. 개인정보보호법 사례가 있어 AI안전법도 그 가능성을 보고 논의 중이다. 공통된 부분은 호환하도록 하고, 미리 점검해 규제, 표준절차 등을 맞춰 나갈 계획이다.
영국과의 MOU 체결 등 양국 교류는 어떻게 진행되고 있나
영국은 인공지능 윤리 키워드를 만들었기 때문에 미국의 막강한 기술력에도 영국을 무시할 수 없다. 영국은 주도권을 가져가기 위해 유럽공동체 안에서 교류하는 동시에 원천 기술도 보유하고 있다. 앞으로 MOU 체결을 통해 많이 배우고 교류해야 한다.
Q. 의장국, 부의장국은 어느 국가인가
의장국은 미국, 부의장국은 원하는 국가가 많아 아직 결정되지 않았다. 내년 2월 관련 국가들의 정상회담이 예정돼 있는데, 그때까지 정할 계획이다.
Q. 딥페이크 문제에 대해 전 세계는 어떤 해결방안을 모색하고 있나
딥페이크와 관련해 어떤 기술을 연구하는지에 대해 기술 교류가 많이 진행됐다. 아직 구체적인 대책을 논의하지는 않았다. 관련 기술로 워터마킹을 넣는 기술과 추적 기능은 기술적으로 좀더 연구가 필요한 상황이다. 지속적으로 연구해야 한다.
Q. 향후 어떤 연구 계획이 있나
AI안전연구소는 싱가포르와 일본이 먼저 개소했는데, 언어마다 다른 답변이 나온다. 이를테면 일본말로 독도가 어느나라 땅이라고 물어보면 일본땅이라고 답변한다. 언어별로 다른 답변에 대한 연구 등이 지속돼야 하며, 내년 2월 파리에서 개최되는 후속 발표 때는 우리도 함께 참여할 계획이다.
[김경애 기자(boan3@boannews.com)]
[보안뉴스 김경애 기자] ‘인공지능안전연구소’(이하 AI안전연구소) 개소식이 27일 판교 글로벌 R&D센터에서 개최됐다. 지난 5월 ‘AI서울정상회의’에서 10개국 정상은 AI안전연구소 설립과 안전한 AI를 위한 글로벌 협력을 강조했고, 윤석열 대통령은 AI안전연구소 설립 의지를 밝혔다. 이에 과기정통부가 연구소 조직·예산·인력·기능 등 사전준비를 거쳐 AI안전연구소를 출범하게 됐다.
▲‘인공지능안전연구소’ 개소식이 27일 판교 글로벌 R&D센터에서 개최됐다[사진=과학기술정보통신부]
AI안전연구소는 AI의 기술적 한계, 인간의 AI기술 오용, AI 통제력 상실 등 AI위험에 대응하기 위한 AI안전연구 전담조직이다. AI안전연구소는 산·학·연 기관이 AI안전분야 연구 협력과 정보 교류를 하고, ‘국제 AI안전연구소 네트워크’의 일원으로 글로벌 연대, AI안전 기술·인력 육성, 과학적 연구데이터에 근거한 AI안전 관련정책의 개발·선진화를 추진한다.
개소식에는 류광준 과기정통부 과기혁신본부장, 염재호 국가AI위원회 부위원장, 이경우 대통령실 AI·디지털 비서관 등 정부 주요인사와 오승필 KT CTO, 오혜연 카이스트 AI연구원장, 이은주 서울대 AI신뢰성 연구센터장, 방승찬 ETRI 원장을 비롯한 AI분야 산·학·연 핵심관계자 40여명이 참석했다.
이날 국가AI위원회 글로벌 자문위원인 AI분야 세계적 석학 요슈아 벤지오 교수는 축사를 통해 “서울선언에 따라 한국정부가 AI안전연구소를 설립하게 된 것을 축하하며, AI안전연구소의 역할로 ①업계와 협업을 통한 위험 평가방법 연구·발전 ②AI안전성 요건 수립 지원 ③국제협력을 통한 AI안전체계의 상호 조화가 중요하다”고 강조했다.
미국 Elizabeth Kelly AI안전연구소 소장은 “한-미 AI안전연구소가 AI위험을 줄이고 혜택을 극대화하며 혁신 촉진을 위해 공통된 과학적 기준을 구축해 나가자”고 강조했다.
영국 Oliver Illot AI안전연구소 소장과 日 아키코 무라카미 AI안전연구소 소장도 “대한민국 AI안전연구소 출범을 축하하며, AI기술을 안전하게 만들어 가기 위해 국경을 넘어선 협력을 확대해 나가자”고 전했다.
▲‘인공지능안전연구소’ 김명주 소장이 ‘연구소 비전 및 운영계획’에 대해 발표하고 있다[사진=과학기술정보통신부]
‘AI안전연구소’ 초대소장으로 임명된 김명주 소장은 ‘연구소 비전 및 운영계획’ 발표를 통해 “AI 활용으로 발생할 수 있는 제반위험 평가와 이를 예방·극소화하기 위한 정책·기술을 개발·보급하고, 국내외 연대를 강화해 나갈 것”이라며, “연구소는 규제기관의 성격이 아니라, 국내 AI기업들이 글로벌 경쟁력을 확보하는데 장애가 되는 위험요소들을 최소화하도록 지원하는 협력기관으로서 역할을 하겠다”고 강조했다.
이어진 ‘대한민국 AI안전컨소시엄’(이하 컨소시엄) 협약식에서는 AI분야 국내 대표 산학연 기관 총 24곳이 참여한 가운데 AI안전에 관한 정책연구, 평가, 연구개발의 상호협력을 위한 업무협약(MOU)을 체결했다. AI안전연구소와 컨소시엄 참여기관이 함께 AI안전 프레임워크(위험 식별·평가·완화) 연구·개발·실증, AI안전 관련 국제규범 대응 등 정책연구, AI안전 관련 기술 협력 등을 중점적으로 추진할 계획이다.
향후 컨소시엄의 세부 연구주제와 운영방안을 구체화해 나갈 예정이다. 컨소시엄 참여기관들도 AI안전 연구와 관련된 전문성과 기여방안을 제시하며, AI안전연구소와 적극적으로 협력하겠다는 의지를 밝혔다.
유상임 과기정통부 장관은 “AI안전은 지속가능한 AI발전의 전제로 AI분야에 종사하는 우리 모두가 함께 해결해 나가야할 가장 큰 도전과제”라며 “특히, 지난 영국 AI안전성 정상회의(2023년 11월), AI서울정상회의(2024년 5월) 이후, 불과 1년 만에 미국, 영국, 일본, 싱가포르, 캐나다 등 주요국이 모두 AI안전연구소를 설립하고, 전례없이 기민하고 체계적인 국제 AI안전 협력체계가 구축되고 있다”고 밝혔다.
이어 유상임 장관은 “AI안전연구소를 중심으로 산·학·연 연구역량을 결집해 AI안전의 기술·정책적 역량을 확보하고, AI산업 안전기반을 구축해 나가겠다”며 “글로벌 AI안전 연대의 주도적인 역할을 수행해 아태지역을 대표하는 AI안전 연구허브로 발전해 나갈 수 있도록 지원하겠다”고 강조했다.
<보안뉴스>는 김명주 소장과의 인터뷰를 통해 AI안전연구소의 향후 계획에 대해 구체적인 얘기를 들어봤다.
Q. 지난주 센프란시스코에서 개최된 10개국 글로벌 AI안전 네트워크에서 어떤 논의가 있었나
AI안전 관련 기술 연구 등 인터내셔널 네트워크 발표와 함께 앞으로 거버넌스를 어떻게 운영할 것인지에 대해 논의하고 영국, 미국, 캐나다, 일본, 싱가폴 국가 각 센터장과의 논의를 진행했다. 이와 함께 기술·인력·정책 교류를 위해 각 국가별로 1대1 MOU 체결 논의 등이 진행됐다. 국가별로 MOU를 맺으면 인적 교류 등을 수월하게 할 수 있어 효율성을 높일 수 있다.
특히 우리나라 AI기업이 유럽 시장에 진출했을 때 유럽 법을 따라야 하는데, 법의 호환성을 통해 면제해 주는 사안 등에 대해 논의 중이다. 개인정보보호법 사례가 있어 AI안전법도 그 가능성을 보고 논의 중이다. 공통된 부분은 호환하도록 하고, 미리 점검해 규제, 표준절차 등을 맞춰 나갈 계획이다.
영국과의 MOU 체결 등 양국 교류는 어떻게 진행되고 있나
영국은 인공지능 윤리 키워드를 만들었기 때문에 미국의 막강한 기술력에도 영국을 무시할 수 없다. 영국은 주도권을 가져가기 위해 유럽공동체 안에서 교류하는 동시에 원천 기술도 보유하고 있다. 앞으로 MOU 체결을 통해 많이 배우고 교류해야 한다.
Q. 의장국, 부의장국은 어느 국가인가
의장국은 미국, 부의장국은 원하는 국가가 많아 아직 결정되지 않았다. 내년 2월 관련 국가들의 정상회담이 예정돼 있는데, 그때까지 정할 계획이다.
Q. 딥페이크 문제에 대해 전 세계는 어떤 해결방안을 모색하고 있나
딥페이크와 관련해 어떤 기술을 연구하는지에 대해 기술 교류가 많이 진행됐다. 아직 구체적인 대책을 논의하지는 않았다. 관련 기술로 워터마킹을 넣는 기술과 추적 기능은 기술적으로 좀더 연구가 필요한 상황이다. 지속적으로 연구해야 한다.
Q. 향후 어떤 연구 계획이 있나
AI안전연구소는 싱가포르와 일본이 먼저 개소했는데, 언어마다 다른 답변이 나온다. 이를테면 일본말로 독도가 어느나라 땅이라고 물어보면 일본땅이라고 답변한다. 언어별로 다른 답변에 대한 연구 등이 지속돼야 하며, 내년 2월 파리에서 개최되는 후속 발표 때는 우리도 함께 참여할 계획이다.
[김경애 기자(boan3@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김경애기자 기사보기
[2024-11-25] .jpg)
.jpg)
.jpg)
.jpg)
