.jpg)
.jpg)
10개국 AI안전연구소 참여하는 ‘국제 AI안전연구소 네트워크’ 공식 출범
글로벌 AI안전 연대 강화...AI안전 기술·규범 발전에 주도적인 역할 할 것
[보안뉴스 김경애 기자] 10개국 AI안전연구소가 참여한 ‘국제 AI안전연구소 네트워크’에서 AI안전과 관련한 심도있는 논의가 진행돼 이목이 집중되고 있다. 우리 정부도 한국 대표단을 파견해 글로벌 AI안전 연대를 강화하고, AI안전 발전에 주도적인 역할을 하겠다고 밝혔다.
11월 20~21일 양일간 미국 샌프란시스코(Goldengate Club)에서 개최된 ‘국제 AI안전연구소 네트워크’(International Network of AI Safety Institutes)는 ‘AI서울정상회의’(2024년 5월)에서 발표된 ‘서울선언’의 핵심의제인 AI안전연구소 설립과 안전한 AI에 대한 글로벌 협력 이행을 위한 후속 조치로 개최됐다.
주최국 미국을 포함해 한국, 영국, 일본, 싱가포르, 캐나다, 프랑스, EU, 케냐, 호주 등 10개국 AI안전연구소(또는 상응하는 연구기관), AI안전분야 기술전문가 등이 참석했으며, 과학기술정보통신부(장관 유상임, 이하 과기정통부)는 AI안전연구소 김명주 소장(2024년 11월 12일)을 포함한 한국 대표단을 파견해 타국 AI안전연구소와 긴밀한 네트워크를 구축했다.
이번 행사는 ‘국제 AI안전연구소 네트워크’ 출범을 선언하고, 네트워크 미션 및 운영거버넌스 논의와 AI안전 연구·테스팅·지침에 대한 기술적 논의가 진행됐다.
기술세션1에서는 각국이 연구개발 중인 AI 합성콘텐츠의 투명성 확보기술(워터마크, 탐지기술 등) 및 관련 모범사례를 공유하고, 향후 글로벌 차원의 공동 연구주제 등을 논의했다. 세션2에서는 AI기반모델 테스트 방법론·도구를 논의하고, 테스트 방법·결과에 대한 상호운용성 확보방안을 모색했으며, 세션3에서는 고급 AI 시스템 테스트 결과의 해석을 통한 AI위험의 정량적 식별·평가방안을 논의했다.
특히, 한국 대표단은 현장에서 ‘딥페이크 탐지 및 생성억제 기술 연구(우사이먼성일 성균관대 교수)’, ‘AI위험평가 및 검증체계(곽준호 한국정보통신기술협회 AI신뢰성정책팀장)’ 등 AI안전 관련 국내 주요 연구성과를 발표했다. 이를 통해 글로벌 차원의 연구어젠다를 도출하고, 주요국 AI안전연구소와 연구협력을 구체화하는 계기를 마련했다.
‘국제 AI안전연구소 네트워크’는 전세계의 기술전문성을 결집해 AI안전관련 위험 등 국제적인 연구를 통해 상호 운용가능한 원칙, 모범사례 적용 지원을 목표로 ①연구(Research), ②테스팅(Testing), ③지침(Guidance), ④포용(Inclusion) 분야에 대한 글로벌 협력을 추진해 나갈 계획이다.
①연구(Research)는 AI안전 과학을 발전시키기 위해 공동 또는 상호 보완적인 연구를 수행하고, 첨단 AI위험과 역량에 대한 국제적 합의를 촉진하는 연구를 추구한다. ②테스팅(Testing)은 고급 AI모델을 테스트하기 위한 모범사례를 구축하고, 공동테스트 연습 수행과 평가결과 공유 등을 통해 회원국 간 평가결과 상호인정을 추진한다. ③지침(Guidance)은 공통의 AI안전 가이드라인 마련을 촉진하고, 고급 AI모델의 테스트 해석에 대한 상호 운용가능한 접근방식을 공유한다. ④포용(Inclusion)은 관련정보, 기술도구를 공유해 다양한 지역과 발전단계에 있는 국가, 이해관계자를 네트워크에 참여시켜 AI안전 과학에 참여할 수 있는 역량을 강화한다.
특히 ‘국제 AI안전연구소 네트워크’의 네트워크 거버넌스 운영계획 논의에서 한국 대표단은 ‘AI서울정상회의’의 성공적 개최 경험, 한국 AI안전연구소 출범(2024년 11월)과 정책적 지원 의지를 강조하고, 네트워크 거버넌스에서 주요역할 수행 의지를 밝혔다.
과기정통부 송상훈 정보통신정책실장은 “AI안전에 대한 글로벌 연대는 우리정부가 주도해 정립했던 지난 ‘서울선언’(2024년 5월)의 핵심의제였다”면서, “‘서울선언’의 핵심규범·가치가 주요국이 지지·참여하는 국제 AI안전연구소 네트워크 출범으로 구체화되었다는 점에서 뜻깊다”고 말했다.
또한, “우리 정부도 이번 달에 AI안전연구소를 개소해 AI안전연구를 수행해 나가고, ‘국제 AI안전연구소 네트워크’에도 참여해 글로벌 차원의 AI안전 기술·규범 발전에 주도적인 역할을 하겠다”고 강조했다.
[김경애 기자(boan3@boannews.com)]
글로벌 AI안전 연대 강화...AI안전 기술·규범 발전에 주도적인 역할 할 것
[보안뉴스 김경애 기자] 10개국 AI안전연구소가 참여한 ‘국제 AI안전연구소 네트워크’에서 AI안전과 관련한 심도있는 논의가 진행돼 이목이 집중되고 있다. 우리 정부도 한국 대표단을 파견해 글로벌 AI안전 연대를 강화하고, AI안전 발전에 주도적인 역할을 하겠다고 밝혔다.
[이미지=gettyimagesbank]
11월 20~21일 양일간 미국 샌프란시스코(Goldengate Club)에서 개최된 ‘국제 AI안전연구소 네트워크’(International Network of AI Safety Institutes)는 ‘AI서울정상회의’(2024년 5월)에서 발표된 ‘서울선언’의 핵심의제인 AI안전연구소 설립과 안전한 AI에 대한 글로벌 협력 이행을 위한 후속 조치로 개최됐다.
주최국 미국을 포함해 한국, 영국, 일본, 싱가포르, 캐나다, 프랑스, EU, 케냐, 호주 등 10개국 AI안전연구소(또는 상응하는 연구기관), AI안전분야 기술전문가 등이 참석했으며, 과학기술정보통신부(장관 유상임, 이하 과기정통부)는 AI안전연구소 김명주 소장(2024년 11월 12일)을 포함한 한국 대표단을 파견해 타국 AI안전연구소와 긴밀한 네트워크를 구축했다.
이번 행사는 ‘국제 AI안전연구소 네트워크’ 출범을 선언하고, 네트워크 미션 및 운영거버넌스 논의와 AI안전 연구·테스팅·지침에 대한 기술적 논의가 진행됐다.
기술세션1에서는 각국이 연구개발 중인 AI 합성콘텐츠의 투명성 확보기술(워터마크, 탐지기술 등) 및 관련 모범사례를 공유하고, 향후 글로벌 차원의 공동 연구주제 등을 논의했다. 세션2에서는 AI기반모델 테스트 방법론·도구를 논의하고, 테스트 방법·결과에 대한 상호운용성 확보방안을 모색했으며, 세션3에서는 고급 AI 시스템 테스트 결과의 해석을 통한 AI위험의 정량적 식별·평가방안을 논의했다.
특히, 한국 대표단은 현장에서 ‘딥페이크 탐지 및 생성억제 기술 연구(우사이먼성일 성균관대 교수)’, ‘AI위험평가 및 검증체계(곽준호 한국정보통신기술협회 AI신뢰성정책팀장)’ 등 AI안전 관련 국내 주요 연구성과를 발표했다. 이를 통해 글로벌 차원의 연구어젠다를 도출하고, 주요국 AI안전연구소와 연구협력을 구체화하는 계기를 마련했다.
‘국제 AI안전연구소 네트워크’는 전세계의 기술전문성을 결집해 AI안전관련 위험 등 국제적인 연구를 통해 상호 운용가능한 원칙, 모범사례 적용 지원을 목표로 ①연구(Research), ②테스팅(Testing), ③지침(Guidance), ④포용(Inclusion) 분야에 대한 글로벌 협력을 추진해 나갈 계획이다.
①연구(Research)는 AI안전 과학을 발전시키기 위해 공동 또는 상호 보완적인 연구를 수행하고, 첨단 AI위험과 역량에 대한 국제적 합의를 촉진하는 연구를 추구한다. ②테스팅(Testing)은 고급 AI모델을 테스트하기 위한 모범사례를 구축하고, 공동테스트 연습 수행과 평가결과 공유 등을 통해 회원국 간 평가결과 상호인정을 추진한다. ③지침(Guidance)은 공통의 AI안전 가이드라인 마련을 촉진하고, 고급 AI모델의 테스트 해석에 대한 상호 운용가능한 접근방식을 공유한다. ④포용(Inclusion)은 관련정보, 기술도구를 공유해 다양한 지역과 발전단계에 있는 국가, 이해관계자를 네트워크에 참여시켜 AI안전 과학에 참여할 수 있는 역량을 강화한다.
특히 ‘국제 AI안전연구소 네트워크’의 네트워크 거버넌스 운영계획 논의에서 한국 대표단은 ‘AI서울정상회의’의 성공적 개최 경험, 한국 AI안전연구소 출범(2024년 11월)과 정책적 지원 의지를 강조하고, 네트워크 거버넌스에서 주요역할 수행 의지를 밝혔다.
과기정통부 송상훈 정보통신정책실장은 “AI안전에 대한 글로벌 연대는 우리정부가 주도해 정립했던 지난 ‘서울선언’(2024년 5월)의 핵심의제였다”면서, “‘서울선언’의 핵심규범·가치가 주요국이 지지·참여하는 국제 AI안전연구소 네트워크 출범으로 구체화되었다는 점에서 뜻깊다”고 말했다.
또한, “우리 정부도 이번 달에 AI안전연구소를 개소해 AI안전연구를 수행해 나가고, ‘국제 AI안전연구소 네트워크’에도 참여해 글로벌 차원의 AI안전 기술·규범 발전에 주도적인 역할을 하겠다”고 강조했다.
[김경애 기자(boan3@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김경애기자 기사보기
[2024-11-22] 
.jpg)
.jpg)
.jpg)
