30개 가까운 국가들의 대표들이 영국에서 만나 인공지능을 안전하게 개발하고 활용하는 데 협조하겠다고 약속했다. 인공지능은 ‘혁신’보다 ‘안전’이 키워드가 되어야 하는 분야라는 데에 반대하는 사람이 없었다.
[보안뉴스 문가용 기자] 미국과 영국, 중국을 포함해 총 28개 국가들이 ‘블레츨리 선언문(Bletchley Declaration)’이라는 것에 서명했다. 인공지능과 관련된 기술을 안전하게 개발하고 활용하기 위해 서로 협력하겠다는 내용이 담긴 일종의 국제적 규모의 합의서다. 인공지능이라는 기술의 강력함이 인간을 위협하는 방향으로 발휘되지 않도록 하기 위한 첫 번째 안전장치이기도 하다.
블레츨리 선언문은 영국 블레츨리공원에서 개최된 ‘인공지능 안전성 정상회의(AI Safety Summit)’의 결과물이다. 회의를 개최하고 주관한 영국 정부는 “의도적이든 아니든 인공지능을 악용하거나 잘못된 방향으로 개발했을 때 발생할 수 있는 위험의 수준이 너무나 높다는 것에 참가국이 전부 동의했다”며 “특히 사이버 보안이나 생물공학 분야와 가짜뉴스 활성화라는 면에서 큰 문제가 발생할 수 있다고 봤다”고 설명했다.
블레츨리공원(Bletchley Park)은 세계2차대전 당시 암호학과 컴퓨터 기술의 획기적인 개발이 비밀리에 진행됐던 것으로 유명한 장소다. 콜로서스(Colossus)라는, 최초의 프로그래밍 가능한 컴퓨터가 태어난 곳이며, 앨런 튜링(Alan Turing)이라는 유명한 암호학자가 독일의 에니그마(Enigma) 코드를 깬 곳도 바로 이곳이다. 사이버 보안은 물론 현대 IT 기술의 뿌리와 연관이 없지 않은 곳이라는 상징성을 가지고 있다.
이번 선언문으로부터 중요한 논의 시작될 수 있어
사이버 보안 전문가들은 현재 28개국이 모여 협의한 내용에 대해 환호하는 입장이다. 보안 업체 다크트레이스(Darktrace)의 CEO 포피 구스타프손(Poppy Gustafson)은 “인공지능의 안전 문제와 인공지능의 혁신은 상충하지 않는다”며 “오히려 상호보완적 개념이라는 것을 분명히 해두는 것이 바람직하다”고 말한다. “인공지능의 강력함을 안전하게 발휘할 수만 있다면 인류와 사회에 커다란 이득이 될 것입니다. 안전과 혁신을 다 잡아야 한다는 것이죠.”
보안 업체 버그크라우드(Bugcrowd)의 CTO인 케이시 엘리스(Casey Ellis) 역시 “인공지능의 안전 문제에 수많은 국가의 대표들까지 나설 정도라는 게 고무적”이라며 “인공지능은 단순 IT 기술이 아니라 사회적으로 관심을 가질 수밖에 없는, 보다 큰 문제”라고 지적한다. 그렇기 때문에 “무조건적인 혁신이라는 것은 우리가 선택할 수 없는 것”이라고 말한다.
“이번 블레츨리 선언문은 ‘안전해야만 하는’ 인공지능 개발에 있어서 중요한 첫 걸음이라고 평가할 수 있습니다. 선언문 자체에 어떤 구속력이 있다거나, 기술적으로 획기적인 내용이 포함된 건 아닙니다만 인공지능의 개발과 향상이라는 것이 안전과 항상 결부되어 있어야 한다는 걸 주요 국가 지도자들이 합의하고 서명까지 했다는 건 작은 사건이 아닙니다. 앞으로 나아가야 할 방향성을 제시한 것이니까요.” 엘리스의 설명이다. “인공지능이 어느 정도 수준에 오른 시점에 가서 ‘인공지능은 안전하게 발전시켜야 하더라’라고 외쳐봐야 효력이 없을 겁니다.”
영국 정부에 의하면 블레츨리 선언문은 “참가국들이 인공지능 안전 문제에 관하여 어떤 책임을 공유하고 있으며, 어떤 절차를 거쳐 협업해야 하는지에 관한 내용이 포함되어 있다”고 한다. “이 선언문을 바탕으로 국가들이 안전한 인공지능 개발과 관련된 각자의 책임을 설정하고 협업 프로세서를 확립하게 될 것입니다.”
얼마 전 미국의 바이든 행정부도 인공지능 안전과 개발에 관한 새로운 표준을 정립해야 한다는 내용의 행정명령을 발행한 바 있다. 그보다 조금 더 전에는 인공지능 분야의 민간 부문 전문가들 수천 명이 “인공지능의 안전한 개발과 활용에 관한 규정이 먼저 확립되어야 하고, 그 전까지는 인공지능 연구를 중단해야 한다”는 내용에 서명하기도 했었다.
3줄 요약
1. 전 세계 지도자들이 모여 인공지능 안전 문제를 다 같이 공유하자고 합의.
2. 인공지능의 발전에는 반드시 ‘안전’이 수반되어야 함을 인정.
3. 안전한 인공지능 개발 위해 서로가 협의할 것 다짐.
[국제부 문가용 기자(globoan@boannews.com)]
[보안뉴스 문가용 기자] 미국과 영국, 중국을 포함해 총 28개 국가들이 ‘블레츨리 선언문(Bletchley Declaration)’이라는 것에 서명했다. 인공지능과 관련된 기술을 안전하게 개발하고 활용하기 위해 서로 협력하겠다는 내용이 담긴 일종의 국제적 규모의 합의서다. 인공지능이라는 기술의 강력함이 인간을 위협하는 방향으로 발휘되지 않도록 하기 위한 첫 번째 안전장치이기도 하다.
[이미지 = gettyimagesbank]
블레츨리 선언문은 영국 블레츨리공원에서 개최된 ‘인공지능 안전성 정상회의(AI Safety Summit)’의 결과물이다. 회의를 개최하고 주관한 영국 정부는 “의도적이든 아니든 인공지능을 악용하거나 잘못된 방향으로 개발했을 때 발생할 수 있는 위험의 수준이 너무나 높다는 것에 참가국이 전부 동의했다”며 “특히 사이버 보안이나 생물공학 분야와 가짜뉴스 활성화라는 면에서 큰 문제가 발생할 수 있다고 봤다”고 설명했다.
블레츨리공원(Bletchley Park)은 세계2차대전 당시 암호학과 컴퓨터 기술의 획기적인 개발이 비밀리에 진행됐던 것으로 유명한 장소다. 콜로서스(Colossus)라는, 최초의 프로그래밍 가능한 컴퓨터가 태어난 곳이며, 앨런 튜링(Alan Turing)이라는 유명한 암호학자가 독일의 에니그마(Enigma) 코드를 깬 곳도 바로 이곳이다. 사이버 보안은 물론 현대 IT 기술의 뿌리와 연관이 없지 않은 곳이라는 상징성을 가지고 있다.
이번 선언문으로부터 중요한 논의 시작될 수 있어
사이버 보안 전문가들은 현재 28개국이 모여 협의한 내용에 대해 환호하는 입장이다. 보안 업체 다크트레이스(Darktrace)의 CEO 포피 구스타프손(Poppy Gustafson)은 “인공지능의 안전 문제와 인공지능의 혁신은 상충하지 않는다”며 “오히려 상호보완적 개념이라는 것을 분명히 해두는 것이 바람직하다”고 말한다. “인공지능의 강력함을 안전하게 발휘할 수만 있다면 인류와 사회에 커다란 이득이 될 것입니다. 안전과 혁신을 다 잡아야 한다는 것이죠.”
보안 업체 버그크라우드(Bugcrowd)의 CTO인 케이시 엘리스(Casey Ellis) 역시 “인공지능의 안전 문제에 수많은 국가의 대표들까지 나설 정도라는 게 고무적”이라며 “인공지능은 단순 IT 기술이 아니라 사회적으로 관심을 가질 수밖에 없는, 보다 큰 문제”라고 지적한다. 그렇기 때문에 “무조건적인 혁신이라는 것은 우리가 선택할 수 없는 것”이라고 말한다.
“이번 블레츨리 선언문은 ‘안전해야만 하는’ 인공지능 개발에 있어서 중요한 첫 걸음이라고 평가할 수 있습니다. 선언문 자체에 어떤 구속력이 있다거나, 기술적으로 획기적인 내용이 포함된 건 아닙니다만 인공지능의 개발과 향상이라는 것이 안전과 항상 결부되어 있어야 한다는 걸 주요 국가 지도자들이 합의하고 서명까지 했다는 건 작은 사건이 아닙니다. 앞으로 나아가야 할 방향성을 제시한 것이니까요.” 엘리스의 설명이다. “인공지능이 어느 정도 수준에 오른 시점에 가서 ‘인공지능은 안전하게 발전시켜야 하더라’라고 외쳐봐야 효력이 없을 겁니다.”
영국 정부에 의하면 블레츨리 선언문은 “참가국들이 인공지능 안전 문제에 관하여 어떤 책임을 공유하고 있으며, 어떤 절차를 거쳐 협업해야 하는지에 관한 내용이 포함되어 있다”고 한다. “이 선언문을 바탕으로 국가들이 안전한 인공지능 개발과 관련된 각자의 책임을 설정하고 협업 프로세서를 확립하게 될 것입니다.”
얼마 전 미국의 바이든 행정부도 인공지능 안전과 개발에 관한 새로운 표준을 정립해야 한다는 내용의 행정명령을 발행한 바 있다. 그보다 조금 더 전에는 인공지능 분야의 민간 부문 전문가들 수천 명이 “인공지능의 안전한 개발과 활용에 관한 규정이 먼저 확립되어야 하고, 그 전까지는 인공지능 연구를 중단해야 한다”는 내용에 서명하기도 했었다.
3줄 요약
1. 전 세계 지도자들이 모여 인공지능 안전 문제를 다 같이 공유하자고 합의.
2. 인공지능의 발전에는 반드시 ‘안전’이 수반되어야 함을 인정.
3. 안전한 인공지능 개발 위해 서로가 협의할 것 다짐.
[국제부 문가용 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-05-08] 
