.jpg)
유럽 사이버 보안 포럼, 인공지능의 미래 뜨거운 관심 받아
기회 큰 만큼 위험도 커, 사용자 신뢰 위해 기계 윤리 세워야
[보안뉴스 오다인 기자] 유럽 사이버 보안 포럼인 제3회 사이버섹 포럼이 지난 10월 9일부터 10일까지 이틀에 걸쳐 폴란드 크라쿠프에서 열렸다. 이번 포럼에는 폴란드를 비롯해 네덜란드, 독일, 영국을 대표하는 보안 전문가들이 인공지능을 둘러싼 위험과 잠재력, 기업의 역할에 대해서 토론했다. 인공지능의 미래는 뜨거운 관심을 받았다.
이런 토론이 시기상조라고 생각하는 사람도 있겠지만 지금이 적기라고 보는 사람도 있다. 독일 통신 회사 도이치 텔레콤 AG(Deutsche Telekom AG)의 보안 거버넌스 부사장 악셀 페트리(Axel Petri)는 “앞으로 10년, 20년 뒤에 답할 수 있는 문제들에 대해 바로 지금 질문해야 한다”고 말한다. 인공지능과 머신 러닝이 지원하는 사이버 보안은 데이터를 활용해 더 깊은 통찰을 제공해줄 수 있고 사기 범죄를 물리칠 수 있다.
페트리는 “인공지능을 사용하면 현재 인력을 더 현명하고 더 좋은 방식으로 운용할 수 있다”고 설명했다. 그는 “보안 운영 센터(SOC)는 대개 인력이 부족한데, 여기에 인공지능을 도입하면 주니어 애널리스트 역할을 하면서 SOC에서 가장 똑똑한 인재를 고용하는 것과 같다”고 말했다.
폴란드 니콜라우스 코페르니쿠스 대학교의 리서치 펠로우이자 폴란드 대통령의 사회 자문을 맡고 있는 안제이 지베르토비츠(Andrzej Zybertowicz)는 인공지능이 국지적으로 사용될 때는 사이버 보안을 향상시킬 수 있지만 세계적인 규모에선 “재앙을 불러올 수도 있다”고 짚었다. 그는 인공지능의 광범위한 위험과 그 위험을 줄이기 위한 규제에 대해 말하기 시작해야 한다고 강조했으며 이에 다수가 공감했다.
영국 셰필드 대학교의 인공지능 및 로보틱스 교수인 노엘 샤르키(Noel Sharkey)는 “위험이 너무 많다는 게 문제”라고 지적했다. 샤르키는 인공지능 분야에는 기회와 위험이 공존한다고 생각한다. 그래서 “문제는 딱 한 가지만 존재하는 게 아니”라고도 덧붙였다.
샤르키는 의료 분야를 사례로 들어 인공지능이 의사의 질병 연구를 돕고 있다고 말했다. 그는 이건 분명 좋은 일이지만 만약 기계가 오랜 기간 옳다는 게 증명돼서 의사가 더 이상 질문하지 않는다면 무슨 일이 일어날 것이냐고 묻는다. 의사가 반사적으로 기계에 동의하게 된다면? 언젠가 기계가 틀리는 날이 온다면 무슨 일이 일어날까?
샤르키는 “책임이 따른다는 사실을 명확히 하는 게 핵심”이라며 “사람들이 인공지능을 통해 어떤 종류의 제어를 얻으려고 하는지를 보라”고 말했다. 딥 러닝에 대한 필요가 있다면 이를 어떻게 강화할지에 대해서도 깊이 배워야 한다. 사람들은 보육, 노인 돌봄, 교통, 건축에도 인공지능을 적용하려는 중이다. 미래의 상징과도 같은 인공지능은 인권에 대해서도 반드시 그 영향을 고려해야 한다.
폴란드 코즈민스키 대학교의 조교수이자 미국 매사추세츠 공과대학교의 집단지성 리서치 펠로우인 알렉산드라 프르제갈린스카 스키에르코프스카(Aleksandra Przegalinska-Skierkowska)는 “인공지능은 우리 주변의 모든 것을 바꾼다”며 “모든 산업, 인간의 건강과 교육까지 싹 다 변화시킬 것”이라고 설명했다. 스키에르코프스카는 “특히 자동차나 가상의 에이전트가 필요할 때 이런 것들에 대한 행동 강령이 필요할 것”이라고 덧붙였다.
이어 스키에르코프스카는 사람들이 기계 윤리나 도덕성과 관련한 이슈를 생각해야 할 시점에 와 있다고 말했다. 윤리적인 인공지능 시스템 구조를 세우는 건 공동의 노력이 필요한 일이다. 점점 더 많은 기업이 연결된 상품을 만들어내고 있는 현대는 더욱 그렇다.
페트리는 “디지털 서비스를 판매하는 회사의 관점에서 볼 때 사람들이 가장 중요하게 생각해야 할 것이 있다”며 “사람들은 인공지능을 사용하는 소비자”라고 설명했다. “우리에게 필요한 건 사용자들의 신뢰입니다. 모든 기술적인 시스템을 아울러서 말입니다. 사용자의 신뢰를 얻지 못한다면 사용자는 떠나고 말 것입니다.”
규제 조치에 대한 토론은 이런 규제들을 위반할 공격자들에 대한 토론으로 이어졌다. 지베르토비츠는 거의 모든 기술에 이중 용도가 있으며 무기화될 수 있다고 경고했다. 페트리는 “우리는 규칙에 대해 이야기하려고 이 자리에 온 것이지만 규칙에 따르지 않는 공격자들에 대해서도 고려해야 한다”며 “공격자들은 선량한 시민들보다 더욱 빨리 혁신하고 있다”고 말했다.
[국제부 오다인 기자(boan2@boannews.com)]
기회 큰 만큼 위험도 커, 사용자 신뢰 위해 기계 윤리 세워야
[보안뉴스 오다인 기자] 유럽 사이버 보안 포럼인 제3회 사이버섹 포럼이 지난 10월 9일부터 10일까지 이틀에 걸쳐 폴란드 크라쿠프에서 열렸다. 이번 포럼에는 폴란드를 비롯해 네덜란드, 독일, 영국을 대표하는 보안 전문가들이 인공지능을 둘러싼 위험과 잠재력, 기업의 역할에 대해서 토론했다. 인공지능의 미래는 뜨거운 관심을 받았다.
[이미지=iclickart]
이런 토론이 시기상조라고 생각하는 사람도 있겠지만 지금이 적기라고 보는 사람도 있다. 독일 통신 회사 도이치 텔레콤 AG(Deutsche Telekom AG)의 보안 거버넌스 부사장 악셀 페트리(Axel Petri)는 “앞으로 10년, 20년 뒤에 답할 수 있는 문제들에 대해 바로 지금 질문해야 한다”고 말한다. 인공지능과 머신 러닝이 지원하는 사이버 보안은 데이터를 활용해 더 깊은 통찰을 제공해줄 수 있고 사기 범죄를 물리칠 수 있다.
페트리는 “인공지능을 사용하면 현재 인력을 더 현명하고 더 좋은 방식으로 운용할 수 있다”고 설명했다. 그는 “보안 운영 센터(SOC)는 대개 인력이 부족한데, 여기에 인공지능을 도입하면 주니어 애널리스트 역할을 하면서 SOC에서 가장 똑똑한 인재를 고용하는 것과 같다”고 말했다.
폴란드 니콜라우스 코페르니쿠스 대학교의 리서치 펠로우이자 폴란드 대통령의 사회 자문을 맡고 있는 안제이 지베르토비츠(Andrzej Zybertowicz)는 인공지능이 국지적으로 사용될 때는 사이버 보안을 향상시킬 수 있지만 세계적인 규모에선 “재앙을 불러올 수도 있다”고 짚었다. 그는 인공지능의 광범위한 위험과 그 위험을 줄이기 위한 규제에 대해 말하기 시작해야 한다고 강조했으며 이에 다수가 공감했다.
영국 셰필드 대학교의 인공지능 및 로보틱스 교수인 노엘 샤르키(Noel Sharkey)는 “위험이 너무 많다는 게 문제”라고 지적했다. 샤르키는 인공지능 분야에는 기회와 위험이 공존한다고 생각한다. 그래서 “문제는 딱 한 가지만 존재하는 게 아니”라고도 덧붙였다.
샤르키는 의료 분야를 사례로 들어 인공지능이 의사의 질병 연구를 돕고 있다고 말했다. 그는 이건 분명 좋은 일이지만 만약 기계가 오랜 기간 옳다는 게 증명돼서 의사가 더 이상 질문하지 않는다면 무슨 일이 일어날 것이냐고 묻는다. 의사가 반사적으로 기계에 동의하게 된다면? 언젠가 기계가 틀리는 날이 온다면 무슨 일이 일어날까?
샤르키는 “책임이 따른다는 사실을 명확히 하는 게 핵심”이라며 “사람들이 인공지능을 통해 어떤 종류의 제어를 얻으려고 하는지를 보라”고 말했다. 딥 러닝에 대한 필요가 있다면 이를 어떻게 강화할지에 대해서도 깊이 배워야 한다. 사람들은 보육, 노인 돌봄, 교통, 건축에도 인공지능을 적용하려는 중이다. 미래의 상징과도 같은 인공지능은 인권에 대해서도 반드시 그 영향을 고려해야 한다.
폴란드 코즈민스키 대학교의 조교수이자 미국 매사추세츠 공과대학교의 집단지성 리서치 펠로우인 알렉산드라 프르제갈린스카 스키에르코프스카(Aleksandra Przegalinska-Skierkowska)는 “인공지능은 우리 주변의 모든 것을 바꾼다”며 “모든 산업, 인간의 건강과 교육까지 싹 다 변화시킬 것”이라고 설명했다. 스키에르코프스카는 “특히 자동차나 가상의 에이전트가 필요할 때 이런 것들에 대한 행동 강령이 필요할 것”이라고 덧붙였다.
이어 스키에르코프스카는 사람들이 기계 윤리나 도덕성과 관련한 이슈를 생각해야 할 시점에 와 있다고 말했다. 윤리적인 인공지능 시스템 구조를 세우는 건 공동의 노력이 필요한 일이다. 점점 더 많은 기업이 연결된 상품을 만들어내고 있는 현대는 더욱 그렇다.
페트리는 “디지털 서비스를 판매하는 회사의 관점에서 볼 때 사람들이 가장 중요하게 생각해야 할 것이 있다”며 “사람들은 인공지능을 사용하는 소비자”라고 설명했다. “우리에게 필요한 건 사용자들의 신뢰입니다. 모든 기술적인 시스템을 아울러서 말입니다. 사용자의 신뢰를 얻지 못한다면 사용자는 떠나고 말 것입니다.”
규제 조치에 대한 토론은 이런 규제들을 위반할 공격자들에 대한 토론으로 이어졌다. 지베르토비츠는 거의 모든 기술에 이중 용도가 있으며 무기화될 수 있다고 경고했다. 페트리는 “우리는 규칙에 대해 이야기하려고 이 자리에 온 것이지만 규칙에 따르지 않는 공격자들에 대해서도 고려해야 한다”며 “공격자들은 선량한 시민들보다 더욱 빨리 혁신하고 있다”고 말했다.
[국제부 오다인 기자(boan2@boannews.com)]
Copyrighted 2015. UBM-Tech. 117153:0515BC
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
오다인기자 기사보기
[2024-04-16] .jpg)
.jpg)
