기술이 생활에 만연한 때, 기술 전문가들의 책임감도 높아져야
ACM, 1992년을 마지막으로 업데이트 중단된 윤리강령 새롭게 발표
[보안뉴스 문가용 기자] 구글이 메이븐 프로젝트(Project Maven)를 포기했다. 메이븐 프로젝트는 미국 국방부와 함께 구글이 진행하기로 한 군사용 인공지능 드론 연구를 주제로 했다. 구글은 이미 6월에 포기 계획을 직원들에게 알렸지만, 이미 몇몇 직원들이 메이븐 프로젝트에 반대하며 회사를 떠난 뒤였다.
‘메이븐 프로젝트 사건’은 IT 개발자들에게 중요한 질문을 던진다. IT 종사자, 소프트웨어 개발자 등 기술 분야에 있는 전문가들이 따라야 할 윤리적 의무사항이란 것이 존재할까? 회사와 맺은 고용 계약을 초월하는 그런 윤리성 말이다. 그 윤리적 의무사항을 ‘고용주’가 위반하기로 했을 때, 고용인에 불과한 개발자 혹은 기술자들이 할 수 있는 일은 무엇인가?
미국컴퓨터학회(ACM)는 이러한 질문에 답하기 위해 윤리강령을 새롭게 발표했다(물론 오로지 이 사건 때문에 윤리강령을 최신화한 건 아니다). ACM의 윤리강령이 마지막으로 최신화된 건 1992년의 일이었다. 컴퓨터와 소프트웨어의 발전 속도를 감안하면 아주 먼 옛날이라고 해도 과언이 아니다.
이번에 윤리강령을 업데이트 한 목적은 ACM 회원들이 윤리적인 딜레마에 봉착했을 때, 고용주들에게 제출할 수 있을만한 자료를 정립하기 위함이다. “AI로 군사용 무기를 만든다고 했을 때, 회사를 떠나야 하나 걱정하는 개발자들을 위한 것이라고 볼 수 있습니다.” ACM의 전문가 윤리 위원회 의장인 마티 울프(Marty Wolf)의 설명이다.
울프는 본지와의 인터뷰를 통해 “지금은 기술이 그 어느 때보다도 빠르게 발전하고 있는 시대”라고 운을 뗐다. 또한 “한 가지 목적을 위해 만들어진 기술이 새로운 목적으로 활용되기도 하는데, 그 기술의 원 개발자가 상상도 하지 못한 활용도를 보일 때가 점점 많아지기도 한다”고 말한다. “이번 윤리강령은 그러한 경우를 위한 대비책이라고도 볼 수 있습니다.”
또한 울프는 “시스템이 어떤 식으로 사용되고 있는지, 어떻게 변하는지에 대해 사람들이 좀 더 관심을 가지고 지켜봐야 할 필요가 있다”고 강조했다. “이번에 업데이트 된 윤리강령은 지금 우리가 가고 있는 발전의 방향이 실은 아무도 가보지 못한 곳이라는 걸 강조하고 있습니다. 누구도 맞다, 틀리다를 말할 수 없는 때고, 그러므로 모두가 조심스럽게 움직여야 할 때라는 겁니다.”
예를 들어 인공지능과 머신 러닝을 살펴보자. SAS의 CTO인 올리버 샤벤버거(Oliver Schabenberger)의 경우, 인공지능에 대한 걱정스런 의견들을 두고 “과장됐다”고 말한다. 하지만 테슬라(Tesla)의 CEO인 엘론 머스크(Elon Musk)는 “인공지능과 같은 기술의 발전은 위험한 결과를 낳을 수 있다”고 말하는 쪽이다.
그리고 머신 러닝이 유발한 각종 사건들도 있다. 울프는 “MS가 만든 트위터 봇 테이(Tay)가 적절한 예”라고 말한다. “테이는 트위터 사용자들로부터 데이터를 받아 훈련시킨 머신 러닝 기술인데, 나중에는 인종차별주의적인 트윗을 스스로 올리더군요. MS가 원하던 결과는 당연히 아니었겠죠. 머신 러닝 알고리즘이 예상 외의 결과를 낳았던 경우를 우리는 숱하게 봐왔습니다. 각종 편견과 문화적 선입견을 가지고 있는 머신 러닝 장비들이 많이도 태어났죠. 게다가 페이스북이나 캠브리지 애널리티카(Cambridge Analytica) 등이 데이터를 어떻게 다루었는지 떠올려보세요.”
이렇게, 최근 발생했던 일련의 사건들 때문에 ACM은 윤리강령을 새로 쓰게 됐을까? “사실, 윤리강력을 새로 쓰는 작업은 2년 전부터 시작됐습니다. 1992년과는 달리 기술이 우리의 일상생활 속에 만연하기 시작했다는 것을 깨달았기 때문입니다. 무슨 뜻이냐면 기술 전문가들이 자기 분야를 넘어 일상생활에 대한 책임을 져야 한다는 것입니다. 이 부분에 동의한 후 ACM은 윤리강령의 작업을 시작했습니다.”
물론 윤리강령이라는 어마어마한 문서를 ACM 내부에서만 작성한 건 아니다. 전 세계 전문가들로부터 여러 의견을 접수했다. 또한 1992년의 윤리강령이 발표되었을 때부터 기술과 세계가 어떻게 변했는지도 다뤘다. “현재 ACM의 멤버는 총 190개국에 있는데, ACM은 모든 회원들이 이번 강령을 지킬 것으로 기대하고 있습니다.”
강령은 “지도자급 위치에 있는 컴퓨터 전문가들이라면 사회 기반 시설에 통합되는 시스템에 대해서 특별한 관심을 갖고 살펴야 한다”고 촉구한다. 울프는 “소셜 미디어가 이러한 시스템의 좋은 예”라고 말한다.
“1992년에 비해 정말 많은 것이 바뀌었어요. 시대도 그렇고, 강령 내용도 그렇고요.” ACM의 회장인 체리 팬케이크(Cherri M. Pancake)의 설명이다. “컴퓨팅 기술이 사회 모든 면에 개입되어 있습니다. 이런 가운데 컴퓨터 분야 기술자 및 전문가들이 예전처럼 자기 분야에만 몰두할 수는 없습니다. 이들의 전문성이 모든 사람의 삶에 영향을 미치기 때문입니다. 이제 전에 없던 책임감을 가지고 업무를 수행해야 합니다.”
또한 ACM은 ‘무결성 프로젝트(Integrity Project)’라는 것도 새롭게 시작했다. 윤리적인 의사 결정을 돕기 위한 자원들을 모아둔 것이다. 가상의 시나리오를 통한 ‘케이스 스터디’, 윤리강령의 실제적인 적용 사례, 자주 묻는 질문 코너, 윤리학자에게 물어봐 등이 여기에 포함되어 있다.
[국제부 문가용 기자(globoan@boannews.com)]
ACM, 1992년을 마지막으로 업데이트 중단된 윤리강령 새롭게 발표
[보안뉴스 문가용 기자] 구글이 메이븐 프로젝트(Project Maven)를 포기했다. 메이븐 프로젝트는 미국 국방부와 함께 구글이 진행하기로 한 군사용 인공지능 드론 연구를 주제로 했다. 구글은 이미 6월에 포기 계획을 직원들에게 알렸지만, 이미 몇몇 직원들이 메이븐 프로젝트에 반대하며 회사를 떠난 뒤였다.
[이미지 = iclickart]
‘메이븐 프로젝트 사건’은 IT 개발자들에게 중요한 질문을 던진다. IT 종사자, 소프트웨어 개발자 등 기술 분야에 있는 전문가들이 따라야 할 윤리적 의무사항이란 것이 존재할까? 회사와 맺은 고용 계약을 초월하는 그런 윤리성 말이다. 그 윤리적 의무사항을 ‘고용주’가 위반하기로 했을 때, 고용인에 불과한 개발자 혹은 기술자들이 할 수 있는 일은 무엇인가?
미국컴퓨터학회(ACM)는 이러한 질문에 답하기 위해 윤리강령을 새롭게 발표했다(물론 오로지 이 사건 때문에 윤리강령을 최신화한 건 아니다). ACM의 윤리강령이 마지막으로 최신화된 건 1992년의 일이었다. 컴퓨터와 소프트웨어의 발전 속도를 감안하면 아주 먼 옛날이라고 해도 과언이 아니다.
이번에 윤리강령을 업데이트 한 목적은 ACM 회원들이 윤리적인 딜레마에 봉착했을 때, 고용주들에게 제출할 수 있을만한 자료를 정립하기 위함이다. “AI로 군사용 무기를 만든다고 했을 때, 회사를 떠나야 하나 걱정하는 개발자들을 위한 것이라고 볼 수 있습니다.” ACM의 전문가 윤리 위원회 의장인 마티 울프(Marty Wolf)의 설명이다.
울프는 본지와의 인터뷰를 통해 “지금은 기술이 그 어느 때보다도 빠르게 발전하고 있는 시대”라고 운을 뗐다. 또한 “한 가지 목적을 위해 만들어진 기술이 새로운 목적으로 활용되기도 하는데, 그 기술의 원 개발자가 상상도 하지 못한 활용도를 보일 때가 점점 많아지기도 한다”고 말한다. “이번 윤리강령은 그러한 경우를 위한 대비책이라고도 볼 수 있습니다.”
또한 울프는 “시스템이 어떤 식으로 사용되고 있는지, 어떻게 변하는지에 대해 사람들이 좀 더 관심을 가지고 지켜봐야 할 필요가 있다”고 강조했다. “이번에 업데이트 된 윤리강령은 지금 우리가 가고 있는 발전의 방향이 실은 아무도 가보지 못한 곳이라는 걸 강조하고 있습니다. 누구도 맞다, 틀리다를 말할 수 없는 때고, 그러므로 모두가 조심스럽게 움직여야 할 때라는 겁니다.”
예를 들어 인공지능과 머신 러닝을 살펴보자. SAS의 CTO인 올리버 샤벤버거(Oliver Schabenberger)의 경우, 인공지능에 대한 걱정스런 의견들을 두고 “과장됐다”고 말한다. 하지만 테슬라(Tesla)의 CEO인 엘론 머스크(Elon Musk)는 “인공지능과 같은 기술의 발전은 위험한 결과를 낳을 수 있다”고 말하는 쪽이다.
그리고 머신 러닝이 유발한 각종 사건들도 있다. 울프는 “MS가 만든 트위터 봇 테이(Tay)가 적절한 예”라고 말한다. “테이는 트위터 사용자들로부터 데이터를 받아 훈련시킨 머신 러닝 기술인데, 나중에는 인종차별주의적인 트윗을 스스로 올리더군요. MS가 원하던 결과는 당연히 아니었겠죠. 머신 러닝 알고리즘이 예상 외의 결과를 낳았던 경우를 우리는 숱하게 봐왔습니다. 각종 편견과 문화적 선입견을 가지고 있는 머신 러닝 장비들이 많이도 태어났죠. 게다가 페이스북이나 캠브리지 애널리티카(Cambridge Analytica) 등이 데이터를 어떻게 다루었는지 떠올려보세요.”
이렇게, 최근 발생했던 일련의 사건들 때문에 ACM은 윤리강령을 새로 쓰게 됐을까? “사실, 윤리강력을 새로 쓰는 작업은 2년 전부터 시작됐습니다. 1992년과는 달리 기술이 우리의 일상생활 속에 만연하기 시작했다는 것을 깨달았기 때문입니다. 무슨 뜻이냐면 기술 전문가들이 자기 분야를 넘어 일상생활에 대한 책임을 져야 한다는 것입니다. 이 부분에 동의한 후 ACM은 윤리강령의 작업을 시작했습니다.”
물론 윤리강령이라는 어마어마한 문서를 ACM 내부에서만 작성한 건 아니다. 전 세계 전문가들로부터 여러 의견을 접수했다. 또한 1992년의 윤리강령이 발표되었을 때부터 기술과 세계가 어떻게 변했는지도 다뤘다. “현재 ACM의 멤버는 총 190개국에 있는데, ACM은 모든 회원들이 이번 강령을 지킬 것으로 기대하고 있습니다.”
강령은 “지도자급 위치에 있는 컴퓨터 전문가들이라면 사회 기반 시설에 통합되는 시스템에 대해서 특별한 관심을 갖고 살펴야 한다”고 촉구한다. 울프는 “소셜 미디어가 이러한 시스템의 좋은 예”라고 말한다.
“1992년에 비해 정말 많은 것이 바뀌었어요. 시대도 그렇고, 강령 내용도 그렇고요.” ACM의 회장인 체리 팬케이크(Cherri M. Pancake)의 설명이다. “컴퓨팅 기술이 사회 모든 면에 개입되어 있습니다. 이런 가운데 컴퓨터 분야 기술자 및 전문가들이 예전처럼 자기 분야에만 몰두할 수는 없습니다. 이들의 전문성이 모든 사람의 삶에 영향을 미치기 때문입니다. 이제 전에 없던 책임감을 가지고 업무를 수행해야 합니다.”
또한 ACM은 ‘무결성 프로젝트(Integrity Project)’라는 것도 새롭게 시작했다. 윤리적인 의사 결정을 돕기 위한 자원들을 모아둔 것이다. 가상의 시나리오를 통한 ‘케이스 스터디’, 윤리강령의 실제적인 적용 사례, 자주 묻는 질문 코너, 윤리학자에게 물어봐 등이 여기에 포함되어 있다.
[국제부 문가용 기자(globoan@boannews.com)]
Copyrighted 2015. UBM-Tech. 117153:0515BC
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-04-17] 
.jpg)
.jpg)
