.jpg)
.jpg)
AI 시대 도래에 따른 윤리적 문제점 논의와 바람직한 윤리규범 방향 제시
[보안뉴스 김경애 기자] 4차산업혁명 시대가 도래하면서 인공지능 관련 기술이 급속도로 발전하고 있지만, 윤리적 측면에서는 여러 문제들이 산재해 있다. 이러한 가운데 국회입법조사처와 한국인터넷윤리학회는 ‘인공지능 시대의 윤리규범 혁신 방향’이란 주제로 세미나를 25일 개최하고, ‘인공지능 기술과 규범’, ‘인공지능 규범의 혁신전략’에 대해 다양한 논의를 펼쳤다.
국회입법조사처 이내영 처장은 개회사에서 “최근 국내외에서 인공지능 기술로 인한 윤리적 문제가 화두”라며 “카이스트가 설립한 ‘국방 인공지능 융합연구센터’에 대해 ‘킬러 로봇’을 개발한다는 오해가 발생한 바 있으며, 구글 직원 3,100여명은 순다르 피차이 최고경영자에게 미 국방부와의 인공지능 무기 개발에 참여하는 걸 반대한다는 성명을 발표한 바 있다. 이는 모두 인공지능 기술의 윤리적 측면에서의 우려와 문제 제기”라고 말했다.
이어 그는 “윤리적 문제가 선제적으로 해결되지 않으면 이용자들은 신기술에 대해 불안감을 갖게 되고, 기술 확산도 늦춰지게 될 것”이라며 “미국 FLI(Future of Life Institute)라는 비영리 단체에서 ‘아실로마 인공지능 23원칙’을 발표했고, 일본 총무성은 ‘인공지능 연구개발 가이드라인’ 초안을 발표하는 등 국제적 노력이 이뤄지고 있으나 아직은 원론적 차원에서의 논의만 진행되는 상황”이라고 지적했다. 이에 기술 수용성을 높이는 실효적 방안을 마련하기 위해서는 명확한 기준과 원칙을 정해야 하고, 국제적 합의가 이뤄져야 한다고 강조했다.
권헌영 한국인터넷윤리학회장은 환영사에서 “인공지능 기술이 현 단계에서 우리의 생활 속으로 스며들게 될 것인지, 그리고 어떤 영향을 미칠 것인지 불확실하다”며 “국가 입법에 관한 조급증보다는 면밀한 분석과 관찰이 전제된 상황에서 자율적 윤리규범의 정립을 모색하는 것이 바람직하다”고 밝혔다.
이러한 측면에서 한국인터넷윤리학회가 강조하고 있는 ‘디지털 시민성(Digital Citizenship)의 의미가 매우 중요하다고 밝힌 권 회장은 “윤리를 특정한 세력, 권력, 자본, 기술이 정해두고 일반인에게 따르도록 하는 게 아니라 사회적 분위기 속에서 함께 만들고 함께 지키도록 해야 하고, 이렇게 될 때 윤리의 가치가 있다. 이번 세미나에서 포괄적이고 현실성 있는 규범 정립의 원칙과 방향을 모색할 수 있길 바란다”고 말했다.
이어 ‘인공지능 기술과 규범’이란 발제로 경희대학교 이경전 교수가 ‘인공지능 기술 및 서비스의 현재적 가능성’에 대해 발표했다.
이경전 교수는 “의료 분야에서 인공지능의 등장으로 진단시간이 빨라지고, 정보를 의사에게 전달해 의사에게는 더 효율적”이라며 “인공지능으로 인해 의사란 직업이 없어지지 않는다. 이는 빈약한 상상력이다. 사람보다 실수가 적대서 해서 퍼펙트한 건 아니고, 인공지능이라고 해서 실수가 없는 건 아니”라고 말했다.
그러면서 이 교수는 “‘마이크 슈스터 구글 최고번역담당자는 구글의 기계 번역 기술이 좋아져도 통번역을 완전히 대체할 순 없다’고 했다”며 “인공지능은 우리의 능력을 확장시키는 도구로, 인공지능에 관련한 여러 착각에서 벗어나야 하고 보다 정확한 과학적 이해가 필요하다”고 강조했다.
또한, ‘인공지능 규범형성 담론의 지형과 의제’란 제목으로 경인교육대학교 심우민 교수가 발표했다. 심우민 교수는 “EU는 인공지능 자체가 윤리를 가질 수 없다고 판단해 로봇 설계자, 생산자, 운영자에게 적용돼야 한다고 권고하고 있다”며 “EU는 인공지능 기술이 발전하고 있는 단계로 현재 분석 단계”라고 말했다. 이는 인공지능에서 학습기능이 추가된다고 해도 아직까지 인간의 도구로 활용될 뿐이라는 얘기다. 이에 그는 입법영향평가의 상시적 제도화와 사회내 자율적 윤리기준 정립을 지원해야 한다고 강조했다.
이어진 패널 토의에서는 다양한 방향성이 제시됐다. 정원섭 중앙대학교 교수는 근본적인 윤리적 관점에서 심층적인 논의가 진행돼야 한다며 인공지능의 발전이 급속히 그리고 광범위하게 일어나는 만큼 현재 시점의 완결된 체계를 지향하기보다는 누구와, 무엇을, 위해서 규범담론을 만들어 갈 것인가를 함께 고민하는 사회적 차원의 아젠다가 되어야한다고 설명했다. 신용우 국회입법조사처 입법조사관은 알고리즘 자체가 법 규범을 대체할 수 없다며 거버넌스 측면에서 충분한 논의가 이루어져야 하며, 인공지능 기술에 대해서는 기술적으로 충분한 검증이, 신체 안전과 직결된 부분의 경우 법령으로 강제화할 필요가 있다고 말했다.
이원태 정보통신정책연구원 그룹장은 윤리와 법의 관계를 다시 생각하는 계기가 되어야 함과 동시에 AI가 적용되는 제조, 농업, 헬스케어, 교육 등 각 분야별로 윤리규범을 구체화될 필요가 있다고 밝혔다. 또한, 류민호 호서대학교 교수는 우리나라 AI 산업 발전을 위해 필요한 건 무엇인지, 산업적 측면에서 좀 더 깊숙한 논의가 필요하다고 말했다. 마지막으로 좌장을 맡은 김유향 국회입법조사처 팀장은 국제적 규범 라운드에 들어갈 수 있는 전략적인 고민도 해야 할 시점이라고 언급했다.
[김경애 기자(boan3@boannews.com)]
[보안뉴스 김경애 기자] 4차산업혁명 시대가 도래하면서 인공지능 관련 기술이 급속도로 발전하고 있지만, 윤리적 측면에서는 여러 문제들이 산재해 있다. 이러한 가운데 국회입법조사처와 한국인터넷윤리학회는 ‘인공지능 시대의 윤리규범 혁신 방향’이란 주제로 세미나를 25일 개최하고, ‘인공지능 기술과 규범’, ‘인공지능 규범의 혁신전략’에 대해 다양한 논의를 펼쳤다.
▲국회입법조사처 이내영 처장의 개회사[사진=보안뉴스]
국회입법조사처 이내영 처장은 개회사에서 “최근 국내외에서 인공지능 기술로 인한 윤리적 문제가 화두”라며 “카이스트가 설립한 ‘국방 인공지능 융합연구센터’에 대해 ‘킬러 로봇’을 개발한다는 오해가 발생한 바 있으며, 구글 직원 3,100여명은 순다르 피차이 최고경영자에게 미 국방부와의 인공지능 무기 개발에 참여하는 걸 반대한다는 성명을 발표한 바 있다. 이는 모두 인공지능 기술의 윤리적 측면에서의 우려와 문제 제기”라고 말했다.
이어 그는 “윤리적 문제가 선제적으로 해결되지 않으면 이용자들은 신기술에 대해 불안감을 갖게 되고, 기술 확산도 늦춰지게 될 것”이라며 “미국 FLI(Future of Life Institute)라는 비영리 단체에서 ‘아실로마 인공지능 23원칙’을 발표했고, 일본 총무성은 ‘인공지능 연구개발 가이드라인’ 초안을 발표하는 등 국제적 노력이 이뤄지고 있으나 아직은 원론적 차원에서의 논의만 진행되는 상황”이라고 지적했다. 이에 기술 수용성을 높이는 실효적 방안을 마련하기 위해서는 명확한 기준과 원칙을 정해야 하고, 국제적 합의가 이뤄져야 한다고 강조했다.
▲한국인터넷윤리학회 권헌영 회장의 환영사[사진=보안뉴스]
권헌영 한국인터넷윤리학회장은 환영사에서 “인공지능 기술이 현 단계에서 우리의 생활 속으로 스며들게 될 것인지, 그리고 어떤 영향을 미칠 것인지 불확실하다”며 “국가 입법에 관한 조급증보다는 면밀한 분석과 관찰이 전제된 상황에서 자율적 윤리규범의 정립을 모색하는 것이 바람직하다”고 밝혔다.
이러한 측면에서 한국인터넷윤리학회가 강조하고 있는 ‘디지털 시민성(Digital Citizenship)의 의미가 매우 중요하다고 밝힌 권 회장은 “윤리를 특정한 세력, 권력, 자본, 기술이 정해두고 일반인에게 따르도록 하는 게 아니라 사회적 분위기 속에서 함께 만들고 함께 지키도록 해야 하고, 이렇게 될 때 윤리의 가치가 있다. 이번 세미나에서 포괄적이고 현실성 있는 규범 정립의 원칙과 방향을 모색할 수 있길 바란다”고 말했다.
이어 ‘인공지능 기술과 규범’이란 발제로 경희대학교 이경전 교수가 ‘인공지능 기술 및 서비스의 현재적 가능성’에 대해 발표했다.
이경전 교수는 “의료 분야에서 인공지능의 등장으로 진단시간이 빨라지고, 정보를 의사에게 전달해 의사에게는 더 효율적”이라며 “인공지능으로 인해 의사란 직업이 없어지지 않는다. 이는 빈약한 상상력이다. 사람보다 실수가 적대서 해서 퍼펙트한 건 아니고, 인공지능이라고 해서 실수가 없는 건 아니”라고 말했다.
그러면서 이 교수는 “‘마이크 슈스터 구글 최고번역담당자는 구글의 기계 번역 기술이 좋아져도 통번역을 완전히 대체할 순 없다’고 했다”며 “인공지능은 우리의 능력을 확장시키는 도구로, 인공지능에 관련한 여러 착각에서 벗어나야 하고 보다 정확한 과학적 이해가 필요하다”고 강조했다.
또한, ‘인공지능 규범형성 담론의 지형과 의제’란 제목으로 경인교육대학교 심우민 교수가 발표했다. 심우민 교수는 “EU는 인공지능 자체가 윤리를 가질 수 없다고 판단해 로봇 설계자, 생산자, 운영자에게 적용돼야 한다고 권고하고 있다”며 “EU는 인공지능 기술이 발전하고 있는 단계로 현재 분석 단계”라고 말했다. 이는 인공지능에서 학습기능이 추가된다고 해도 아직까지 인간의 도구로 활용될 뿐이라는 얘기다. 이에 그는 입법영향평가의 상시적 제도화와 사회내 자율적 윤리기준 정립을 지원해야 한다고 강조했다.
[사진=보안뉴스]
[사진=보안뉴스]
이어진 패널 토의에서는 다양한 방향성이 제시됐다. 정원섭 중앙대학교 교수는 근본적인 윤리적 관점에서 심층적인 논의가 진행돼야 한다며 인공지능의 발전이 급속히 그리고 광범위하게 일어나는 만큼 현재 시점의 완결된 체계를 지향하기보다는 누구와, 무엇을, 위해서 규범담론을 만들어 갈 것인가를 함께 고민하는 사회적 차원의 아젠다가 되어야한다고 설명했다. 신용우 국회입법조사처 입법조사관은 알고리즘 자체가 법 규범을 대체할 수 없다며 거버넌스 측면에서 충분한 논의가 이루어져야 하며, 인공지능 기술에 대해서는 기술적으로 충분한 검증이, 신체 안전과 직결된 부분의 경우 법령으로 강제화할 필요가 있다고 말했다.
이원태 정보통신정책연구원 그룹장은 윤리와 법의 관계를 다시 생각하는 계기가 되어야 함과 동시에 AI가 적용되는 제조, 농업, 헬스케어, 교육 등 각 분야별로 윤리규범을 구체화될 필요가 있다고 밝혔다. 또한, 류민호 호서대학교 교수는 우리나라 AI 산업 발전을 위해 필요한 건 무엇인지, 산업적 측면에서 좀 더 깊숙한 논의가 필요하다고 말했다. 마지막으로 좌장을 맡은 김유향 국회입법조사처 팀장은 국제적 규범 라운드에 들어갈 수 있는 전략적인 고민도 해야 할 시점이라고 언급했다.
[김경애 기자(boan3@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김경애기자 기사보기
[2024-11-22] 
.jpg)
.jpg)
.jpg)
.jpg)
