.jpg)
.jpg)
챗봇 개발·운영사 참여...인공지능 편향·권리 침해에 대응해 인간의 존엄성 및 권리 존중을 위한 기준 제시·권고
[보안뉴스 박미영 기자] 인간과 교감하며 대화하는 인공지능(AI) 챗봇 서비스의 개발과 운영, 활용 등의 과정에서 챗봇이 인간과 공존하며 인간에게 도움이 되는 방식으로 활용될 수 있도록 하는 윤리 가이드라인이 나왔다.
한국인터넷자율정책기구(이하 KISO)는 지난 4일 챗봇 서비스의 신뢰도를 높이고 윤리적 문제에 대응하기 위해 ‘챗봇 윤리 가이드라인’을 마련·발표했다.
AI 전성기를 맞이해 인공지능 윤리와 법률들이 마련되고 있으나 민간기구를 통해 챗봇에 특화된 윤리 가이드라인이 마련된 것은 이번이 처음이다. 회원사들은 이 가이드라인을 자율적으로 적용하며, 이를 바탕으로 각 서비스의 정책을 마련할 수 있다.
현재 KISO에는 국내 양대 테크 기업인 네이버와 카카오를 비롯해 2002년 일상대화 챗봇 서비스를 선보인 ‘심심이’, 대화형 AI 챗봇 ‘이루다’를 서비스 중인 ‘스캐터랩’, 인공지능 자연어처리 스타트업 ‘튜닙’ 등 대부분의 챗봇 서비스 업체가 KISO 신기술위원회에 참여해 자율규제에 동참하고 있다.
챗봇은 인간과 상호작용하며 대화를 한다는 점에서 긍정적 효과와 더불어 부정적 효과도 상존한다. 챗봇은 인간과 직접 대화하며 친구가 돼 주거나 궁금증 해소와 같은 도움을 줄 수 있다. 심리 상담에 사용되는 챗봇은 인간과 상호작용을 통해 우울증 개선 효과를 주기도 한다. 최근에는 오픈 AI의 검색 기반 대화 ‘챗GPT(ChatGPT)’가 등장하고 챗봇이 인간과 비슷한 수준의 상호작용을 제공하는 것이 가능해졌다.
하지만 챗봇에 지나치게 의존하거나 챗봇을 잘못 활용하는 경우, 혹은 사회적 약자에 대한 편견이나 부정적 시각이 챗봇을 통해 걸러지지 못하는 경우에는 부정적 영향이 초래될 수 있다.
다만 아직 챗봇 기술 및 서비스가 초기 발전 단계에 있으므로 이러한 부정적 영향만을 고려해 규제가 강화될 경우 챗봇이 보여줄 수 있는 긍정적 모습이 세상에 나오는 것을 제한할 우려가 있다.
다양한 분야에서 AI 챗봇의 이용이 증가하고 있으며, 인간과 챗봇의 구분이 어려워지는 시기가 빠르게 다가올 것으로 예상됨에 따라 KISO 신기술위원회는 지난해 10월 인간에게 도움이 되는 방식으로 챗봇을 활용할 수 있도록 하는 행동 윤리의 마련에 착수했다.
‘챗봇 윤리 가이드라인’은 △인간의 존엄성 및 권리 존중 원칙 △프라이버시 보호 및 정보보안 원칙 △다양성 존중 원칙 △투명성 원칙 △책임 원칙으로 구성된 5가지 기본 원칙을 제안했다. 특히 챗봇 서비스 개발과 운영, 활용 과정에서 발생 가능한 인공지능의 편향, 권리 침해 등 윤리적 문제에 대응하기 위해 개발자뿐 아니라 운영자·이용자에게도 필요한 행동 윤리를 상호보완적으로 제시했다. 이는 이용자도 챗봇 생태계의 한 축으로서 챗봇이라는 대화 상대방을 윤리적으로 이용해야 함을 강조한 것이다.
가이드라인은 다양한 상황에서 폭넓게 적용될 수 있도록 구성됐다. 예를 들어 일반적 상황에서는 대화 상대가 챗봇임을 이용자에게 미리 밝히도록 하면서도 심리 상담 등의 특수한 경우, 즉 챗봇임을 밝히지 않는 것이 더 유의미한 효과를 가져올 수 있는 경우에는 이를 밝히지 않을 수 있다고 명시했다.
가이드라인에는 챗봇 서비스를 개발하고 활용하는 전 과정에서 이용자의 다양성을 존중하고 편향과 차별을 줄이기 위해 노력해야 한다는 내용도 담겨 있다. 특히, 모든 이용자의 접근성이 향상될 수 있도록 아동과 청소년·노인층·장애인을 고려한 접근 화면 단순화, 기능 추가에 대한 내용도 포함했다.
이재신 KISO 신기술위원회 위원장(중앙대 미디어커뮤니케이션학부 교수)은 “챗봇 윤리 가이드라인은 챗봇을 개발·운영하는 데 필요한 행동윤리 기준을 제시하는 최초의 민간 주도형 자율적 가이드라인이라는 점에서 의미가 크다”며, “자율규제는 인공지능의 부정적 효과를 최소화하면서도 서비스 발전을 저해하지 않도록 높은 유연성·신속성·효율성을 제공하는 장점을 지닌다”고 밝혔다.
이 위원장은 “챗봇이 우리 사회의 이익과 선을 위해 도움이 되는 방식으로 이용되도록 하고, 변화하는 기술 환경에서도 폭넓은 사회적 공감을 얻을 수 있도록 앞으로 가이드라인을 지속적으로 수정·보완해 나갈 계획”이라고 덧붙였다.
[박미영 기자(mypark@boannews.com)]
[보안뉴스 박미영 기자] 인간과 교감하며 대화하는 인공지능(AI) 챗봇 서비스의 개발과 운영, 활용 등의 과정에서 챗봇이 인간과 공존하며 인간에게 도움이 되는 방식으로 활용될 수 있도록 하는 윤리 가이드라인이 나왔다.
한국인터넷자율정책기구(이하 KISO)는 지난 4일 챗봇 서비스의 신뢰도를 높이고 윤리적 문제에 대응하기 위해 ‘챗봇 윤리 가이드라인’을 마련·발표했다.
AI 전성기를 맞이해 인공지능 윤리와 법률들이 마련되고 있으나 민간기구를 통해 챗봇에 특화된 윤리 가이드라인이 마련된 것은 이번이 처음이다. 회원사들은 이 가이드라인을 자율적으로 적용하며, 이를 바탕으로 각 서비스의 정책을 마련할 수 있다.
현재 KISO에는 국내 양대 테크 기업인 네이버와 카카오를 비롯해 2002년 일상대화 챗봇 서비스를 선보인 ‘심심이’, 대화형 AI 챗봇 ‘이루다’를 서비스 중인 ‘스캐터랩’, 인공지능 자연어처리 스타트업 ‘튜닙’ 등 대부분의 챗봇 서비스 업체가 KISO 신기술위원회에 참여해 자율규제에 동참하고 있다.
챗봇은 인간과 상호작용하며 대화를 한다는 점에서 긍정적 효과와 더불어 부정적 효과도 상존한다. 챗봇은 인간과 직접 대화하며 친구가 돼 주거나 궁금증 해소와 같은 도움을 줄 수 있다. 심리 상담에 사용되는 챗봇은 인간과 상호작용을 통해 우울증 개선 효과를 주기도 한다. 최근에는 오픈 AI의 검색 기반 대화 ‘챗GPT(ChatGPT)’가 등장하고 챗봇이 인간과 비슷한 수준의 상호작용을 제공하는 것이 가능해졌다.
하지만 챗봇에 지나치게 의존하거나 챗봇을 잘못 활용하는 경우, 혹은 사회적 약자에 대한 편견이나 부정적 시각이 챗봇을 통해 걸러지지 못하는 경우에는 부정적 영향이 초래될 수 있다.
다만 아직 챗봇 기술 및 서비스가 초기 발전 단계에 있으므로 이러한 부정적 영향만을 고려해 규제가 강화될 경우 챗봇이 보여줄 수 있는 긍정적 모습이 세상에 나오는 것을 제한할 우려가 있다.
다양한 분야에서 AI 챗봇의 이용이 증가하고 있으며, 인간과 챗봇의 구분이 어려워지는 시기가 빠르게 다가올 것으로 예상됨에 따라 KISO 신기술위원회는 지난해 10월 인간에게 도움이 되는 방식으로 챗봇을 활용할 수 있도록 하는 행동 윤리의 마련에 착수했다.
‘챗봇 윤리 가이드라인’은 △인간의 존엄성 및 권리 존중 원칙 △프라이버시 보호 및 정보보안 원칙 △다양성 존중 원칙 △투명성 원칙 △책임 원칙으로 구성된 5가지 기본 원칙을 제안했다. 특히 챗봇 서비스 개발과 운영, 활용 과정에서 발생 가능한 인공지능의 편향, 권리 침해 등 윤리적 문제에 대응하기 위해 개발자뿐 아니라 운영자·이용자에게도 필요한 행동 윤리를 상호보완적으로 제시했다. 이는 이용자도 챗봇 생태계의 한 축으로서 챗봇이라는 대화 상대방을 윤리적으로 이용해야 함을 강조한 것이다.
가이드라인은 다양한 상황에서 폭넓게 적용될 수 있도록 구성됐다. 예를 들어 일반적 상황에서는 대화 상대가 챗봇임을 이용자에게 미리 밝히도록 하면서도 심리 상담 등의 특수한 경우, 즉 챗봇임을 밝히지 않는 것이 더 유의미한 효과를 가져올 수 있는 경우에는 이를 밝히지 않을 수 있다고 명시했다.
가이드라인에는 챗봇 서비스를 개발하고 활용하는 전 과정에서 이용자의 다양성을 존중하고 편향과 차별을 줄이기 위해 노력해야 한다는 내용도 담겨 있다. 특히, 모든 이용자의 접근성이 향상될 수 있도록 아동과 청소년·노인층·장애인을 고려한 접근 화면 단순화, 기능 추가에 대한 내용도 포함했다.
이재신 KISO 신기술위원회 위원장(중앙대 미디어커뮤니케이션학부 교수)은 “챗봇 윤리 가이드라인은 챗봇을 개발·운영하는 데 필요한 행동윤리 기준을 제시하는 최초의 민간 주도형 자율적 가이드라인이라는 점에서 의미가 크다”며, “자율규제는 인공지능의 부정적 효과를 최소화하면서도 서비스 발전을 저해하지 않도록 높은 유연성·신속성·효율성을 제공하는 장점을 지닌다”고 밝혔다.
이 위원장은 “챗봇이 우리 사회의 이익과 선을 위해 도움이 되는 방식으로 이용되도록 하고, 변화하는 기술 환경에서도 폭넓은 사회적 공감을 얻을 수 있도록 앞으로 가이드라인을 지속적으로 수정·보완해 나갈 계획”이라고 덧붙였다.
[박미영 기자(mypark@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박미영기자 기사보기
[2024-11-01] 
