알고리즘 윤리헌장 제정, 기술윤리위원회, 증오발언 근절 원칙 등 다양한 노력 소개
[보안뉴스 박미영 기자] 카카오가 ‘2024 공공선 융합 포럼’에서 디지털 안전을 위한 기술 윤리와 카카오의 노력에 관해 발표하고 학계와 소통했다.
카카오는 지난 26일 성균관대 인권과 개발센터, 아주대 BK21Four 인공지능사업단, 한양대 인공지능대학원사업단 등이 주관한 ‘공공선 융합 포럼’에 참석해 기술이 갖춰야 할 윤리적 측면에 대해 설명하고 기업의 역할을 강조했다.
‘공공선 융합 포럼’은 디지털 전환 시대의 융합 연구 생태계와 혁신 전략 등을 논의하는 행사로, 이날 하진화 카카오 ESG위원회 정책팀 프로젝트리더는 △카카오의 알고리즘 윤리헌장 △기술윤리위원회 △증오발언 근절을 위한 노력 등에 관해 전반적으로 소개했다.
이날 포럼에 참여한 아주대 인공지능학과 손경아 교수와 성균관대 사회학과 구정우 교수는 거대언어모델(Large language model, LLM)을 활용한 새로운 접근법을 제시했다. 한국어 혐오 표현 모델은 사람과 유사하게 문맥적 요소를 고려할 수 있는 장점이 있다고 설명했다.
숭실대 AI융합학부 박건우 교수는 딥러닝 기술을 활용한 기사 탐지 방법·유튜브 썸네일 품질 평가 방법 등을 소개하며, 인공지능 기술이 온라인상의 오정보·편향성·혐오 등의 사회문제 해결에 중요한 역할을 할 수 있다고 주장했다.
카카오는 2018년 알고리즘 윤리헌장을 발표하며 국내 기업 최초로 알고리즘 윤리 규범을 마련했다. 알고리즘 윤리헌장에는 인류의 편익과 행복을 추구하는 카카오 AI 기술의 지향점, 의도적 차별성 방지, 윤리에 근거한 학습 데이터 및 수집 관리 원칙, 알고리즘 관리의 독립성과 알고리즘에 대한 설명 방침 등의 내용이 담겨 있다.
이러한 윤리 규범과 헌장을 지켜나가기 위한 관련 조직도 운영 중이다. 카카오는 2022년 국내 기업 중 최초로 그룹 전반을 아우르는 ‘공동체 기술윤리위원회’를 신설했다. 전 계열사 전반에 걸쳐 기술윤리를 점검하고 이를 사회와 함께 발전시켜 나가는 방안을 지속적으로 연구하는 조직이다.
기술윤리위원회는 AI 윤리규정 준수 여부와 위험성 점검, 알고리즘의 투명성 강화 등을 위한 체계적 정책 개선 업무를 수행하고 있다. 이용자들에게 더 쉽고 투명하게 소통하기 위해 2023년 6월부터 카카오 기업 홈페이지에 온라인 매거진 ‘Tech Ethics’를 발간하고 있다.
이러한 기술윤리의 일환으로 증오발언 근절을 위한 원칙을 소개했다. 최근 온라인상에서의 증오발언이 사회적인 문제로 대두되며, 이에 따른 대응책이 필요하다고 강조했다. 카카오는 미디어자문위, 국가인권위, 한국언론법학회, 시민 전문가와 함께 증오발언 대응에 대해 논의했으며 이를 기반으로 2021년 관련 정책을 수립하고 서비스와 기술에 적용해 왔다.
하진화 카카오 CA협의체 ESG위원회 정책팀 프로젝트리더는 “2020년부터 혐오표현 대응을 위한 원칙과 정책 마련 노력을 진행해 왔다”며, “AI를 포함한 기술 자체의 안전성을 높이기 위해 적극 노력할 것”이라고 말했다.
공공선 융합포럼 위원장인 구정우 교수는 “작년에 이어 카카오와 포럼을 열어 의제를 공유하고 발전 방향을 함께 찾았다”며, “디지털 공간의 이용자 안전에 대해 학계와 기업이 협력하고 발전 방안을 찾는 자리는 그 자체로 큰 의미를 갖는다”고 전했다.
한편, 카카오는 디지털 기업으로서 높은 수준의 신뢰와 안전을 갖추고 기술로 사회적 책임을 다하기 위해 지속적으로 노력하고 있다. 윤리헌장 제정, 관련 조직 운영 외에도 전사 교육, 인권 침해 신고 채널 운영 등 인권경영을 실천하기 위해 다각도로 노력 중이다.
[박미영 기자(mypark@boannews.com)]
[보안뉴스 박미영 기자] 카카오가 ‘2024 공공선 융합 포럼’에서 디지털 안전을 위한 기술 윤리와 카카오의 노력에 관해 발표하고 학계와 소통했다.
[사진=카카오]
카카오는 지난 26일 성균관대 인권과 개발센터, 아주대 BK21Four 인공지능사업단, 한양대 인공지능대학원사업단 등이 주관한 ‘공공선 융합 포럼’에 참석해 기술이 갖춰야 할 윤리적 측면에 대해 설명하고 기업의 역할을 강조했다.
‘공공선 융합 포럼’은 디지털 전환 시대의 융합 연구 생태계와 혁신 전략 등을 논의하는 행사로, 이날 하진화 카카오 ESG위원회 정책팀 프로젝트리더는 △카카오의 알고리즘 윤리헌장 △기술윤리위원회 △증오발언 근절을 위한 노력 등에 관해 전반적으로 소개했다.
이날 포럼에 참여한 아주대 인공지능학과 손경아 교수와 성균관대 사회학과 구정우 교수는 거대언어모델(Large language model, LLM)을 활용한 새로운 접근법을 제시했다. 한국어 혐오 표현 모델은 사람과 유사하게 문맥적 요소를 고려할 수 있는 장점이 있다고 설명했다.
숭실대 AI융합학부 박건우 교수는 딥러닝 기술을 활용한 기사 탐지 방법·유튜브 썸네일 품질 평가 방법 등을 소개하며, 인공지능 기술이 온라인상의 오정보·편향성·혐오 등의 사회문제 해결에 중요한 역할을 할 수 있다고 주장했다.
카카오는 2018년 알고리즘 윤리헌장을 발표하며 국내 기업 최초로 알고리즘 윤리 규범을 마련했다. 알고리즘 윤리헌장에는 인류의 편익과 행복을 추구하는 카카오 AI 기술의 지향점, 의도적 차별성 방지, 윤리에 근거한 학습 데이터 및 수집 관리 원칙, 알고리즘 관리의 독립성과 알고리즘에 대한 설명 방침 등의 내용이 담겨 있다.
이러한 윤리 규범과 헌장을 지켜나가기 위한 관련 조직도 운영 중이다. 카카오는 2022년 국내 기업 중 최초로 그룹 전반을 아우르는 ‘공동체 기술윤리위원회’를 신설했다. 전 계열사 전반에 걸쳐 기술윤리를 점검하고 이를 사회와 함께 발전시켜 나가는 방안을 지속적으로 연구하는 조직이다.
기술윤리위원회는 AI 윤리규정 준수 여부와 위험성 점검, 알고리즘의 투명성 강화 등을 위한 체계적 정책 개선 업무를 수행하고 있다. 이용자들에게 더 쉽고 투명하게 소통하기 위해 2023년 6월부터 카카오 기업 홈페이지에 온라인 매거진 ‘Tech Ethics’를 발간하고 있다.
이러한 기술윤리의 일환으로 증오발언 근절을 위한 원칙을 소개했다. 최근 온라인상에서의 증오발언이 사회적인 문제로 대두되며, 이에 따른 대응책이 필요하다고 강조했다. 카카오는 미디어자문위, 국가인권위, 한국언론법학회, 시민 전문가와 함께 증오발언 대응에 대해 논의했으며 이를 기반으로 2021년 관련 정책을 수립하고 서비스와 기술에 적용해 왔다.
하진화 카카오 CA협의체 ESG위원회 정책팀 프로젝트리더는 “2020년부터 혐오표현 대응을 위한 원칙과 정책 마련 노력을 진행해 왔다”며, “AI를 포함한 기술 자체의 안전성을 높이기 위해 적극 노력할 것”이라고 말했다.
공공선 융합포럼 위원장인 구정우 교수는 “작년에 이어 카카오와 포럼을 열어 의제를 공유하고 발전 방향을 함께 찾았다”며, “디지털 공간의 이용자 안전에 대해 학계와 기업이 협력하고 발전 방안을 찾는 자리는 그 자체로 큰 의미를 갖는다”고 전했다.
한편, 카카오는 디지털 기업으로서 높은 수준의 신뢰와 안전을 갖추고 기술로 사회적 책임을 다하기 위해 지속적으로 노력하고 있다. 윤리헌장 제정, 관련 조직 운영 외에도 전사 교육, 인권 침해 신고 채널 운영 등 인권경영을 실천하기 위해 다각도로 노력 중이다.
[박미영 기자(mypark@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박미영기자 기사보기
[2024-09-06] 
.jpg)
