과기정통부, 인공지능의 윤리적 개발과 활용을 위한 ‘제2차 인공지능 윤리정책 포럼’ 개최
[보안뉴스 박미영 기자] 과학기술정보통신부(이하 과기정통부)는 지난 5일 정보통신정책연구원(이하 KISDI)·한국정보통신기술협회(이하 TTA)와 함께 ‘제2차 인공지능 윤리정책 포럼’을 개최했다.
‘인공지능 윤리정책 포럼’은 인공지능의 윤리적 개발과 활용을 위한 논의와 인공지능 신뢰성 검·인증 등 주요 정책 과제에 대한 의견 수렴을 위한 공론의 장으로, 올해 4월 제2기 포럼이 출범했으며 산업계를 비롯해 윤리·교육·철학 등 다양한 분야에서 30명의 전문가가 포럼위원으로 활동하고 있다.
2기 포럼 출범식에서는 2023년 추진 계획 발표와 2022년 주요 정책 과제 결과물인 챗봇·작문·영상 분야 자율점검표와 일반·공공·의료·자율주행 분야 개발안내서 관련 의견 수렴을 진행했다.
특히 챗GPT 등 초거대·생성형 인공지능이 빠르게 확산되면서 국제적으로 책임감 있는 인공지능 혁신의 중요성이 강조되는 상황임에 따라 인공지능 윤리의식을 확산하고 민간의 자율규제 환경을 조성하기 위한 논의의 장으로 ‘인공지능 윤리정책 포럼’에 대한 기대감이 높아지고 있다.
포럼은 ①윤리분과(분과장: 문정욱 KISDI 센터장) ②기술분과(분과장: 이강해 TTA 단장) ③교육분과(분과장: 변순용 서울교대 교수)로 구성돼 있으며, 이번 포럼에서는 분과별 생성형 인공지능 활용과 관련한 윤리적 쟁점들을 발표하고 윤리와 신뢰성을 담보하면서 초거대·생성형 인공지능의 활용을 촉진할 수 있는 방안에 대해 심도 깊은 논의를 진행했다.
윤리분과 세션에서는 노태영 위원(김·장 법률사무소 변호사)이 ‘법률 서비스 분야에서의 생성형 AI 활용과 윤리적·법적 쟁점’이라는 주제로 개인에 대한 법률 상담이나 기업의 계약서 작성 등에 사용될 수 있는 생성형 인공지능은 민감한 정보를 처리하고 산출 과정에 대한 설명이 어려워 이용자에 대한 안전성 및 책임성·연대성 등이 고려돼야 한다는 점을 강조했다.
기술분과 세션에서는 한국IBM 김지관 실장이 ‘Trustworthy AI(신뢰 가능한 인공지능) 구현을 위해 기업이 고민해야 할 것들’이라는 주제로 데이터·인공지능 모델·위험 관리 체계라는 3가지 측면에서 고려해야 할 부분을 발표하며, 기업이 데이터 및 인공지능 모델의 소유 및 사용주체를 명확히 하고 이에 대한 관리를 수행할 수 있도록 정부에서 가이드라인을 제시할 필요가 있음을 강조했다.
교육분과 세션에서는 아티피셜소사이어티 김기영 대표가 ‘생성형 인공지능을 활용한 맞춤형 교육의 현 주소 및 방향성’이라는 주제로 향후 교육 분야에서 생성형 인공지능의 활용도가 높아질 것으로 예상되나 다른 영역에 비해 엄격한 윤리적 기준이 적용돼야 하므로 인간 전문가에 의한 감수 및 평가는 여전히 중요할 것이라며, 특히 학습데이터의 진실성·저작권 확보·다양성 및 인간의 엄격한 검증과 관련된 부분을 강조했다.
과기정통부 엄열 인공지능기반정책관은 “인공지능이 주는 혜택과 함께 인공지능의 잠재적 위험성, 부작용에 대한 우려가 증가하는 상황에서 책임감 있는 인공지능 사용이 어느 때보다 중요해지고 있다”고 강조하며, “제2차 인공지능 윤리정책 포럼에서 논의된 사항을 반영해 우리 기업이 자율적으로 인공지능 윤리·신뢰성을 확보할 수 있도록 가이드라인 제시 및 검증체계 마련 등 정부에게 요청한 사항에 대한 지원을 아끼지 않겠다”고 밝혔다.
[박미영 기자(mypark@boannews.com)]
[보안뉴스 박미영 기자] 과학기술정보통신부(이하 과기정통부)는 지난 5일 정보통신정책연구원(이하 KISDI)·한국정보통신기술협회(이하 TTA)와 함께 ‘제2차 인공지능 윤리정책 포럼’을 개최했다.
‘인공지능 윤리정책 포럼’은 인공지능의 윤리적 개발과 활용을 위한 논의와 인공지능 신뢰성 검·인증 등 주요 정책 과제에 대한 의견 수렴을 위한 공론의 장으로, 올해 4월 제2기 포럼이 출범했으며 산업계를 비롯해 윤리·교육·철학 등 다양한 분야에서 30명의 전문가가 포럼위원으로 활동하고 있다.
2기 포럼 출범식에서는 2023년 추진 계획 발표와 2022년 주요 정책 과제 결과물인 챗봇·작문·영상 분야 자율점검표와 일반·공공·의료·자율주행 분야 개발안내서 관련 의견 수렴을 진행했다.
특히 챗GPT 등 초거대·생성형 인공지능이 빠르게 확산되면서 국제적으로 책임감 있는 인공지능 혁신의 중요성이 강조되는 상황임에 따라 인공지능 윤리의식을 확산하고 민간의 자율규제 환경을 조성하기 위한 논의의 장으로 ‘인공지능 윤리정책 포럼’에 대한 기대감이 높아지고 있다.
포럼은 ①윤리분과(분과장: 문정욱 KISDI 센터장) ②기술분과(분과장: 이강해 TTA 단장) ③교육분과(분과장: 변순용 서울교대 교수)로 구성돼 있으며, 이번 포럼에서는 분과별 생성형 인공지능 활용과 관련한 윤리적 쟁점들을 발표하고 윤리와 신뢰성을 담보하면서 초거대·생성형 인공지능의 활용을 촉진할 수 있는 방안에 대해 심도 깊은 논의를 진행했다.
윤리분과 세션에서는 노태영 위원(김·장 법률사무소 변호사)이 ‘법률 서비스 분야에서의 생성형 AI 활용과 윤리적·법적 쟁점’이라는 주제로 개인에 대한 법률 상담이나 기업의 계약서 작성 등에 사용될 수 있는 생성형 인공지능은 민감한 정보를 처리하고 산출 과정에 대한 설명이 어려워 이용자에 대한 안전성 및 책임성·연대성 등이 고려돼야 한다는 점을 강조했다.
기술분과 세션에서는 한국IBM 김지관 실장이 ‘Trustworthy AI(신뢰 가능한 인공지능) 구현을 위해 기업이 고민해야 할 것들’이라는 주제로 데이터·인공지능 모델·위험 관리 체계라는 3가지 측면에서 고려해야 할 부분을 발표하며, 기업이 데이터 및 인공지능 모델의 소유 및 사용주체를 명확히 하고 이에 대한 관리를 수행할 수 있도록 정부에서 가이드라인을 제시할 필요가 있음을 강조했다.
교육분과 세션에서는 아티피셜소사이어티 김기영 대표가 ‘생성형 인공지능을 활용한 맞춤형 교육의 현 주소 및 방향성’이라는 주제로 향후 교육 분야에서 생성형 인공지능의 활용도가 높아질 것으로 예상되나 다른 영역에 비해 엄격한 윤리적 기준이 적용돼야 하므로 인간 전문가에 의한 감수 및 평가는 여전히 중요할 것이라며, 특히 학습데이터의 진실성·저작권 확보·다양성 및 인간의 엄격한 검증과 관련된 부분을 강조했다.
과기정통부 엄열 인공지능기반정책관은 “인공지능이 주는 혜택과 함께 인공지능의 잠재적 위험성, 부작용에 대한 우려가 증가하는 상황에서 책임감 있는 인공지능 사용이 어느 때보다 중요해지고 있다”고 강조하며, “제2차 인공지능 윤리정책 포럼에서 논의된 사항을 반영해 우리 기업이 자율적으로 인공지능 윤리·신뢰성을 확보할 수 있도록 가이드라인 제시 및 검증체계 마련 등 정부에게 요청한 사항에 대한 지원을 아끼지 않겠다”고 밝혔다.
[박미영 기자(mypark@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박미영기자 기사보기
[2024-09-26] 
.jpg)
