콘텐츠 분야 인공지능 윤리기준 적용·확산 방안 논의한다

과기정통부 박윤규 제2차관, 이스트소프트 방문

[보안뉴스 박미영 기자] 과학기술정보통신부(이하 과기정통부) 박윤규 제2차관은 인공지능 윤리·신뢰성 강화를 위한 산업분야별 대표기업 연속 현장 방문의 일환으로 지난 28일 이스트소프트에 방문해 인공지능 윤리·신뢰성 준수 현황을 파악하고 적극적 이행을 독려했다.

이스트소프트는 실사 기반의 인공지능(AI) 휴먼(인공지능 기반 가상인물)을 생성해 방송·금융·교육 등과 관련한 영상 콘텐츠를 제공하는 기업으로, 자체적으로 수립한 5대 인공지능(AI) 윤리강령을 인공지능(AI) 휴먼 개발 및 활용 과정에 적용하고 있다. 5대 인공지능(AI) 윤리강령은 △인간을 존중하는 AI △사회에 공헌하는 AI △공정한 AI △윤리적 AI △안전한 AI다.

이스트소프트 정상원 대표는 인공지능(AI) 휴먼 개발에 챗GPT를 활용해 고객과 실시간 질의응답이 가능하도록 하되, 환각(Hallucination) 현상을 완화하기 위해 신문기사와 뉴스 등 사실에 입각한 데이터를 활용하고 인공지능(AI) 휴먼이 사람으로 오인되지 않도록 이용자들에게 인공지능(AI) 휴먼과 대화하고 있음을 표시하고 나아가 생성형 인공지능이 딥페이크 등에 활용돼 사회적 문제를 양산할 수 있는 우려에 대응해 인공지능을 활용한 생성물 여부를 탐지하는 기술개발을 추진하고 있다고 밝혔다.

과기정통부 박윤규 제2차관은 “인공지능(AI) 휴먼은 사람과 직접 소통하고 언행에 영향을 미칠 수 있다는 점에서 인공지능 윤리·신뢰성 확보가 특히 중요한 영역”이라고 강조하며, 사업자의 윤리·신뢰성 확보 노력을 독려했다.
[박미영 기자(mypark@boannews.com)]

내년 회사에 꼭 도입하고 싶은 보안 솔루션 또는 플랫폼은 무엇인가요?
	XDR
	EDR
	AI 보안
	제로트러스트
	공급망 보안 체계(SBOM)
	클라우드 보안 솔루션
	기타(댓글로)