‘AI 프라이버시 민·관 정책협의회’ 제2차 전체회의 개최
‘AI 개발·서비스를 위한 공개된 개인정보 활용 가이드라인(안)’ 논의
[보안뉴스 김경애 기자] 챗GPT 등 대규모 언어모형(LLM) 개발의 핵심원료인 공개된 데이터에는 개인정보가 포함되어 있으나, 명확한 규율체계가 없어 회색지대가 발생하고 현장 불확실성이 높다. 이는 AI 학습에 필수적인 공개된 데이터 활용의 제약요인으로 작용하고 있다. 이에 따라 공개된 데이터를 안전하게 활용하기 위한 기준 마련이 시급하다는 지적이 지속적으로 제기되고 있다.
이러한 가운데 ‘AI 프라이버시 민·관 정책협의회’ 제2차 전체회의와 ‘AI 개발·서비스를 위한 공개된 개인정보 활용 가이드라인(안)’에 대해 논의하는 자리가 마련돼 관심이 모아지고 있다.
이번 정책협의회에서는 공개된 개인정보의 안전한 활용 관련 주요 법적·기술적 쟁점 사항을 비롯해 AI 개발·서비스 단계별로 공개된 개인정보를 적법하고 안전하게 처리하기 위한 기준 등을 담은 ‘AI 개발·서비스를 위한 공개된 개인정보 활용 가이드라인(안)’의 주요 내용을 공유하기 위해 마련됐다.
이후 진행될 전체토론에서는 학계, 산업계, 시민단체 등 각계 위원과 관계부처의 의견을 청취하고, 공개된 개인정보 규율체계의 합리성과 완성도를 높일 수 있는 방안을 함께 논의할 예정이다.
개인정보위는 이날 민간 전문가 및 관계부처가 제시한 의견을 검토·반영하고 개인정보보호위원회 전체회의 등을 거쳐 5월 중 가이드라인을 확정·발표할 방침이다.
김병필 카이스트 교수(데이터 처리기준 분과장)는 “국제적으로는 대규모 AI 모형을 학습하기 위한 데이터가 조만간 고갈될 수 있다는 우려까지도 제기되고 있으나 우리는 기존에 축적된 데이터도 충분히 활용하지 못하는 실정”이라며 “온라인상 공개된 정보를 AI 학습에 안전하게 활용할 수 있는 적절한 가이드라인을 통해 현장의 불확실성을 낮출 필요가 있다”라고 밝혔다.
공동의장인 배경훈 엘지(LG) 인공지능(AI)연구원장은 “생성형 AI의 발전은 점점 더 많은 학습데이터를 필요로 하고 있으며, 안전한 공개 데이터 활용은 더욱더 중요해지고 있다”라면서 “이에 AI 프라이버시 민·관 정책협의회에서 마련한 가이드라인은 시의적절하게 그 방향성을 제시하고 있으며, 앞으로도 다양한 이해관계자들과 협의를 통해 개인정보 보호와 AI 기술발전이 상호 보완적으로 이루어지는 건강한 생태계를 조성해나갈 수 있기를 기대한다”라고 밝혔다.
개인정보보호위원회 고학수 위원장은 “이번에 마련한 가이드라인은 AI 맥락에서 크게 두 가지 의미로 첫 번째는 인터넷상에 존재하는 수많은 개인정보가 안전하게 AI 학습에 쓰이도록 하는 것”이라며 “대규모 언어모형 등 인공지능 모델은 공개된 데이터를 핵심 원료로 개발되는 반면, 공개된 데이터에는 여러 개인정보가 포함되어 있어 암기 리스크나 프롬프트 공격, 민감정보 추론 등에 의해 프라이버시를 침해할 위험성이 있다”고 밝혔다.
현재 미국, 영국, 프랑스 등 주요국에서도 대규모 웹스크래핑 방식으로 수집한 공개된 개인정보의 안전한 활용에 대한 논의가 본격적으로 이뤄지고 있다는 것. 따라서, AI 기획단계부터 학습-서비스 단계까지 적절한 안전장치를 마련해 국민이 안심할 수 있는 인공지능 환경을 마련할 필요가 있다는 게 고학수 위원장의 설명이다.
두번째는 우리 AI 기업의 인공지능 기술 혁신을 지원하는 것이다. 이에 대해 고학수 위원장은 “일상속에 스며드는 AI를 경험하면서 교육이나 의료 격차 등 사회적 불균형을 해소하고 국민의 삶을 윤택하게 하는 등 AI의 잠재력을 체감할 수 있다”며 “인공지능 기술의 경쟁력을 확보는 사회‧경제‧안보 측면에서 중요한 국가적 과제”라고 말했다.
이어 고학수 위원장은 “공개된 개인정보 처리에 대한 법적 불확실성은 AI 기술 혁신의 중요한 걸림돌로 지적되어 왔다”며 “개인정보위가 작년말부터 올 초까지 실시한 국내외 주요 AI 기업 실태점검 결과를 보면, 공개된 개인정보 처리 기준의 미비로 현장의 불확실성이 높고 기업별 보호조치 방법과 수준에도 차이가 있다는 점을 알 수 있다”고 밝혔다.
또한 이번 가이드라인을 통해 AI 맥락에서 ‘공개된 개인정보 활용’과 관련한 일종의 ‘가드레일’을 설치해 기업의 불확실성을 해소하고, AI 기술과 서비스를 혁신해 나가는 계기가 되길 기대한다고 덧붙였다.
[김경애 기자(boan3@boannews.com)]
‘AI 개발·서비스를 위한 공개된 개인정보 활용 가이드라인(안)’ 논의
[보안뉴스 김경애 기자] 챗GPT 등 대규모 언어모형(LLM) 개발의 핵심원료인 공개된 데이터에는 개인정보가 포함되어 있으나, 명확한 규율체계가 없어 회색지대가 발생하고 현장 불확실성이 높다. 이는 AI 학습에 필수적인 공개된 데이터 활용의 제약요인으로 작용하고 있다. 이에 따라 공개된 데이터를 안전하게 활용하기 위한 기준 마련이 시급하다는 지적이 지속적으로 제기되고 있다.
[이미지=gettyimagesbank]
이러한 가운데 ‘AI 프라이버시 민·관 정책협의회’ 제2차 전체회의와 ‘AI 개발·서비스를 위한 공개된 개인정보 활용 가이드라인(안)’에 대해 논의하는 자리가 마련돼 관심이 모아지고 있다.
이번 정책협의회에서는 공개된 개인정보의 안전한 활용 관련 주요 법적·기술적 쟁점 사항을 비롯해 AI 개발·서비스 단계별로 공개된 개인정보를 적법하고 안전하게 처리하기 위한 기준 등을 담은 ‘AI 개발·서비스를 위한 공개된 개인정보 활용 가이드라인(안)’의 주요 내용을 공유하기 위해 마련됐다.
이후 진행될 전체토론에서는 학계, 산업계, 시민단체 등 각계 위원과 관계부처의 의견을 청취하고, 공개된 개인정보 규율체계의 합리성과 완성도를 높일 수 있는 방안을 함께 논의할 예정이다.
개인정보위는 이날 민간 전문가 및 관계부처가 제시한 의견을 검토·반영하고 개인정보보호위원회 전체회의 등을 거쳐 5월 중 가이드라인을 확정·발표할 방침이다.
김병필 카이스트 교수(데이터 처리기준 분과장)는 “국제적으로는 대규모 AI 모형을 학습하기 위한 데이터가 조만간 고갈될 수 있다는 우려까지도 제기되고 있으나 우리는 기존에 축적된 데이터도 충분히 활용하지 못하는 실정”이라며 “온라인상 공개된 정보를 AI 학습에 안전하게 활용할 수 있는 적절한 가이드라인을 통해 현장의 불확실성을 낮출 필요가 있다”라고 밝혔다.
공동의장인 배경훈 엘지(LG) 인공지능(AI)연구원장은 “생성형 AI의 발전은 점점 더 많은 학습데이터를 필요로 하고 있으며, 안전한 공개 데이터 활용은 더욱더 중요해지고 있다”라면서 “이에 AI 프라이버시 민·관 정책협의회에서 마련한 가이드라인은 시의적절하게 그 방향성을 제시하고 있으며, 앞으로도 다양한 이해관계자들과 협의를 통해 개인정보 보호와 AI 기술발전이 상호 보완적으로 이루어지는 건강한 생태계를 조성해나갈 수 있기를 기대한다”라고 밝혔다.
개인정보보호위원회 고학수 위원장은 “이번에 마련한 가이드라인은 AI 맥락에서 크게 두 가지 의미로 첫 번째는 인터넷상에 존재하는 수많은 개인정보가 안전하게 AI 학습에 쓰이도록 하는 것”이라며 “대규모 언어모형 등 인공지능 모델은 공개된 데이터를 핵심 원료로 개발되는 반면, 공개된 데이터에는 여러 개인정보가 포함되어 있어 암기 리스크나 프롬프트 공격, 민감정보 추론 등에 의해 프라이버시를 침해할 위험성이 있다”고 밝혔다.
현재 미국, 영국, 프랑스 등 주요국에서도 대규모 웹스크래핑 방식으로 수집한 공개된 개인정보의 안전한 활용에 대한 논의가 본격적으로 이뤄지고 있다는 것. 따라서, AI 기획단계부터 학습-서비스 단계까지 적절한 안전장치를 마련해 국민이 안심할 수 있는 인공지능 환경을 마련할 필요가 있다는 게 고학수 위원장의 설명이다.
두번째는 우리 AI 기업의 인공지능 기술 혁신을 지원하는 것이다. 이에 대해 고학수 위원장은 “일상속에 스며드는 AI를 경험하면서 교육이나 의료 격차 등 사회적 불균형을 해소하고 국민의 삶을 윤택하게 하는 등 AI의 잠재력을 체감할 수 있다”며 “인공지능 기술의 경쟁력을 확보는 사회‧경제‧안보 측면에서 중요한 국가적 과제”라고 말했다.
이어 고학수 위원장은 “공개된 개인정보 처리에 대한 법적 불확실성은 AI 기술 혁신의 중요한 걸림돌로 지적되어 왔다”며 “개인정보위가 작년말부터 올 초까지 실시한 국내외 주요 AI 기업 실태점검 결과를 보면, 공개된 개인정보 처리 기준의 미비로 현장의 불확실성이 높고 기업별 보호조치 방법과 수준에도 차이가 있다는 점을 알 수 있다”고 밝혔다.
또한 이번 가이드라인을 통해 AI 맥락에서 ‘공개된 개인정보 활용’과 관련한 일종의 ‘가드레일’을 설치해 기업의 불확실성을 해소하고, AI 기술과 서비스를 혁신해 나가는 계기가 되길 기대한다고 덧붙였다.
[김경애 기자(boan3@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김경애기자 기사보기
[2024-12-10] 
.jpg)
.jpg)
