개인정보위 구민주 서기관, ‘AI시대 안전한 개인정보 활용 정책 방향’ 제시
AI 개발·서비스를 위한 공개된 개인정보활용 가이드라인 6월 내 발표 예정
AI 프라이버시 리스크 평가 모델은 8월, 투명성 확보 가이드라인 12월 발표 예정
[보안뉴스 김경애 기자] 국내 최대 규모 개인정보보호 축제인 PIS FAIR 2024가 성황리에 열리고 있는 가운데, 첫날 CPO워크숍 마지막 강연에서는 개인정보보호위원회(이하 개인정보위) 인공지능프라이버시팀 구민주 서기관이 ‘AI 시대 안전한 개인정보 활용 정책방향’을 주제로 개인정보위의 핵심 추진과제에 대해 발표해 관심이 집중됐다.
핵심 추진과제로 구민주 서기관은 △자동화된 결정에 대한 권리 보장 △원칙기반 규율체계 구체화 △기업·연구자·정부기관 지원 △국제논의 주도 등 4가지를 제시했다.
1. 자동화된 결정에 대한 권리 보장(법 제37조의2 신설)
첫째, 자동화된 결정에 대한 권리 보장 조항이 신설됐다. 사람의 개입이 없는 ‘완전히 자동화된 결정’이 내려지는 영역으로, 개인정보 처리의 투명성 확보(영 제44조의4)와 정보의 제공 등 대응권이 보장(영 제44조의3)됐다.
자동화된 결정의 범위는 ①실질적인 사람의 개입 없이 완전히 자동화된 시스템으로 ②개인정보를 처리해 ③정보주체의 권리 또는 의무에 영향을 미치는지를 최종적으로 결정한다.
이에 대한 개정 법령은 지난 3월 15일부터 시행됐으며, 6월 안으로 구체적인 조치사항을 담은 고시 및 안내서 제정을 추진 중이다.
2. 원칙기반 규율체계 구체화
둘째, 원칙기반 규율체계의 구체화다. 이와 관련해 개인정보위는 △비정형데이터 가명처리 기준 완료 △AI 개발·서비스를 위한 공개된 개인정보 활용 가이드라인 6월 발표 예정 △AI프라이버시 리스크 평가 모델 8월 발표 예정 △투명성 확보 가이드라인 12월 발표를 목표로 추진할 예정이다.
이와 관련 구민주 서기관은 “비정형데이터 가명처리 기준을 지난 2월 완료했다”며 “구체적 사례를 담은 내용이라 참고할 필요가 있다”고 당부했다.
또한 AI 개발·서비스를 위한 공개된 개인정보 활용 가이드라인과 관련해 구민주 서기관은 “학습 데이터에 대한 주된 출처가 공개된 정보이다 보니, 개인정보를 포함하고 있음에도 불구하고, 처리 기준이 없다는 게 문제로 제기되고 있어 이에 대한 가이드라인을 준비 중”이라며 “개인정보위에서는 공개된 웹스크래밍 사용 안전조치 방안을 내놓고 있으며, 국제적 논의에 보조를 맞추고 있다”고 설명했다.
다음으로 AI 프라이버시 리스크 평가 모델은 AI 유형을 용례별로 리스크를 평가해 활용 권고 기준을 적용할 방침이다.
투명성 확보 가이드라인은 12월 발표를 목표로 진행된다. 이와 관련 구민주 서기관은 “활용한 데이터의 출처, 처리목적, 방법 등 공개·고지의 구체적 기준, 자동화된 결정을 포함해 AI 서비스 단계에서의 정보주체 권리 보장방안 등을 담으려고 한다”며 투명성 확인 가이드라인 에 담을 내용을 제시했다.
3. 기업·연구자정부·기관 지원
셋째, 개인정보위의 기업·연구자정부·기관 지원 계획이다. 사전 적정성 검토제, 규제 샌드박스, 개인정보 안심구역, 공익 목적의 AI 개발·활용 등에 초점을 맞추고 있다.
앞서 개인정보위는 자율주행 데이터 원본 활용을 허용한 바 있다. 이는 보행자 사고 방지 등 안전성 측면에서 영상 데이터 원본이 필요하다는 의견을 반영한 것으로, 강화된 안전조치를 전제로 하고 있다. 영상정보에 원본 데이터를 활용한 좋은 사례라는 분석이다.
특히 공익 목적의 AI 개발·활용 지원방안에 대해 구민주 서기관은 “금감원 등이 통화데이터를 보유하고 있다 보니, 데이터를 요청하는 통신사가 많았다”며 “이는 보이스피싱 의심 데이터를 활용해 조기 경보를 할 수 있는 애플리케이션 수요가 많았기 때문으로, 음성데이터 원본 활용의 문제점에 대한 법상 안전조치를 전체로 AI 개발·활용을 지원하고 있다”고 설명했다.
현재 개인정보위에서는 과학기술정보통신부 등 관계기관과 보이스피싱 업무협약을 맺었으며, 현재 SKT에서 앱 개발을 주도하고 있다. LG유플러스와 KT도 참여할 의향이 있는 것으로 알려져 있어 향후 통신사에서 통화데이터를 기반으로 안전하게 AI를 활용한다면 보이스피싱 피해를 크게 낮출 수 있을 것으로 개인정보위는 내다보고 있다.
4. 국제논의 주도
마지막으로 국제논의 주도다. 현재 개인정보위는 UN AI 고위급 자문기구, 전세계 140개 개인정보 감독기구가 포함된 글로벌 협의체 GPA, 프랑스 CNIL 등과 AI 정책 관련 협의회(정기) 등 해외 유관단체는 물론 글로벌 기업과도 수시로 소통 중이라고 밝혔다.
특히 개인정보위 고학수 위원장은 유엔 AI 고위급 자문기구 주요 인사 30명에 선정돼 활동 중인 만큼 국제논의 주도와 함께 AI 거버넌스 정책 방향 제시에 있어 한국의 역할과 위상이 커질 것으로 기대하고 있다.
이와 관련 구민주 서기관은 “AI 규제와 관련해 구속력 수준을 어느 정도로 해야 할 지, 완화된 정책을 어느 정도까지 적용할지 등 다양한 가능성을 열어 놓고, AI 거버넌스 방향성에 대해 심도 있는 논의를 하고 있다”며 “현재 한국 정부도 적극 참여하고 있는데, 올해 8월 AI 거버넌스 방향성 제시를 위한 최종 보고서가 나올 것”이라고 설명했다.
[김경애 기자(boan3@boannews.com)]
AI 개발·서비스를 위한 공개된 개인정보활용 가이드라인 6월 내 발표 예정
AI 프라이버시 리스크 평가 모델은 8월, 투명성 확보 가이드라인 12월 발표 예정
[보안뉴스 김경애 기자] 국내 최대 규모 개인정보보호 축제인 PIS FAIR 2024가 성황리에 열리고 있는 가운데, 첫날 CPO워크숍 마지막 강연에서는 개인정보보호위원회(이하 개인정보위) 인공지능프라이버시팀 구민주 서기관이 ‘AI 시대 안전한 개인정보 활용 정책방향’을 주제로 개인정보위의 핵심 추진과제에 대해 발표해 관심이 집중됐다.
▲PIS FAIR 2024에서 개인정보위 구민주 서기관이 ‘AI 시대 안전한 개인정보 활용 정책 방향’ 주제로 발표하고 있다[사진=보안뉴스]
핵심 추진과제로 구민주 서기관은 △자동화된 결정에 대한 권리 보장 △원칙기반 규율체계 구체화 △기업·연구자·정부기관 지원 △국제논의 주도 등 4가지를 제시했다.
1. 자동화된 결정에 대한 권리 보장(법 제37조의2 신설)
첫째, 자동화된 결정에 대한 권리 보장 조항이 신설됐다. 사람의 개입이 없는 ‘완전히 자동화된 결정’이 내려지는 영역으로, 개인정보 처리의 투명성 확보(영 제44조의4)와 정보의 제공 등 대응권이 보장(영 제44조의3)됐다.
자동화된 결정의 범위는 ①실질적인 사람의 개입 없이 완전히 자동화된 시스템으로 ②개인정보를 처리해 ③정보주체의 권리 또는 의무에 영향을 미치는지를 최종적으로 결정한다.
이에 대한 개정 법령은 지난 3월 15일부터 시행됐으며, 6월 안으로 구체적인 조치사항을 담은 고시 및 안내서 제정을 추진 중이다.
2. 원칙기반 규율체계 구체화
둘째, 원칙기반 규율체계의 구체화다. 이와 관련해 개인정보위는 △비정형데이터 가명처리 기준 완료 △AI 개발·서비스를 위한 공개된 개인정보 활용 가이드라인 6월 발표 예정 △AI프라이버시 리스크 평가 모델 8월 발표 예정 △투명성 확보 가이드라인 12월 발표를 목표로 추진할 예정이다.
이와 관련 구민주 서기관은 “비정형데이터 가명처리 기준을 지난 2월 완료했다”며 “구체적 사례를 담은 내용이라 참고할 필요가 있다”고 당부했다.
또한 AI 개발·서비스를 위한 공개된 개인정보 활용 가이드라인과 관련해 구민주 서기관은 “학습 데이터에 대한 주된 출처가 공개된 정보이다 보니, 개인정보를 포함하고 있음에도 불구하고, 처리 기준이 없다는 게 문제로 제기되고 있어 이에 대한 가이드라인을 준비 중”이라며 “개인정보위에서는 공개된 웹스크래밍 사용 안전조치 방안을 내놓고 있으며, 국제적 논의에 보조를 맞추고 있다”고 설명했다.
다음으로 AI 프라이버시 리스크 평가 모델은 AI 유형을 용례별로 리스크를 평가해 활용 권고 기준을 적용할 방침이다.
투명성 확보 가이드라인은 12월 발표를 목표로 진행된다. 이와 관련 구민주 서기관은 “활용한 데이터의 출처, 처리목적, 방법 등 공개·고지의 구체적 기준, 자동화된 결정을 포함해 AI 서비스 단계에서의 정보주체 권리 보장방안 등을 담으려고 한다”며 투명성 확인 가이드라인 에 담을 내용을 제시했다.
3. 기업·연구자정부·기관 지원
셋째, 개인정보위의 기업·연구자정부·기관 지원 계획이다. 사전 적정성 검토제, 규제 샌드박스, 개인정보 안심구역, 공익 목적의 AI 개발·활용 등에 초점을 맞추고 있다.
앞서 개인정보위는 자율주행 데이터 원본 활용을 허용한 바 있다. 이는 보행자 사고 방지 등 안전성 측면에서 영상 데이터 원본이 필요하다는 의견을 반영한 것으로, 강화된 안전조치를 전제로 하고 있다. 영상정보에 원본 데이터를 활용한 좋은 사례라는 분석이다.
특히 공익 목적의 AI 개발·활용 지원방안에 대해 구민주 서기관은 “금감원 등이 통화데이터를 보유하고 있다 보니, 데이터를 요청하는 통신사가 많았다”며 “이는 보이스피싱 의심 데이터를 활용해 조기 경보를 할 수 있는 애플리케이션 수요가 많았기 때문으로, 음성데이터 원본 활용의 문제점에 대한 법상 안전조치를 전체로 AI 개발·활용을 지원하고 있다”고 설명했다.
현재 개인정보위에서는 과학기술정보통신부 등 관계기관과 보이스피싱 업무협약을 맺었으며, 현재 SKT에서 앱 개발을 주도하고 있다. LG유플러스와 KT도 참여할 의향이 있는 것으로 알려져 있어 향후 통신사에서 통화데이터를 기반으로 안전하게 AI를 활용한다면 보이스피싱 피해를 크게 낮출 수 있을 것으로 개인정보위는 내다보고 있다.
4. 국제논의 주도
마지막으로 국제논의 주도다. 현재 개인정보위는 UN AI 고위급 자문기구, 전세계 140개 개인정보 감독기구가 포함된 글로벌 협의체 GPA, 프랑스 CNIL 등과 AI 정책 관련 협의회(정기) 등 해외 유관단체는 물론 글로벌 기업과도 수시로 소통 중이라고 밝혔다.
특히 개인정보위 고학수 위원장은 유엔 AI 고위급 자문기구 주요 인사 30명에 선정돼 활동 중인 만큼 국제논의 주도와 함께 AI 거버넌스 정책 방향 제시에 있어 한국의 역할과 위상이 커질 것으로 기대하고 있다.
이와 관련 구민주 서기관은 “AI 규제와 관련해 구속력 수준을 어느 정도로 해야 할 지, 완화된 정책을 어느 정도까지 적용할지 등 다양한 가능성을 열어 놓고, AI 거버넌스 방향성에 대해 심도 있는 논의를 하고 있다”며 “현재 한국 정부도 적극 참여하고 있는데, 올해 8월 AI 거버넌스 방향성 제시를 위한 최종 보고서가 나올 것”이라고 설명했다.
[김경애 기자(boan3@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김경애기자 기사보기
[2024-10-31] .jpg)
