.jpg)
BHSN 박선동 변호사, ‘AI 시대의 개인정보보호’라는 주제로 PIS FAIR 2024 키노트 세션 발표
AI와 개인정보보호에 관한 주요 이슈와 갈등사항 3가지...해결방안 모색
[보안뉴스 김경애 기자] 국내 최대 개인정보보호 콘퍼런스 ‘PIS FAIR 2024’의 키노트 세션에서 BHSN 박선동 변호사는 ‘AI 시대의 개인정보보호’라는 주제로 AI 기술과 개인정보보호 법률의 충돌 가능성과 이에 대한 대응방안을 발표해 관심이 모아졌다.
1. AI와 데이터의 중요성, 개인정보
AI를 활용하기 위해서는 막대한 데이터가 필수다. 하지만 그 안에는 민감한 개인정보를 포함하고 있어 광범위한 데이터 활용으로 인한 개인정보 침해 우려가 제기된다.
이와 관련 BHSN 박선동 변호사는 “AI 혁신을 통한 데이터 활용방안 고민과 더불어 개인정보를 보호하는 균형있는 입법과 정책이 필요하다”고 강조했다.
2. AI와 개인정보보호의 갈등
현재 AI와 개인정보보호에 관한 주요 이슈 및 갈등사항은 크게 3가지로 △기존 개인정보보호원칙과의 충돌 가능성 △개인정보처리자의 정보주체의 권리보장 △Clearview AI 이슈 등이 있다.
①기존 개인정보보호원칙과의 충돌 가능성
지금까지 개인정보보호법은 최소한의 개인정보를 수집하고 있으나, AI는 효과적인 학습과 정확한 예측을 위해 가능한 많은 데이터가 필요하다는 관점에서 최소수집 원칙의 의미가 무색한 상황이다.
② 개인정보처리자의 정보주체의 권리보장
개인정보처리자의 정보주체의 권리보장 측면에서는 AI 시스템에서 개인정보가 지속적으로 학습 및 업데이트 되는 과정을 거치게 되면 이에 대한 권리 행사가 어려울 수 있다는 것이다.
③ Clearview AI 이슈
다음으로 공개된 이미지를 수집해 강력한 안면인식 기술을 개발한 Clearview AI 이슈는 법 집행기관이 범죄자를 식별하고 체포하는데 사용되어 공공 안전에 크게 기여했다. 그러나 사용자의 동의없이 수백만 개의 이미지를 인터넷에서 수집해 여러 국가에서 개인정보보호법 위반으로 벌금이 부과된 바 있다. 향후 이러한 유사 분쟁사례가 발생할 가능성이 높다는 얘기다.
이와 관련 박 변호사는 “AI는 현재, 그리고 미래에 가장 중요한 기술이지만, 개인정보보호라는 중요한 가치가 무시될 수 있다”며 “기술의 편익과 가치 사이에서 균형을 찾아야 한다”고 강조했다.
3. 개인정보보호법과 관련 정책의 변화
AI 기술의 획기적 발전에 따라 개인정보보호법과 정책도 지속적으로 변화하고 있다. 이는 △2020년 데이터3법 개정을 통한 가명정보 활용 제도의 법제화 △2023년 3월 자동화 시스템에 의한 결정에 대한 정보주체의 자기결정권 보호 △2023년 8월 개인정보보호위원회의 새로운 정책 방향 제시 등으로 변화되고 있다.
4. AI 시대 데이터 이용 관련 이슈와 동향
AI 데이터 이용과 관련해 개인정보위는 ①공개된 데이터의 활용 ②가명정보의 활용 ③합성데이터 모델 ④생체정보 활용 ⑤저작권법 개정 논의 등의 정책 제도를 운영 중이다. 이와 관련해서 아직 풀어야할 과제도 만만치 않다.
①공개된 데이터의 활용, AI 학습 위한 데이터 활용 보장해야
첫째, 공개된 데이터의 활용과 관련해 박 변호사는 “현재 개인정보보호법에는 공개된 데이터의 활용에 대한 규정이 없다”며 “대법원 판례에 따라 기준을 제시하고 있는데, 객관적 동의가 인정된 경우에는 정보주체 동의 없이 이용할 수 있다고 판단하고 있다”고 말했다.
이어 박 변호사는 “조만간 개인정보위에서도 공개된 데이터 활용에 대한 가이드라인을 발간할 예정”이라면서도 “여기서 한발 더 나아가 개인정보보호법 개정 입법을 추진해 AI 학습을 위한 공개된 데이터 활용을 보장해야 한다는 견해가 제시되고 있다”고 설명했다.
②가명정보의 활용, 가명처리 중단 요구에 대한 논의 필요
가명정보 활용에 있어서는 SKT 통신사 이용자들이 SKT를 상대로 가명처리 중단을 요구한 사례가 있다. 1심에서 이용자가 승소했으며, 항소심에서도 이용자가 승소하면서 가명처리를 중단하라는 결정이 내려진 바 있다.
이에 대해 박 변호사는 “판례 사유를 보면 개인정보보호법상 정보주체의 가명처리 정보에 대해서도 처리중지권을 인정하고 있다”며 “법에 따르면 이용자들의 주장이 타당하나, 가명처리는 누구에게 불이익을 주는 게 아니고, 처리중지권이 남용될 경우 글로벌 기업과의 경쟁에 제약이 될 수 있어 좀 더 심도있는 논의가 필요하다”고 설명했다.
③합성데이터 모델, 절차 복잡해 실제 적용 어려워
다음으로 합성데이터 모델이다. 최근 개인정보위에서는 합성데이터 모델을 발표했다. 기업에서는 개인정보 침해 우려를 낮춰주면서 데이터 확보를 지원하는 정책방향은 환영하는 입장이다. 향후 기술 발전에 따른 사례 축적으로 큰 도움이 될 수 있다는 기대감이다. 다만 현 시점에서는 절차가 복잡하고 실제 적용에 있어 어려움이 있다는 점과 개념 생성이 명확하지 않는 등 모호한 부분도 있다는 지적이다.
④생체정보 활용, 민감정보라 조심히 접근해야
다음은 생체정보 활용이다. EU의 인공지능법은 공공장소에서 원격으로 실시간 생체인식을 하거나, 안면 이미지를 스크랩핑하는 것을 금지하고 있다. 반면 중국은 안면인식 기술이 최고로 인식되고 있는 가운데, 정부 차원에서 데이터 확보를 위해 적극 지원하고 있는 양상이다. 이를 통해 상당량의 데이터를 축적하겠다는 방침이다.
하지만 이러한 안면인식 데이터가 공익적 측면에서 활용이 편리하고 유용하기도 하지만 개인정보보호 측면에서 보면 민감정보이기 때문에 조심히 접근해야 한다는 의견이 제기되고 있다.
이와 관련 박 변호사는 “생체정보의 경우 현재 정보주체 동의를 받아야 하나 출입국관리법처럼 규정이 있는 경우 예외 활용이 가능하다”며 “앞으로 AI 학습에 있어 공익 목적으로는 일반적인 조항도 인정해야 한다는 견해도 있어 좀더 심도 있는 논의가 필요하다”고 설명했다.
⑤저작권법 개정 논의, AI 학습에 대한 면책조항 필요
마지막으로 저작권법 개정 논의가 필요하다는 의견이 제기되고 있다. AI 학습에 있어 저작권침해, 개인정보 침해 문제에 대해 EU와 일본은 현재 입법이 마련된 상황이다. 국내의 경우도 AI 학습에 있어 면책 조항이 필요하다는 것이다.
이와 관련 BHSN 박선동 변호사는 “정부는 AI 학습에 있어 저작권 침해 면책조항에 대해 입법을 추진하겠다고 밝힌 바 있는데, AI에 초점을 맞추고 있다”며 “개인정보보호에 대한 면책 조항도 있어야 한다는 견해도 제기되고 있어 AI 도입 확대 및 산업 활성화와 균형을 맞추는 방향으로 정부, 기업, 시민 간에 합리적이고 생산적인 논의가 요구된다”고 강조했다.
[김경애 기자(boan3@boannews.com)]
AI와 개인정보보호에 관한 주요 이슈와 갈등사항 3가지...해결방안 모색
[보안뉴스 김경애 기자] 국내 최대 개인정보보호 콘퍼런스 ‘PIS FAIR 2024’의 키노트 세션에서 BHSN 박선동 변호사는 ‘AI 시대의 개인정보보호’라는 주제로 AI 기술과 개인정보보호 법률의 충돌 가능성과 이에 대한 대응방안을 발표해 관심이 모아졌다.
▲PIS FAIR 2024에서 BHSN 박선동 변호사가 ‘AI 시대의 개인정보보호’란 주제로 발표하고 있다[사진=보안뉴스]
1. AI와 데이터의 중요성, 개인정보
AI를 활용하기 위해서는 막대한 데이터가 필수다. 하지만 그 안에는 민감한 개인정보를 포함하고 있어 광범위한 데이터 활용으로 인한 개인정보 침해 우려가 제기된다.
이와 관련 BHSN 박선동 변호사는 “AI 혁신을 통한 데이터 활용방안 고민과 더불어 개인정보를 보호하는 균형있는 입법과 정책이 필요하다”고 강조했다.
2. AI와 개인정보보호의 갈등
현재 AI와 개인정보보호에 관한 주요 이슈 및 갈등사항은 크게 3가지로 △기존 개인정보보호원칙과의 충돌 가능성 △개인정보처리자의 정보주체의 권리보장 △Clearview AI 이슈 등이 있다.
①기존 개인정보보호원칙과의 충돌 가능성
지금까지 개인정보보호법은 최소한의 개인정보를 수집하고 있으나, AI는 효과적인 학습과 정확한 예측을 위해 가능한 많은 데이터가 필요하다는 관점에서 최소수집 원칙의 의미가 무색한 상황이다.
② 개인정보처리자의 정보주체의 권리보장
개인정보처리자의 정보주체의 권리보장 측면에서는 AI 시스템에서 개인정보가 지속적으로 학습 및 업데이트 되는 과정을 거치게 되면 이에 대한 권리 행사가 어려울 수 있다는 것이다.
③ Clearview AI 이슈
다음으로 공개된 이미지를 수집해 강력한 안면인식 기술을 개발한 Clearview AI 이슈는 법 집행기관이 범죄자를 식별하고 체포하는데 사용되어 공공 안전에 크게 기여했다. 그러나 사용자의 동의없이 수백만 개의 이미지를 인터넷에서 수집해 여러 국가에서 개인정보보호법 위반으로 벌금이 부과된 바 있다. 향후 이러한 유사 분쟁사례가 발생할 가능성이 높다는 얘기다.
이와 관련 박 변호사는 “AI는 현재, 그리고 미래에 가장 중요한 기술이지만, 개인정보보호라는 중요한 가치가 무시될 수 있다”며 “기술의 편익과 가치 사이에서 균형을 찾아야 한다”고 강조했다.
3. 개인정보보호법과 관련 정책의 변화
AI 기술의 획기적 발전에 따라 개인정보보호법과 정책도 지속적으로 변화하고 있다. 이는 △2020년 데이터3법 개정을 통한 가명정보 활용 제도의 법제화 △2023년 3월 자동화 시스템에 의한 결정에 대한 정보주체의 자기결정권 보호 △2023년 8월 개인정보보호위원회의 새로운 정책 방향 제시 등으로 변화되고 있다.
4. AI 시대 데이터 이용 관련 이슈와 동향
AI 데이터 이용과 관련해 개인정보위는 ①공개된 데이터의 활용 ②가명정보의 활용 ③합성데이터 모델 ④생체정보 활용 ⑤저작권법 개정 논의 등의 정책 제도를 운영 중이다. 이와 관련해서 아직 풀어야할 과제도 만만치 않다.
①공개된 데이터의 활용, AI 학습 위한 데이터 활용 보장해야
첫째, 공개된 데이터의 활용과 관련해 박 변호사는 “현재 개인정보보호법에는 공개된 데이터의 활용에 대한 규정이 없다”며 “대법원 판례에 따라 기준을 제시하고 있는데, 객관적 동의가 인정된 경우에는 정보주체 동의 없이 이용할 수 있다고 판단하고 있다”고 말했다.
이어 박 변호사는 “조만간 개인정보위에서도 공개된 데이터 활용에 대한 가이드라인을 발간할 예정”이라면서도 “여기서 한발 더 나아가 개인정보보호법 개정 입법을 추진해 AI 학습을 위한 공개된 데이터 활용을 보장해야 한다는 견해가 제시되고 있다”고 설명했다.
②가명정보의 활용, 가명처리 중단 요구에 대한 논의 필요
가명정보 활용에 있어서는 SKT 통신사 이용자들이 SKT를 상대로 가명처리 중단을 요구한 사례가 있다. 1심에서 이용자가 승소했으며, 항소심에서도 이용자가 승소하면서 가명처리를 중단하라는 결정이 내려진 바 있다.
이에 대해 박 변호사는 “판례 사유를 보면 개인정보보호법상 정보주체의 가명처리 정보에 대해서도 처리중지권을 인정하고 있다”며 “법에 따르면 이용자들의 주장이 타당하나, 가명처리는 누구에게 불이익을 주는 게 아니고, 처리중지권이 남용될 경우 글로벌 기업과의 경쟁에 제약이 될 수 있어 좀 더 심도있는 논의가 필요하다”고 설명했다.
③합성데이터 모델, 절차 복잡해 실제 적용 어려워
다음으로 합성데이터 모델이다. 최근 개인정보위에서는 합성데이터 모델을 발표했다. 기업에서는 개인정보 침해 우려를 낮춰주면서 데이터 확보를 지원하는 정책방향은 환영하는 입장이다. 향후 기술 발전에 따른 사례 축적으로 큰 도움이 될 수 있다는 기대감이다. 다만 현 시점에서는 절차가 복잡하고 실제 적용에 있어 어려움이 있다는 점과 개념 생성이 명확하지 않는 등 모호한 부분도 있다는 지적이다.
④생체정보 활용, 민감정보라 조심히 접근해야
다음은 생체정보 활용이다. EU의 인공지능법은 공공장소에서 원격으로 실시간 생체인식을 하거나, 안면 이미지를 스크랩핑하는 것을 금지하고 있다. 반면 중국은 안면인식 기술이 최고로 인식되고 있는 가운데, 정부 차원에서 데이터 확보를 위해 적극 지원하고 있는 양상이다. 이를 통해 상당량의 데이터를 축적하겠다는 방침이다.
하지만 이러한 안면인식 데이터가 공익적 측면에서 활용이 편리하고 유용하기도 하지만 개인정보보호 측면에서 보면 민감정보이기 때문에 조심히 접근해야 한다는 의견이 제기되고 있다.
이와 관련 박 변호사는 “생체정보의 경우 현재 정보주체 동의를 받아야 하나 출입국관리법처럼 규정이 있는 경우 예외 활용이 가능하다”며 “앞으로 AI 학습에 있어 공익 목적으로는 일반적인 조항도 인정해야 한다는 견해도 있어 좀더 심도 있는 논의가 필요하다”고 설명했다.
⑤저작권법 개정 논의, AI 학습에 대한 면책조항 필요
마지막으로 저작권법 개정 논의가 필요하다는 의견이 제기되고 있다. AI 학습에 있어 저작권침해, 개인정보 침해 문제에 대해 EU와 일본은 현재 입법이 마련된 상황이다. 국내의 경우도 AI 학습에 있어 면책 조항이 필요하다는 것이다.
이와 관련 BHSN 박선동 변호사는 “정부는 AI 학습에 있어 저작권 침해 면책조항에 대해 입법을 추진하겠다고 밝힌 바 있는데, AI에 초점을 맞추고 있다”며 “개인정보보호에 대한 면책 조항도 있어야 한다는 견해도 제기되고 있어 AI 도입 확대 및 산업 활성화와 균형을 맞추는 방향으로 정부, 기업, 시민 간에 합리적이고 생산적인 논의가 요구된다”고 강조했다.
[김경애 기자(boan3@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김경애기자 기사보기
[2024-06-19] 
