[PIS FAIR 2025] 익명처리에도, 개인정보 ‘탈탈’…“AI 프로파일링 주의”

[보안뉴스 강현주 기자] 인공지능(AI)이 여러 데이터를 결합해 개인정보를 재식별하는 ‘AI 프로파일링’ 문제가 부각되면서, 강력 대응이 요구된다.

권헌영 고려대학교 사이버국방학과 교수는 28일 서울 삼성동 코엑스에서 이틀째 진행중인 PIS FAIR 2025에서 ‘인공지능과 개인정보처리의 주요 쟁점 및 대응방안’을 주제 발표했다.

▲권헌영 고려대 교수가 PIS FAIE 2025에서 발표하고 있다. [자료: 보안뉴스]

권 교수는 이 날 AI의 개인정보 ‘재식별’ 기능으로 인한 개인정보 사고를 언급했다. 단일 데이터로는 식별이 불가하나, 여러 데이터들이 결합되며 개인을 재식별 할 수 있는 ‘AI 프로파일링’ 문제다. 인공지능을 학습시키기 위해 방대한 데이터를 제공했을때 더 빈번히 나타날 수 있다.

일례로, 2006년 넷플릭스에서 개인정보 재식별 사고가 있었다. 당시 넷플릭스는 자사 콘텐츠 추천 알고리즘보다 뛰어난 알고리즘을 개발한 팀에게 상금을 수여하는 프로그램을 개최했다. 이를 위해 이용자들의 평점 데이터를 익명화해 공개했다. 하지만 AI가 평가목록, 평가날짜 등을 이용한 교차분석으로 개인을 재식별해냈다.

권 교수는 AI 프로파일링 등 AI로 인한 개인정보 침해에 대한 다양한 대응책들을 제시했다. 개인정보보호위원회의 ‘AI 개발·서비스를 위한 공개된 개인정보 처리 안내서’를 활용해 법·규제를 준수하고 위협을 최소화하라고 조언했다. 안전하게 처리한 ‘가명정보’의 활용도 권했다. 지속적인 모니터링을 통해 재식별 위협을 줄여야 한다고 강조했다.

권 교수는 해외 리스크 관리 사례도 참고할 것을 권했다. 애플은 아이폰에서 수집한 정보에 임의의 노이즈를 추가, 개인을 식별할 수 없도록 하는 ‘차등 프라이버시’ 기법을 도입했다.

권 교수는 “AI 전환(AIX) 시대 도래로 기술의 개발과 변화의 속도가 빠른 만큼, 인공지능 시대에서 개인정보처리 관련 보안 위협이 커졌다”며 “AI 프로파일링과 AI 시스템 침해와 오남용 대응 방안 마련이 필요하다”고 말했다.
[강현주 기자(jjoo@boannews.com)]

AI 및 AI 보안 솔루션이 보안 인력의 업무에 어떤 식으로 영향을 미칠것이라고 생각하시나요
	부족한 인력 보충: 만성적인 인력 부족 문제를 해결하는 보완재 역할을 하고 있다(100% 대체는 불가)
	업무 영역의 분리: AI는 대량 데이터 처리를, 전문가는 고도의 전략적 판단을 맡는 등 역할이 완전히 다르다
	업무 총량의 전이: 단순 업무는 줄었으나, AI 모델 관리·검증 등 새로운 형태의 운영 업무가 발생해 전체 업무량은 비슷하다
	인력 대체 가능: 단순 반복 업무를 넘어 분석/판단 영역까지 대체하여 인력을 줄일 수 있다
	신뢰도 부족: 아직은 AI의 오탐이나 환각(Hallucination) 우려로 인해 사람이 일일이 재검토해야 하므로 실질적인 도움은 적다