.jpg)
.jpg)
제품·서비스 기획부터 폐기 단계까지 전 주기에 걸쳐 개인정보보호 적용해야
[보안뉴스 박미영 기자] 지능정보화 기술의 발전에 따라 빅데이터, 사물인터넷/자율주행차, 핀테크, 스마트 의료/헬스케어, 인공지능, 생체인식 기반 인증/보안, 드론을 비롯한 다양한 분야에서 개인정보보호 이슈가 제기되고 있다. 이에 본지는 7회에 걸쳐 ‘2017 개인정보보호 연차보고서’에 소개된 각 분야별 개인정보보호 이슈를 짚어보는 시간을 마련했다. 다섯 번째 시간은 4차 산업혁명 시대에서 가장 큰 키워드가 되고 있는 인공지능 분야에서의 개인정보보호 이슈에 대해 살펴본다.
.jpg)
인공지능은 컴퓨터가 인간의 사고, 학습, 판단 등 인간의 지능적 행동을 모방할 수 있도록 하는 정보기술의 한 분야를 말한다. 2006년 이후 심층신경망을 학습시키는 딥러닝 기술이 개발되면서 복잡한 패턴의 데이터를 학습할 수 있게 됐다. 또한, 대규모 연산을 빠른 시간에 할 수 있는 범용그래픽연산장치 및 클라우드 컴퓨팅이 등장하고, 인터넷과 모바일 등에서 생성되는 대규모 데이터가 확보됨에 따라 인공지능의 성능 및 활용 분야는 급속도로 증대되고 있다.
인공지능의 활용 분야는 다양하다. 데이터가 존재하고 이를 분석, 인식해 판단을 내리는 모든 분야에 적용할 수 있다. 체스, 바둑, 퀴즈쇼에서 인공지능이 이미 사람을 능가했다.
한편, 의료 분야에서도 수많은 의료기록 및 문헌의 학습을 통해 뇌종양 등 질병에 대한 의료 진단과 치료법을 제시하는 데 적용되고 있다.
법률 분야에서는 방대한 법률 및 판례 분석을 통한 법률 자문 및 승소 가능성 예측에 적용되고 있으며, 금융 분야에서는 다양한 금융시장 정보를 종합해 기계가 투자 판단을 내리거나 조언해주는 로보어드바이저가 활용되고 있다.
가정에서는 음성을 인식해 명령을 수행하는 인공지능 스피커를 포함해 청소기, 냉장고, TV 등에 인공지능 기능이 추가되고 있다. 카메라로 도로 상황을 인식하고 판단해 자동차를 스스로 운전하는 자율주행 분야에도 인공지능 기술이 활용되고 있다.
한편, 인공지능은 설계 및 개발·제조와 유통 및 물류 등 생산 전반의 과정에 자동화 솔루션과 결합해 생산성과 품질·고객만족도를 향상시키는 지능형 생산 공장인 스마트 팩토리에서 데이터에 기반한 의사결정을 내리고 다른 부분을 제어하는 역할을 수행한다.
2016년 현재 두드러진 인공지능 제품은 인공지능 개인비서다. 인공지능 개인비서란 머신러닝·음성인식·문장분석·상황인지 등의 기술을 바탕으로 사용자의 음성언어를 이해하고 지시사항을 수행하는 기기로, 현재 글로벌 ICT 업체들은 인공지능 비서 개발과 보급에 적극 나서고 있다.
구글은 2014년 알파고의 개발로 유명한 영국 스타트업 딥마인드를 인수해 ‘구글 나우 서비스’를 시작했으며, 2016년 음성인식 기능과 빅데이터를 활용한 검색 기능 그리고 서드파티앱과의 연계성을 강화한 ‘구글 어시스턴트’와 가정용 개인비서인 ‘구글 홈’을 출시했다.
마이크로소프트는 2014년 개인비서 서비스인 ‘코타나’를 출시한 이래 2016년 링크드인 인수를 통해 코타나의 비서 업무 성능을 강화하고 있다. 아마존은 스피커형 인공지능 비서 기기인 ‘에코’를 출시했는데, 에코는 음성 명령을 통해 날씨·업무·음악재생·쇼핑 등의 기능을 수행한다.
국내에서는 2016년 SK텔레콤이 한국말을 알아듣는 인공지능 스피커인 ‘누구’를 출시했다. ‘누구’는 스스로 성장하는 성장형 인공지능 서비스다. 한편, 삼성전자는 애플 시리 개발자들이 설립한 미국 스타트업 비브랩스를 인수해 대화형 인공지능 서비스를 개발하고 있다.
이러한 인공지능 기술은 데이터를 학습해 패턴을 추출하고 데이터에 근거해서 판단을 내리게 되는데, 여기에 사용되는 데이터가 개인정보를 포함하고 있어 여러 가지 개인정보보호 이슈가 제기될 수 있다.
인공지능 개인비서, 인공지능 의료 등의 서비스를 위해서는 개인의 성별, 주소, 키, 몸무게, 혈액형, 취향 등 정적 개인정보뿐 아니라 위치, 구매이력, 조회 콘텐츠, 상호작용한 친구, 행위 패턴 등 동적인 개인정보가 수집돼야 하며 정밀 의료를 위해서는 DNA 정보도 필요하다.
이러한 개인정보의 보호는 빅데이터 개인정보보호 문제와 같지만 인공지능 시스템에서는 예상하지 못한 경로로 개인정보가 수집 또는 유출될 수도 있어 더욱 깊은 고려가 필요하다. 스피커 형태인 인공지능 비서를 통해 집안에 머물고 있는 사용자에 대한 녹음과 촬영이 가능한데, 이때 민감한 프라이버시 정보가 서비스 제공자에 의해 사용자의 의도와 달리 수집될 수도 있고 해킹에 의해 정보가 유출될 수도 있다.
한편, 인공지능 학습에 사용된 데이터의 유출도 발생할 수 있다. 미국의 카네기멜론대학은 2016년, 학습된 인공지능으로부터 학습에 사용된 데이터를 역으로 추출할 수 있다는 연구 결과를 발표했다. 얼굴인식 기능을 가진 인공지능에 반복적으로 질의해 학습에 사용된 얼굴 이미지를 추출해 내는 것으로, 이처럼 인공지능 학습데이터를 추출할 수 있다면 개인이 식별되고 민감정보가 유출되는 것도 가능하게 된다.
반대로 인공지능 기술을 사용해 비식별화된 개인의 신원을 유추·추론하거나 공개된 정보를 바탕으로 공개되지 않은 정보를 추론해 알아내는 것도 가능하다. 2명의 MIT 대학생들이 기계학습기법을 이용해 페이스북의 친구정보를 분석해 어떤 사람이 동성애자인지 밝혀내기도 했다.
따라서 인공지능 기술을 활용한 제품·서비스 기획에서 폐기 단계까지 전체 주기에 걸쳐 개인정보를 보호하는 기술 및 정책을 적용하고, 행태정보 수집을 위한 이용자 단말기에 접근 시 이용자 통제권을 보장하는 방안 마련 등이 필요하다.
[박미영 기자(mypark@boannews.com)]
[보안뉴스 박미영 기자] 지능정보화 기술의 발전에 따라 빅데이터, 사물인터넷/자율주행차, 핀테크, 스마트 의료/헬스케어, 인공지능, 생체인식 기반 인증/보안, 드론을 비롯한 다양한 분야에서 개인정보보호 이슈가 제기되고 있다. 이에 본지는 7회에 걸쳐 ‘2017 개인정보보호 연차보고서’에 소개된 각 분야별 개인정보보호 이슈를 짚어보는 시간을 마련했다. 다섯 번째 시간은 4차 산업혁명 시대에서 가장 큰 키워드가 되고 있는 인공지능 분야에서의 개인정보보호 이슈에 대해 살펴본다.
[이미지=iclickart]
인공지능은 컴퓨터가 인간의 사고, 학습, 판단 등 인간의 지능적 행동을 모방할 수 있도록 하는 정보기술의 한 분야를 말한다. 2006년 이후 심층신경망을 학습시키는 딥러닝 기술이 개발되면서 복잡한 패턴의 데이터를 학습할 수 있게 됐다. 또한, 대규모 연산을 빠른 시간에 할 수 있는 범용그래픽연산장치 및 클라우드 컴퓨팅이 등장하고, 인터넷과 모바일 등에서 생성되는 대규모 데이터가 확보됨에 따라 인공지능의 성능 및 활용 분야는 급속도로 증대되고 있다.
인공지능의 활용 분야는 다양하다. 데이터가 존재하고 이를 분석, 인식해 판단을 내리는 모든 분야에 적용할 수 있다. 체스, 바둑, 퀴즈쇼에서 인공지능이 이미 사람을 능가했다.
한편, 의료 분야에서도 수많은 의료기록 및 문헌의 학습을 통해 뇌종양 등 질병에 대한 의료 진단과 치료법을 제시하는 데 적용되고 있다.
법률 분야에서는 방대한 법률 및 판례 분석을 통한 법률 자문 및 승소 가능성 예측에 적용되고 있으며, 금융 분야에서는 다양한 금융시장 정보를 종합해 기계가 투자 판단을 내리거나 조언해주는 로보어드바이저가 활용되고 있다.
가정에서는 음성을 인식해 명령을 수행하는 인공지능 스피커를 포함해 청소기, 냉장고, TV 등에 인공지능 기능이 추가되고 있다. 카메라로 도로 상황을 인식하고 판단해 자동차를 스스로 운전하는 자율주행 분야에도 인공지능 기술이 활용되고 있다.
한편, 인공지능은 설계 및 개발·제조와 유통 및 물류 등 생산 전반의 과정에 자동화 솔루션과 결합해 생산성과 품질·고객만족도를 향상시키는 지능형 생산 공장인 스마트 팩토리에서 데이터에 기반한 의사결정을 내리고 다른 부분을 제어하는 역할을 수행한다.
2016년 현재 두드러진 인공지능 제품은 인공지능 개인비서다. 인공지능 개인비서란 머신러닝·음성인식·문장분석·상황인지 등의 기술을 바탕으로 사용자의 음성언어를 이해하고 지시사항을 수행하는 기기로, 현재 글로벌 ICT 업체들은 인공지능 비서 개발과 보급에 적극 나서고 있다.
구글은 2014년 알파고의 개발로 유명한 영국 스타트업 딥마인드를 인수해 ‘구글 나우 서비스’를 시작했으며, 2016년 음성인식 기능과 빅데이터를 활용한 검색 기능 그리고 서드파티앱과의 연계성을 강화한 ‘구글 어시스턴트’와 가정용 개인비서인 ‘구글 홈’을 출시했다.
마이크로소프트는 2014년 개인비서 서비스인 ‘코타나’를 출시한 이래 2016년 링크드인 인수를 통해 코타나의 비서 업무 성능을 강화하고 있다. 아마존은 스피커형 인공지능 비서 기기인 ‘에코’를 출시했는데, 에코는 음성 명령을 통해 날씨·업무·음악재생·쇼핑 등의 기능을 수행한다.
국내에서는 2016년 SK텔레콤이 한국말을 알아듣는 인공지능 스피커인 ‘누구’를 출시했다. ‘누구’는 스스로 성장하는 성장형 인공지능 서비스다. 한편, 삼성전자는 애플 시리 개발자들이 설립한 미국 스타트업 비브랩스를 인수해 대화형 인공지능 서비스를 개발하고 있다.
이러한 인공지능 기술은 데이터를 학습해 패턴을 추출하고 데이터에 근거해서 판단을 내리게 되는데, 여기에 사용되는 데이터가 개인정보를 포함하고 있어 여러 가지 개인정보보호 이슈가 제기될 수 있다.
인공지능 개인비서, 인공지능 의료 등의 서비스를 위해서는 개인의 성별, 주소, 키, 몸무게, 혈액형, 취향 등 정적 개인정보뿐 아니라 위치, 구매이력, 조회 콘텐츠, 상호작용한 친구, 행위 패턴 등 동적인 개인정보가 수집돼야 하며 정밀 의료를 위해서는 DNA 정보도 필요하다.
이러한 개인정보의 보호는 빅데이터 개인정보보호 문제와 같지만 인공지능 시스템에서는 예상하지 못한 경로로 개인정보가 수집 또는 유출될 수도 있어 더욱 깊은 고려가 필요하다. 스피커 형태인 인공지능 비서를 통해 집안에 머물고 있는 사용자에 대한 녹음과 촬영이 가능한데, 이때 민감한 프라이버시 정보가 서비스 제공자에 의해 사용자의 의도와 달리 수집될 수도 있고 해킹에 의해 정보가 유출될 수도 있다.
한편, 인공지능 학습에 사용된 데이터의 유출도 발생할 수 있다. 미국의 카네기멜론대학은 2016년, 학습된 인공지능으로부터 학습에 사용된 데이터를 역으로 추출할 수 있다는 연구 결과를 발표했다. 얼굴인식 기능을 가진 인공지능에 반복적으로 질의해 학습에 사용된 얼굴 이미지를 추출해 내는 것으로, 이처럼 인공지능 학습데이터를 추출할 수 있다면 개인이 식별되고 민감정보가 유출되는 것도 가능하게 된다.
반대로 인공지능 기술을 사용해 비식별화된 개인의 신원을 유추·추론하거나 공개된 정보를 바탕으로 공개되지 않은 정보를 추론해 알아내는 것도 가능하다. 2명의 MIT 대학생들이 기계학습기법을 이용해 페이스북의 친구정보를 분석해 어떤 사람이 동성애자인지 밝혀내기도 했다.
따라서 인공지능 기술을 활용한 제품·서비스 기획에서 폐기 단계까지 전체 주기에 걸쳐 개인정보를 보호하는 기술 및 정책을 적용하고, 행태정보 수집을 위한 이용자 단말기에 접근 시 이용자 통제권을 보장하는 방안 마련 등이 필요하다.
[박미영 기자(mypark@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박미영기자 기사보기
[2024-11-22] 
.jpg)
.jpg)
.jpg)
