.jpg)
이재명 대통령, 예산 100조원으로 AI 정책 밀어붙이며 신성장동력 강력 추진
내년 1월 ‘AI 기본법’ 시행 앞두고 산업발전과 개인정보 보호 사이 딜레마
산업과 윤리 중 택일 ‘이분법’ 아니라 개인정보 ‘선용’(善用)과 기술력 관건
이재명 정부는 AI 정부를 자처한다. 이재명 대통령은 취임 전부터 AI 분야에 깊은 관심을 보였고 경제 재도약과 국가대전환의 계기를 AI를 통해 실현해보려는 의지를 강력하게 드러내고 있다. 이 대통령은 ‘AI 3대 강국 도약’을 기치로 내걸고 100조 원 규모의 인공지능 산업 투자를 선언했다. 대통령실에는 전담 AI미래기획수석실이 신설되었고, 대규모 언어모델 개발을 주도한 민간 기업 출신 인사들이 과학기술분야 관련 부처에 배치돼 기대를 모으고 있다. 하지만 이재명 정부의 이 화려한 AI 드라이브의 이면에는, 우리가 간과하고 있거나 아무도 이야기하지 않는 그림자가 있다. ‘사람과 보안’은 참여연대와 시민사회가 이재명 정부에 제안한 ‘AI 정책에 반드시 포함되어야 할 6대 제안’을 바탕으로 ‘이재명 정부 AI 전략을 다시 묻다’ 시리즈를 연재한다. [편집자주]
[보안뉴스 성기노 기자] 최근 카카오뱅크(카뱅) 윤호영 대표의 한 강연회에 참석했다. 그가 10여년동안 카카오뱅크를 이끌면서 느낀 소회 가운데 가장 인상적인 점은 “카뱅은 은행이기 때문에 고객 유치가 최대의 목표 같겠지만 우리 회사 관점에서 보면 ‘고객의 문제를 얼마나 잘 해결해주느냐’가 가장 중요한 지향점”이라고 말했다.
오프라인 매장이 한 곳도 없는 카뱅으로서는 고객의 앱 설치가 핵심이고 그 앱을 얼마나 편리하게 이용해서 이탈자가 없도록 하는 것이 최대 관건이라는 것이다.
또한 이날 강연에서 한 참석자의 질문도 이어졌다. 그는 “AI가 4차 산업혁명의 핵심 영역으로 불릴 정도로 급속도로 발전하고 있다. 이에 우리도 내년 1월 초 AI 기본법이 발효된다(AI 기본법은 인공지능의 윤리적 발전과 산업 활성화를 위한 법적 근거를 마련한 법률로, 2024년 12월 26일 국회 본회의를 통과해 2026년 1월 시행 예정이다). 그런데 AI 기본법에는 과도한 규제도 함께 포함돼 있다. 일선 기업들이 AI를 마음껏 개발하고 활용하고 싶어도 AI 기본법 규제에 묶여 어려움을 겪을 수 있다. 카카오뱅크의 대책은 무엇인가”를 물었다.
이에 윤호영 대표는 “기본적으로 정부 규제를 부정적으로 받아들이지 않는다. 핀테크 기업에게 규제는 공존해야 할 일종의 규칙이지 그것이 불편하고 힘들다고 해서는 안 된다. 규제가 있다면 더 우수한 기술력과 핀테크 거버넌스로 돌파해 나가야 할 것”이라고 말했다. 사실 윤 대표가 공개석상에서 정부의 AI 개발 규제에 대해 불만의 목소리를 높이기는 부담스러운 측면이 있었기 때문에 ‘본심’을 얘기하지 않았을 수도 있다.
하지만 윤 대표의 ‘현답’은, 이재명 정부가 앞으로 맞닥뜨릴 산업과 개인정보(데이터) 이용 사이의 딜레마를 해결하는 하나의 단초가 될 수도 있을 것이다. 이재명 정부는 AI 예산 100조원을 쏟아 부어 소버린 AI(자국의 독립적인 AI)를 실현하려고 한다. 또한 경제체질 개선을 위해 AI를 신성장 동력의 핵심으로 삼으려고도 한다. 당연히 이재명 정부는 AI의 산업적 측면을 강조하고 중시할 수밖에 없다.
하지만 업계에서 우려하는 AI 기본법은 AI의 산업적 측면도 포괄하고 있지만 그 방점은 ‘인공지능의 윤리적 발전’에 찍혀 있다. 법안 제목만 봐도 윤리적 발전이 산업 활성화의 앞에 놓여 있다. 바로 이 지점에서 이재명 정부와 시민단체가 AI의 발전을 두고 ‘산업’과 ‘윤리’라는 양 대척점에서 충돌하게 된다.
이재명 정부로서는 AI가 4차 산업 시대의 핵심 분야이기 때문에 어떻게 해서든 기술개발과 소버린 AI 실현을 앞당겨야 한다. 그렇다고 해서 그 과정에서 빚어질 개인의 ‘정보권’ 피해 또한 간과할 수 없는 노릇이다. 4차 산업혁명 시대로 나아가는 우리는, 이재명 정부의 AI 산업 측면 강조와 개인 정보권 보호 사이의 거대한 딜레마에 빠져 있다.
디지털 기본권은 통신권, 정보권, 수익권 등으로 구성된다. 그 중 정보권은 흔히 ‘알 권리’로 통하는 개념이다. 그러나 단지 아는 것에만 그치지 않고 자신의 정보를 보호받을 권리와 일정한 조건 하에서 타인의 정보를 제공받을 수 있는 권리의 양 측면을 모두 보장하는 개념이라는 게 학계의 정설이다.
이렇듯 정보권은 개인의 신상 정보, 지식이나 정보 재산 등을 광범위하게 보호받을 권리를 말한다. SK텔레콤 해킹 사태는 정보권(개인정보)의 보호와 관리가 얼마나 중요한지를 실증하는 대표적인 사례다. SK 또한 천문학적인 피해를 입으며 그 대가를 톡톡히 치르고 있다.
우리나라 시민은 AI가 유발할 수 있는 개인정보 위험의 심각성에 대해서 성인 76.1%, 청소년 76.2%가 “심각하다”고 응답했다. SK텔레콤 개인정보 유출 사태에서 볼 수 있듯이 개인정보 보호를 빅테크 기업의 불투명한 선의에만 맡겨둘 경우 정보주체 시민의 신뢰를 저버리는 중대 사고로 이어질 수 있다(‘이재명 정부 AI 정책에 반드시 포함해야 할 6대 정책과제’ 참여연대 등 시민단체 5개 공동 참여).
이러한 상황에서 이재명 대통령은 지난 대선 과정에서 “거대 플랫폼 기업의 이용자 보호 수준 제고”를 위하여 “개인정보 수집·활용에 대한 실태 점검 및 제재 수준 강화”를 공약으로 내걸었다. 또한 “인공지능 시대에 맞는 개인정보보호 평가·관리 체계 구축”도 제시했다.
이는 일반론적인 개인정보보호와 AI 규제 대책이긴 하지만 참여연대 등의 시민단체들은 이재명 정부의 ‘개인정보보호’ 공약을 여전히 신뢰하지 않고 있다. 시민단체들은 AI가 대량의 데이터를 필연적으로 수집하며 여기에는 시민의 개인정보가 포함된다고 경고한다.
그들은 이재명 대통령의 공약인 “투명하고 공정한 온라인 플랫폼 시장 구축”과 “인공지능 시대에 맞는 개인정보보호 체계 구축”이 헌법상 개인정보자기결정권을 철저히 보장해야 한다고 주장한다. 이는 AI 학습에 사용되는 개인정보에 대해 시민이 동의하고 처리 반대(opt-out)나 정지를 요구할 권리를 포함한다.
예를 들어 온라인 표적 광고는 쿠키 ID나 광고식별자(AD ID)를 통해 우리의 행동을 추적하지만 동의 절차는 미흡하다. 특히 아동이나 민감정보(건강, 종교 등)를 기반으로 한 프로파일링은 엄격히 규제되어야 한다.
AI 기술 개발을 위해 개인 정보권이 오남용 되는 것을 방지해야 하는 것은 물론 당사자의 동의가 전제돼야 한다. 하지만 이런 개인 정보권에 대한 ‘당위론적 요구’는 현장 스타트업계의 기술 개발을 가로막는 최대 장애물로 인식되는 경향이 있다.
스타트업계는 규제가 혁신을 가로막는다며 반발한다. 내년 시행되는 AI 기본법은 ‘고영향 AI’(생명, 안전, 기본권에 중대한 영향을 미치는 AI)에 엄격한 규제를 적용하지만 그 기준이 모호해 기업들이 혼란을 겪고 있다. “선진국 기준을 그대로 적용하면 국내 AI 산업이 고사할 수 있다”며 유연한 규제도 촉구하고 있다.
이 대립은 단순히 산업과 규제(윤리)의 싸움이 아니다. 민주주의 국가에서 개인정보는 시민의 권리이자 보호받아야 할 디지털 기본권이다. SK텔레콤 사태처럼 데이터가 유출되거나 악용되면 신뢰는 무너지고 이는 AI 산업의 지속 가능성마저 위협한다.
하지만 과도한 규제가 기술 개발을 막는다면 글로벌 AI 경쟁에서 뒤처질 위험도 크다. 중국이 AI 기술 개발에서 우리보다 월등하게 앞서가는 이유도 권위주의 국가의 ‘개인정보 무분별 이용’이라는 불법적이고 비윤리적인 행위가 포함돼 있기 때문이다.
이재명 정부는 AI 시대에 닥친 산업과 규제의 거대한 딜레마를 먼저 풀어내야 한다. 예산 100조 원의 AI 드라이브 정책이 산업에만 치우친다면 시민의 데이터(개인정보)는 기업의 돈벌이 도구로 전락한다. 하지만 ‘과잉’ 규제가 혁신을 막는다면 글로벌 경쟁에서 낙오되는 ‘이중의 벽’에 가로 막혀 있다.
이런 거대한 딜레마에 대한 해답은 산업과 규제 중 어떤 하나를 택해야 하는 이분법의 문제가 아니다. 산업 진흥과 개인정보 보호를 아우르는 통합적 해법을 모색해야 한다. 투명한 데이터 거버넌스, 개인정보 ‘선용’(善用)에 대한 사회적 합의 등이 반드시 필요하다. 윤호영 카카오뱅크 대표의 말처럼 “더 우수한 기술력”으로 규제와 공존할 길을 찾기도 해야 한다. 이재명 정부 ‘100조 원 AI 정책’의 성패는 이 균형의 디테일에서 갈릴 것이다.
[성기노 기자(kino@boannews.com)]
내년 1월 ‘AI 기본법’ 시행 앞두고 산업발전과 개인정보 보호 사이 딜레마
산업과 윤리 중 택일 ‘이분법’ 아니라 개인정보 ‘선용’(善用)과 기술력 관건
이재명 정부는 AI 정부를 자처한다. 이재명 대통령은 취임 전부터 AI 분야에 깊은 관심을 보였고 경제 재도약과 국가대전환의 계기를 AI를 통해 실현해보려는 의지를 강력하게 드러내고 있다. 이 대통령은 ‘AI 3대 강국 도약’을 기치로 내걸고 100조 원 규모의 인공지능 산업 투자를 선언했다. 대통령실에는 전담 AI미래기획수석실이 신설되었고, 대규모 언어모델 개발을 주도한 민간 기업 출신 인사들이 과학기술분야 관련 부처에 배치돼 기대를 모으고 있다. 하지만 이재명 정부의 이 화려한 AI 드라이브의 이면에는, 우리가 간과하고 있거나 아무도 이야기하지 않는 그림자가 있다. ‘사람과 보안’은 참여연대와 시민사회가 이재명 정부에 제안한 ‘AI 정책에 반드시 포함되어야 할 6대 제안’을 바탕으로 ‘이재명 정부 AI 전략을 다시 묻다’ 시리즈를 연재한다. [편집자주]
[자료: gettyimagesbank]
[보안뉴스 성기노 기자] 최근 카카오뱅크(카뱅) 윤호영 대표의 한 강연회에 참석했다. 그가 10여년동안 카카오뱅크를 이끌면서 느낀 소회 가운데 가장 인상적인 점은 “카뱅은 은행이기 때문에 고객 유치가 최대의 목표 같겠지만 우리 회사 관점에서 보면 ‘고객의 문제를 얼마나 잘 해결해주느냐’가 가장 중요한 지향점”이라고 말했다.
오프라인 매장이 한 곳도 없는 카뱅으로서는 고객의 앱 설치가 핵심이고 그 앱을 얼마나 편리하게 이용해서 이탈자가 없도록 하는 것이 최대 관건이라는 것이다.
또한 이날 강연에서 한 참석자의 질문도 이어졌다. 그는 “AI가 4차 산업혁명의 핵심 영역으로 불릴 정도로 급속도로 발전하고 있다. 이에 우리도 내년 1월 초 AI 기본법이 발효된다(AI 기본법은 인공지능의 윤리적 발전과 산업 활성화를 위한 법적 근거를 마련한 법률로, 2024년 12월 26일 국회 본회의를 통과해 2026년 1월 시행 예정이다). 그런데 AI 기본법에는 과도한 규제도 함께 포함돼 있다. 일선 기업들이 AI를 마음껏 개발하고 활용하고 싶어도 AI 기본법 규제에 묶여 어려움을 겪을 수 있다. 카카오뱅크의 대책은 무엇인가”를 물었다.
이에 윤호영 대표는 “기본적으로 정부 규제를 부정적으로 받아들이지 않는다. 핀테크 기업에게 규제는 공존해야 할 일종의 규칙이지 그것이 불편하고 힘들다고 해서는 안 된다. 규제가 있다면 더 우수한 기술력과 핀테크 거버넌스로 돌파해 나가야 할 것”이라고 말했다. 사실 윤 대표가 공개석상에서 정부의 AI 개발 규제에 대해 불만의 목소리를 높이기는 부담스러운 측면이 있었기 때문에 ‘본심’을 얘기하지 않았을 수도 있다.
하지만 윤 대표의 ‘현답’은, 이재명 정부가 앞으로 맞닥뜨릴 산업과 개인정보(데이터) 이용 사이의 딜레마를 해결하는 하나의 단초가 될 수도 있을 것이다. 이재명 정부는 AI 예산 100조원을 쏟아 부어 소버린 AI(자국의 독립적인 AI)를 실현하려고 한다. 또한 경제체질 개선을 위해 AI를 신성장 동력의 핵심으로 삼으려고도 한다. 당연히 이재명 정부는 AI의 산업적 측면을 강조하고 중시할 수밖에 없다.
[자료: gettyimagesbank]
하지만 업계에서 우려하는 AI 기본법은 AI의 산업적 측면도 포괄하고 있지만 그 방점은 ‘인공지능의 윤리적 발전’에 찍혀 있다. 법안 제목만 봐도 윤리적 발전이 산업 활성화의 앞에 놓여 있다. 바로 이 지점에서 이재명 정부와 시민단체가 AI의 발전을 두고 ‘산업’과 ‘윤리’라는 양 대척점에서 충돌하게 된다.
이재명 정부로서는 AI가 4차 산업 시대의 핵심 분야이기 때문에 어떻게 해서든 기술개발과 소버린 AI 실현을 앞당겨야 한다. 그렇다고 해서 그 과정에서 빚어질 개인의 ‘정보권’ 피해 또한 간과할 수 없는 노릇이다. 4차 산업혁명 시대로 나아가는 우리는, 이재명 정부의 AI 산업 측면 강조와 개인 정보권 보호 사이의 거대한 딜레마에 빠져 있다.
디지털 기본권은 통신권, 정보권, 수익권 등으로 구성된다. 그 중 정보권은 흔히 ‘알 권리’로 통하는 개념이다. 그러나 단지 아는 것에만 그치지 않고 자신의 정보를 보호받을 권리와 일정한 조건 하에서 타인의 정보를 제공받을 수 있는 권리의 양 측면을 모두 보장하는 개념이라는 게 학계의 정설이다.
이렇듯 정보권은 개인의 신상 정보, 지식이나 정보 재산 등을 광범위하게 보호받을 권리를 말한다. SK텔레콤 해킹 사태는 정보권(개인정보)의 보호와 관리가 얼마나 중요한지를 실증하는 대표적인 사례다. SK 또한 천문학적인 피해를 입으며 그 대가를 톡톡히 치르고 있다.
우리나라 시민은 AI가 유발할 수 있는 개인정보 위험의 심각성에 대해서 성인 76.1%, 청소년 76.2%가 “심각하다”고 응답했다. SK텔레콤 개인정보 유출 사태에서 볼 수 있듯이 개인정보 보호를 빅테크 기업의 불투명한 선의에만 맡겨둘 경우 정보주체 시민의 신뢰를 저버리는 중대 사고로 이어질 수 있다(‘이재명 정부 AI 정책에 반드시 포함해야 할 6대 정책과제’ 참여연대 등 시민단체 5개 공동 참여).
이러한 상황에서 이재명 대통령은 지난 대선 과정에서 “거대 플랫폼 기업의 이용자 보호 수준 제고”를 위하여 “개인정보 수집·활용에 대한 실태 점검 및 제재 수준 강화”를 공약으로 내걸었다. 또한 “인공지능 시대에 맞는 개인정보보호 평가·관리 체계 구축”도 제시했다.
이는 일반론적인 개인정보보호와 AI 규제 대책이긴 하지만 참여연대 등의 시민단체들은 이재명 정부의 ‘개인정보보호’ 공약을 여전히 신뢰하지 않고 있다. 시민단체들은 AI가 대량의 데이터를 필연적으로 수집하며 여기에는 시민의 개인정보가 포함된다고 경고한다.
그들은 이재명 대통령의 공약인 “투명하고 공정한 온라인 플랫폼 시장 구축”과 “인공지능 시대에 맞는 개인정보보호 체계 구축”이 헌법상 개인정보자기결정권을 철저히 보장해야 한다고 주장한다. 이는 AI 학습에 사용되는 개인정보에 대해 시민이 동의하고 처리 반대(opt-out)나 정지를 요구할 권리를 포함한다.
지난 3월 7일 당시 더불어민주당 이재명 대표가 국회에서 열린 AI 시대, 대한민국 새로운 길을 찾다 AI강국위원회 주관 토론회에 입장하고 있다. [자료:연합]
예를 들어 온라인 표적 광고는 쿠키 ID나 광고식별자(AD ID)를 통해 우리의 행동을 추적하지만 동의 절차는 미흡하다. 특히 아동이나 민감정보(건강, 종교 등)를 기반으로 한 프로파일링은 엄격히 규제되어야 한다.
AI 기술 개발을 위해 개인 정보권이 오남용 되는 것을 방지해야 하는 것은 물론 당사자의 동의가 전제돼야 한다. 하지만 이런 개인 정보권에 대한 ‘당위론적 요구’는 현장 스타트업계의 기술 개발을 가로막는 최대 장애물로 인식되는 경향이 있다.
스타트업계는 규제가 혁신을 가로막는다며 반발한다. 내년 시행되는 AI 기본법은 ‘고영향 AI’(생명, 안전, 기본권에 중대한 영향을 미치는 AI)에 엄격한 규제를 적용하지만 그 기준이 모호해 기업들이 혼란을 겪고 있다. “선진국 기준을 그대로 적용하면 국내 AI 산업이 고사할 수 있다”며 유연한 규제도 촉구하고 있다.
이 대립은 단순히 산업과 규제(윤리)의 싸움이 아니다. 민주주의 국가에서 개인정보는 시민의 권리이자 보호받아야 할 디지털 기본권이다. SK텔레콤 사태처럼 데이터가 유출되거나 악용되면 신뢰는 무너지고 이는 AI 산업의 지속 가능성마저 위협한다.
하지만 과도한 규제가 기술 개발을 막는다면 글로벌 AI 경쟁에서 뒤처질 위험도 크다. 중국이 AI 기술 개발에서 우리보다 월등하게 앞서가는 이유도 권위주의 국가의 ‘개인정보 무분별 이용’이라는 불법적이고 비윤리적인 행위가 포함돼 있기 때문이다.
이재명 정부는 AI 시대에 닥친 산업과 규제의 거대한 딜레마를 먼저 풀어내야 한다. 예산 100조 원의 AI 드라이브 정책이 산업에만 치우친다면 시민의 데이터(개인정보)는 기업의 돈벌이 도구로 전락한다. 하지만 ‘과잉’ 규제가 혁신을 막는다면 글로벌 경쟁에서 낙오되는 ‘이중의 벽’에 가로 막혀 있다.
이런 거대한 딜레마에 대한 해답은 산업과 규제 중 어떤 하나를 택해야 하는 이분법의 문제가 아니다. 산업 진흥과 개인정보 보호를 아우르는 통합적 해법을 모색해야 한다. 투명한 데이터 거버넌스, 개인정보 ‘선용’(善用)에 대한 사회적 합의 등이 반드시 필요하다. 윤호영 카카오뱅크 대표의 말처럼 “더 우수한 기술력”으로 규제와 공존할 길을 찾기도 해야 한다. 이재명 정부 ‘100조 원 AI 정책’의 성패는 이 균형의 디테일에서 갈릴 것이다.
[성기노 기자(kino@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
성기노기자 기사보기
[2025-04-07] .jpg)
.jpg)
