우리나라를 비롯한 지구촌 선도국의 최우선 과제는 AI
AI와 관련된 주목할 만한 보안 이슈는 ‘학습 데이터 중독’과 ‘민감한 정보 노출’
[보안뉴스= 배종찬 인사이트케이 연구소장] AI(인공지능)가 시대적 대세로 떠오르고 있다. AI가 거대한 트렌드로 자리잡으며 산업-경제 분야는 물론 문화 부문까지 두루 아우르며 전진하는 모양새다.
미국 주식시장에 투자하는 서학 개미 투자자들이 가장 많이 투자하고 있는 종목 역시 AI와 연관돼 있다. 애플과 함께 미국 주식시장 시총 1위 자리를 다투고 있는 엔비디아도 대표적인 AI 반도체 기업으로 꼽힌다.
한때 미국의 대표적인 반도체 기업인 인텔이 휘청거리고 있는 사이에 엔비디아의 강력한 대항마로 떠오른 브로드컴 역시 맞춤형 AI 반도체 기업이다. 이 뿐만이 아니다. 트럼프 당선에 결정적인 기여를 해서 정보효율부 수장 자리에 오를 예정인 일론 머스크가 야심차게 추진 중인 자율주행차 역시 AI를 기반으로 하고 있다.
수많은 시험 주행을 통해 데이터를 축적하고 학습해 어떤 환경에도 주행이 가능한 상태로 끌어올리는 일이 자율주행의 핵심이다. AI는 여기에 그치지 않는다. 불가능에 가까운 DNA 구조 분석을 통해 질병을 극복하고 인간 수명을 연장할 수 있는 역할까지 가능하게 만든다. 앞으로 우리나라뿐 아니라 지구촌 선도국의 최우선 과제는 AI라고 해도 과언이 아니다.
하지만 AI가 장밋빛 기대와 희망으로만 넘쳐나는 것은 결코 아니다. 보안 전문 언론 매체인 보안뉴스가 AI 시대의 보안에 대해 경고하고 나선 것은 다 이유가 있다.
여러 문제점 가운데 특히 주목되는 보안 이슈는 ‘학습 데이터 중독’이다. 학습 데이터 중독의 취약점은 학습에 사용되는 데이터가 조작되어 모델이 오염될 수 있다는 점이 꼽힌다. 이 같은 취약점이 노출될 경우 모델의 신뢰성에 타격이 불가피하기 때문이다.
공격자는 이를 노리고 특정한 행동을 하도록 유도함으로써 백도어 공격을 감행하거나 학습 데이터에 악성 데이터를 추가해 잘못된 패턴을 학습하도록 유도해 데이터를 변형할 수 있다는 얘기다.
AI 보안이 취약할 경우 ‘민감한 정보가 노출’될 우려 역시 커지고 있다. LLM(대규모 언어 모델) 애플리케이션 응답을 통해 개인정보 및 내부 정보와 같은 민감 정보가 노출될 수 있다는 지적도 나온다.
이는 학습 시 민감 정보 필터링과 데이터 권한 분리가 미흡하기 때문으로 풀이된다. 따라서 민감 정보가 노출되지 않도록 데이터 검증, 입출력 검사, 모델 테스트에 주력하되 권한은 최소화하는 것이 중요하다.
그렇다면 AI 보안에 대해 빅데이터에는 어떤 반응들이 주로 나타날까. 빅데이터 심층 분석 도구인 썸트렌드(SomeTrend)로 지난해 12월 8일부터 올해 1월 7일까지 AI 보안에 대한 빅데이터 연관어를 도출해봤다.
AI 보안에 대한 빅데이터 연관어는 ‘지능’, ‘이스트’, ‘정보’, ‘환경’, ‘인공지능’, ‘AI’, ‘해킹’, ‘지갑’, ‘랜섬웨어’, ‘수집’, ‘이스트소프트’, ‘디도스’, ‘암호화폐거래소’, ‘화폐’, ‘알약’, ‘공유’, ‘B2B’ 등이 눈에 띄었다(아래 그림).
AI 보안과 관련된 빅데이터 연관어만 보더라도 ‘해킹’, ‘랜섬웨어’, ‘디도스’ 등 치명적인 내용을 담고 있다. 글로벌 인터넷 서비스 기업 아렐리온(Arelion)이 AI의 복잡한 영향을 심층적으로 분석해 글로벌 기업 네트워크 의사결정권자들의 시각을 통해 그 중요성을 조명하는 보고서 “인공지능: 글로벌 네트워크에 기회인가 위협인가?”를 발표한 것은 주목할 만하다.
AI는 기업 네트워크 운영에서 혁신과 위협을 동시에 가져오는 기술로 자리매김하고 있다. 특히 사이버 보안 분야에서 AI의 역할은 점점 중요해지고 있으며, 기업들은 AI가 제공하는 기회와 직면한 위협 사이에서 균형을 찾아야 하는 과제를 안고 있다.
노벨상 수상자들이 “국가와 개인, 그리고 기업과 사회를 막론하고 AI가 가져올 긍정적인 측면에만 지나치게 매몰되는 일은 경계해야 한다”고 일깨우는 데는 그럴만한 이유가 있어 보인다.
인공지능(AI)의 '대부'로 불리는 노벨물리학상 수상자 제프리 힌턴 캐나다 토론토대 교수가 “AI 기술의 급속한 발전이 인류에 존망을 가를 위협이 될 수 있다”고 경고하고 나선 까닭도 새겨들을 만한 대목이다. AI 보안을 더욱 서둘려야 하는 것 또한 시대적 대세가 된 셈이다.
[글_ 배종찬 인사이트케이 연구소장]
저자 소개_ 연세대 정치외교학과를 졸업하고 서울대 국제대학원에서 석사 학위를 받았다. 고려대 행정학과 박사과정을 수료했다. 이 외에 미국, 일본, 홍콩 등에서 연구 경험을 가지고 있다. 주된 관심은 정치시사와 경제정책인데 특히 대통령 지지율과 국정 리더십, 글로벌 경제 분석 그리고 AI 인공지능 및 블록체인 보안 이슈다. 한국교육개발원·국가경영전략연구원·한길리서치에서 근무하고 리서치앤리서치 본부장을 거친 데이터 분석 전문가다. 현재 인사이트케이 연구소장을 맡아 심층 리서치뿐 아니라 빅데이터·유튜브까지 업무영역을 확대하고 있다.
AI와 관련된 주목할 만한 보안 이슈는 ‘학습 데이터 중독’과 ‘민감한 정보 노출’
[보안뉴스= 배종찬 인사이트케이 연구소장] AI(인공지능)가 시대적 대세로 떠오르고 있다. AI가 거대한 트렌드로 자리잡으며 산업-경제 분야는 물론 문화 부문까지 두루 아우르며 전진하는 모양새다.
[이미지=gettyimagesbank]
미국 주식시장에 투자하는 서학 개미 투자자들이 가장 많이 투자하고 있는 종목 역시 AI와 연관돼 있다. 애플과 함께 미국 주식시장 시총 1위 자리를 다투고 있는 엔비디아도 대표적인 AI 반도체 기업으로 꼽힌다.
한때 미국의 대표적인 반도체 기업인 인텔이 휘청거리고 있는 사이에 엔비디아의 강력한 대항마로 떠오른 브로드컴 역시 맞춤형 AI 반도체 기업이다. 이 뿐만이 아니다. 트럼프 당선에 결정적인 기여를 해서 정보효율부 수장 자리에 오를 예정인 일론 머스크가 야심차게 추진 중인 자율주행차 역시 AI를 기반으로 하고 있다.
수많은 시험 주행을 통해 데이터를 축적하고 학습해 어떤 환경에도 주행이 가능한 상태로 끌어올리는 일이 자율주행의 핵심이다. AI는 여기에 그치지 않는다. 불가능에 가까운 DNA 구조 분석을 통해 질병을 극복하고 인간 수명을 연장할 수 있는 역할까지 가능하게 만든다. 앞으로 우리나라뿐 아니라 지구촌 선도국의 최우선 과제는 AI라고 해도 과언이 아니다.
하지만 AI가 장밋빛 기대와 희망으로만 넘쳐나는 것은 결코 아니다. 보안 전문 언론 매체인 보안뉴스가 AI 시대의 보안에 대해 경고하고 나선 것은 다 이유가 있다.
여러 문제점 가운데 특히 주목되는 보안 이슈는 ‘학습 데이터 중독’이다. 학습 데이터 중독의 취약점은 학습에 사용되는 데이터가 조작되어 모델이 오염될 수 있다는 점이 꼽힌다. 이 같은 취약점이 노출될 경우 모델의 신뢰성에 타격이 불가피하기 때문이다.
공격자는 이를 노리고 특정한 행동을 하도록 유도함으로써 백도어 공격을 감행하거나 학습 데이터에 악성 데이터를 추가해 잘못된 패턴을 학습하도록 유도해 데이터를 변형할 수 있다는 얘기다.
AI 보안이 취약할 경우 ‘민감한 정보가 노출’될 우려 역시 커지고 있다. LLM(대규모 언어 모델) 애플리케이션 응답을 통해 개인정보 및 내부 정보와 같은 민감 정보가 노출될 수 있다는 지적도 나온다.
이는 학습 시 민감 정보 필터링과 데이터 권한 분리가 미흡하기 때문으로 풀이된다. 따라서 민감 정보가 노출되지 않도록 데이터 검증, 입출력 검사, 모델 테스트에 주력하되 권한은 최소화하는 것이 중요하다.
그렇다면 AI 보안에 대해 빅데이터에는 어떤 반응들이 주로 나타날까. 빅데이터 심층 분석 도구인 썸트렌드(SomeTrend)로 지난해 12월 8일부터 올해 1월 7일까지 AI 보안에 대한 빅데이터 연관어를 도출해봤다.
AI 보안에 대한 빅데이터 연관어는 ‘지능’, ‘이스트’, ‘정보’, ‘환경’, ‘인공지능’, ‘AI’, ‘해킹’, ‘지갑’, ‘랜섬웨어’, ‘수집’, ‘이스트소프트’, ‘디도스’, ‘암호화폐거래소’, ‘화폐’, ‘알약’, ‘공유’, ‘B2B’ 등이 눈에 띄었다(아래 그림).
▲AI 보안에 대해 도출된 빅데이터 연관어[자료=인사이트케이]
AI 보안과 관련된 빅데이터 연관어만 보더라도 ‘해킹’, ‘랜섬웨어’, ‘디도스’ 등 치명적인 내용을 담고 있다. 글로벌 인터넷 서비스 기업 아렐리온(Arelion)이 AI의 복잡한 영향을 심층적으로 분석해 글로벌 기업 네트워크 의사결정권자들의 시각을 통해 그 중요성을 조명하는 보고서 “인공지능: 글로벌 네트워크에 기회인가 위협인가?”를 발표한 것은 주목할 만하다.
AI는 기업 네트워크 운영에서 혁신과 위협을 동시에 가져오는 기술로 자리매김하고 있다. 특히 사이버 보안 분야에서 AI의 역할은 점점 중요해지고 있으며, 기업들은 AI가 제공하는 기회와 직면한 위협 사이에서 균형을 찾아야 하는 과제를 안고 있다.
▲배종찬 연구소장[사진=인사이트케이]
인공지능(AI)의 '대부'로 불리는 노벨물리학상 수상자 제프리 힌턴 캐나다 토론토대 교수가 “AI 기술의 급속한 발전이 인류에 존망을 가를 위협이 될 수 있다”고 경고하고 나선 까닭도 새겨들을 만한 대목이다. AI 보안을 더욱 서둘려야 하는 것 또한 시대적 대세가 된 셈이다.
[글_ 배종찬 인사이트케이 연구소장]
저자 소개_ 연세대 정치외교학과를 졸업하고 서울대 국제대학원에서 석사 학위를 받았다. 고려대 행정학과 박사과정을 수료했다. 이 외에 미국, 일본, 홍콩 등에서 연구 경험을 가지고 있다. 주된 관심은 정치시사와 경제정책인데 특히 대통령 지지율과 국정 리더십, 글로벌 경제 분석 그리고 AI 인공지능 및 블록체인 보안 이슈다. 한국교육개발원·국가경영전략연구원·한길리서치에서 근무하고 리서치앤리서치 본부장을 거친 데이터 분석 전문가다. 현재 인사이트케이 연구소장을 맡아 심층 리서치뿐 아니라 빅데이터·유튜브까지 업무영역을 확대하고 있다.
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
권준기자 기사보기
[2025-01-08] 
.jpg)
.jpg)
.jpg)
