.jpg)
챗GPT, 기존 딥러닝과 차별화된 트랜스포머로 진화 ‘문맥 이해도 上’
챗GPT 악용한 보안위협 대두...심지어 초등학생도 악성코드 제작 가능해져
‘정보 상향 평준화’로 사이버공격도 상향 평준화, 정부와 보안업계 대응수준 높여야
[보안뉴스 이소미 기자] 신기술은 늘 우리의 호기심과 경각심을 동시에 불러일으킨다. 최근 가장 핫하게 떠오르며 전문가 뿐만 아니라 대중들에게까지 상당한 관심을 받고 있는 ‘챗GPT’가 그렇다. 시대가 빠르게 발전하는 가운데 ‘소프트웨어가 세상을 먹여 살리는 시대’에서 ‘AI가 소프트웨어를 먹여 살리는 시대’를 앞당긴 장본인이 바로 챗GPT이기 때문. 이 뜨거운 감자에 대한 고민과 현실을 짚어볼 수 있는 강연이 제124차 CISO포럼에서 진행됐다.
이날 강연자로 나선 국민대 소프트웨어융합대학 인공지능전공 이재구 교수가 ‘챗GPT 충격, 보안은?’이라는 주제로 국내 정보보호최고책임자(CISO)들과 함께 인공지능 시대를 맞이한 우리의 현 주소와 챗GPT 응용 및 한계점에 대해 나누는 시간을 가졌다.
이 교수는 먼저 챗GPT의 개념과 인공지능(AI)과의 관계를 설명했다. AI의 근본적인 개념은 ‘사람처럼’이라는 한 단어로 설명이 가능하다. 즉, 인간처럼 생각하고 사고하는 기기를 만들겠다는 범주 내 모든 것을 통틀어 말할 수 있다. 마치 사람이 경험을 통해 학습하듯이 AI는 기계학습을 통해 모방하면서 기술을 습득해 나간다. 또한, 사람의 뇌가 많은 신경계들로 구성되어 있는 것처럼 AI 역시 촘촘하게 구성된 인공신경망(멀티웨어)을 통해 딥러닝 기술을 구현해낸다. 다만, 챗GPT는 기존 딥러닝과는 달리 트랜스포머(Transformer)의 구조를 갖고 있다. 기존 딥러닝 기술처럼 데이터 내 중요성이 강조된 정보 중심으로 수집·구현해 내는 것에 그치지 않고, 보다 진화한 형태로 주어와 서술어 간의 관계를 인지하고 문맥을 파악할 수 있는 능력을 갖고 있다.
이어 이 교수는 트랜스포머형 챗GPT 언어모델을 ‘육수(肉水)’로 표현했다. ‘육수’로 다양한 ‘찌개’ 요리를 만들 수 있는 것처럼, 챗GPT는 향후 꾸준한 버전 업그레이드를 통해 점점 더 똑똑해지고 가용성은 더 넓어져 사용자가 원하는 ‘다양한 응용’이 가능하다는 것이다.
실제 챗GPT의 활용 용도는 굉장히 다양하다. 우선 질의응답에 최적화된 자연어 생성 모델이기 때문에 명령어에 대한 접근이 쉽다. 또한, 문맥에 대한 이해도가 높은 모델이기 때문에 각 용도에 따른 다양한 형태의 텍스트물을 도출해낼 수 있다. 예를 들면, △요약 △단순업무보조 △보고서작성 △논문작성 △대본작성 △시험질의응답 등이다. 뿐만 아니라 △프로그래밍 작성·수정·교정 등도 가능하다.
그렇다면, 게임 체인저로 등극한 만능 챗GPT는 정말 완벽한 존재일까? 사실 챗GPT는 어디까지나 ‘사람이 만든 기술’이다. 그렇기 때문에 수집된 정보량이 과거 데이터에 한정될수록 최신 정보와는 동떨어질 수 있다. 이는 결과물에만 집착하는(?) 챗GPT가 별도의 검증 절차 없이 ‘팩트’와는 거리가 먼 ‘거짓’ 결과를 낼 수도 있다는 것을 의미한다. 만약 그렇게 된다면, 해당 결과 값의 가치는 떨어지고 신뢰성 역시 떨어질 수 있다. 이는 사용자가 편향된 정보를 수용해 옳은 판단과 결정을 하는데 장애가 될 수 있다.
또한, 명령어에 대한 악용이 쉽다는 점에서 부작용 우려가 제기된다. 이는 사이버범죄 집단에게 칼자루를 쥐어주는 꼴이나 다름없다. 이를 방지하기 위해 제작사 ‘오픈AI’에서도 상시 업데이트를 진행하고 있지만, 해커들에게 용이한 악성코드 제작도구라는 인식을 여전히 주고 있다. 예를 들어, 챗GPT에게 악성코드 생성 질문을 직접적으로 던진다면 챗GPT는 즉시 “죄송합니다. 가능하지 않습니다”라고 거부한다. 하지만, ‘크롤링의 기능적 단위’나 ‘스크래핑 코드’ 등을 요청하면 코드 구조를 생성해 준다. 이런 방식의 ‘꼼수 질문’을 이용해 얼마든지 챗GPT를 악용할 수 있다는 건 허점이라 볼 수 있다. 뿐만 아니라 챗GPT는 꽤나 유려한 문장을 잘 만들어내기 때문에 ‘마치 진짜’인 것 같은 ‘지인 사칭 피싱’도 얼마든지 가능하다.
따라서 ‘언어 사용이 가능한 누구나’ 심지어 초등학생까지도 코드 활용을 쉽게 할 수 있게 된다. 이는 결과적으로 ‘정보 상향 평준화’를 가능케 함으로써 크고 작은 사이버 공격들이 빗발칠 것으로 예상할 수 있는 대목이다.
이 교수는 “챗GPT의 도입으로 사이버 공격이 다양해지는 만큼 정부나 기업의 대응수준도 높아질 것”이라며, “보안업계도 업무협업 도구로서의 활용방안 마련과 함께 챗GPT를 활용한 해킹 공격에도 철저히 대응할 수 있는 준비가 필요하다”고 덧붙였다.
[이소미 기자(boan4@boannews.com)]
챗GPT 악용한 보안위협 대두...심지어 초등학생도 악성코드 제작 가능해져
‘정보 상향 평준화’로 사이버공격도 상향 평준화, 정부와 보안업계 대응수준 높여야
[보안뉴스 이소미 기자] 신기술은 늘 우리의 호기심과 경각심을 동시에 불러일으킨다. 최근 가장 핫하게 떠오르며 전문가 뿐만 아니라 대중들에게까지 상당한 관심을 받고 있는 ‘챗GPT’가 그렇다. 시대가 빠르게 발전하는 가운데 ‘소프트웨어가 세상을 먹여 살리는 시대’에서 ‘AI가 소프트웨어를 먹여 살리는 시대’를 앞당긴 장본인이 바로 챗GPT이기 때문. 이 뜨거운 감자에 대한 고민과 현실을 짚어볼 수 있는 강연이 제124차 CISO포럼에서 진행됐다.
[이미지=보안뉴스]
이날 강연자로 나선 국민대 소프트웨어융합대학 인공지능전공 이재구 교수가 ‘챗GPT 충격, 보안은?’이라는 주제로 국내 정보보호최고책임자(CISO)들과 함께 인공지능 시대를 맞이한 우리의 현 주소와 챗GPT 응용 및 한계점에 대해 나누는 시간을 가졌다.
이 교수는 먼저 챗GPT의 개념과 인공지능(AI)과의 관계를 설명했다. AI의 근본적인 개념은 ‘사람처럼’이라는 한 단어로 설명이 가능하다. 즉, 인간처럼 생각하고 사고하는 기기를 만들겠다는 범주 내 모든 것을 통틀어 말할 수 있다. 마치 사람이 경험을 통해 학습하듯이 AI는 기계학습을 통해 모방하면서 기술을 습득해 나간다. 또한, 사람의 뇌가 많은 신경계들로 구성되어 있는 것처럼 AI 역시 촘촘하게 구성된 인공신경망(멀티웨어)을 통해 딥러닝 기술을 구현해낸다. 다만, 챗GPT는 기존 딥러닝과는 달리 트랜스포머(Transformer)의 구조를 갖고 있다. 기존 딥러닝 기술처럼 데이터 내 중요성이 강조된 정보 중심으로 수집·구현해 내는 것에 그치지 않고, 보다 진화한 형태로 주어와 서술어 간의 관계를 인지하고 문맥을 파악할 수 있는 능력을 갖고 있다.
이어 이 교수는 트랜스포머형 챗GPT 언어모델을 ‘육수(肉水)’로 표현했다. ‘육수’로 다양한 ‘찌개’ 요리를 만들 수 있는 것처럼, 챗GPT는 향후 꾸준한 버전 업그레이드를 통해 점점 더 똑똑해지고 가용성은 더 넓어져 사용자가 원하는 ‘다양한 응용’이 가능하다는 것이다.
실제 챗GPT의 활용 용도는 굉장히 다양하다. 우선 질의응답에 최적화된 자연어 생성 모델이기 때문에 명령어에 대한 접근이 쉽다. 또한, 문맥에 대한 이해도가 높은 모델이기 때문에 각 용도에 따른 다양한 형태의 텍스트물을 도출해낼 수 있다. 예를 들면, △요약 △단순업무보조 △보고서작성 △논문작성 △대본작성 △시험질의응답 등이다. 뿐만 아니라 △프로그래밍 작성·수정·교정 등도 가능하다.
▲제124차 CISO포럼에서 강연 중인 국민대 이재구 교수[사진=보안뉴스]
또한, 명령어에 대한 악용이 쉽다는 점에서 부작용 우려가 제기된다. 이는 사이버범죄 집단에게 칼자루를 쥐어주는 꼴이나 다름없다. 이를 방지하기 위해 제작사 ‘오픈AI’에서도 상시 업데이트를 진행하고 있지만, 해커들에게 용이한 악성코드 제작도구라는 인식을 여전히 주고 있다. 예를 들어, 챗GPT에게 악성코드 생성 질문을 직접적으로 던진다면 챗GPT는 즉시 “죄송합니다. 가능하지 않습니다”라고 거부한다. 하지만, ‘크롤링의 기능적 단위’나 ‘스크래핑 코드’ 등을 요청하면 코드 구조를 생성해 준다. 이런 방식의 ‘꼼수 질문’을 이용해 얼마든지 챗GPT를 악용할 수 있다는 건 허점이라 볼 수 있다. 뿐만 아니라 챗GPT는 꽤나 유려한 문장을 잘 만들어내기 때문에 ‘마치 진짜’인 것 같은 ‘지인 사칭 피싱’도 얼마든지 가능하다.
따라서 ‘언어 사용이 가능한 누구나’ 심지어 초등학생까지도 코드 활용을 쉽게 할 수 있게 된다. 이는 결과적으로 ‘정보 상향 평준화’를 가능케 함으로써 크고 작은 사이버 공격들이 빗발칠 것으로 예상할 수 있는 대목이다.
이 교수는 “챗GPT의 도입으로 사이버 공격이 다양해지는 만큼 정부나 기업의 대응수준도 높아질 것”이라며, “보안업계도 업무협업 도구로서의 활용방안 마련과 함께 챗GPT를 활용한 해킹 공격에도 철저히 대응할 수 있는 준비가 필요하다”고 덧붙였다.
[이소미 기자(boan4@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
이소미기자 기사보기
[2024-11-22] .jpg)
.jpg)
.jpg)
.jpg)
.jpg)
