.jpg)
KISA INSIGHT, ‘ChatGPT 보안 위협과 시사점’ 보고서 발간
ChatGPT를 시작으로 초거대 인공지능 경쟁 심화...인공지능 규제 논의 이뤄져야 할 때
[보안뉴스 박은주 기자] ‘ChatGPT’는 언어처리 인공지능 모델을 기반으로 하는 대화형 인공지능 서비스다. 챗봇 형태로 마치 사람과 대화하는 것처럼 대화의 맥락을 이해하고 일상적인 언어를 사용한다. 출시 5일 만에 사용자 수가 100만명을 넘으며 큰 주목을 받았다. ChatGPT의 등장으로 초거대 인공지능의 경쟁이 가속화됐다. 국내·외 기업에서 연달아 인공지능 모델을 개발하고 출시했다. 구글은 ChatGPT의 대항마로 Bard를, 네이버는 하이클로바를 출시했다.
ChatGPT의 상위 버전 GPT-4는 미국의 변호사 시험에서 상위 10%의 점수를 받을 만큼 뛰어난 성능을 보였다. ChatGPT를 비롯한 초거대 인공지능 서비스는 글쓰기, 번역, 내용 요약, 소스코드 생성 및 수정 등의 기능을 제공한다. 이는 다양한 산업 분야의 업무를 처리하는 데 도움이 된다. 앞으로 의료, 금융, 미디어, 법률 분야에서 콘텐츠를 생성하고 서류작업을 지원하는 등 폭넓게 사용될 것으로 보인다.
‘완벽’은 이상적인 개념인 것처럼, ChatGPT에도 한계점이 있다. 2021년까지 학습한 데이터를 근거로 결과를 이끌어내기 때문에 최신 정보를 제공하지 못한다. 또한, 틀린 정보를 사실처럼 대답해 정확성이 떨어진다는 문제가 있다. 훈민정음에 관해 묻자, ‘고려시대에 세운 알파벳 체계’라는 잘못된 정보를 제공했다. 이처럼 틀린 정보를 사실인 것처럼 제시하는 할루시네이션(Hallucination) 현상으로 사용자들에게 불만을 자아냈다. 혹은 편향된 정보를 제공할 수도 있다. 일례로 과거 마이크로소프트에서 개발한 인공지능 ‘테이’가 특정 사이트에서 부적절한 발언 학습이 유도되는 트롤링(Trolling)을 당했다. 그 결과 테이는 공개 16시간 만에 서비스를 종료해야 했다.
그 뿐만 아니라 사이버 공격 및 범죄에 활용될 수 있다는 우려가 이어진다. 실제 해킹 커뮤니티에서 ChatGPT를 활용해 악성 도구를 개발하는 사례가 발견됐다. 사이버 범죄자는 AI 기반 도구를 활용해 빠르게 멀웨어나 랜섬웨어 등 공격용 도구를 발전시킬 수 있다. ChatGPT는 ‘멀웨어 제작해 줘’ 같은 요청은 거부하지만, 악성코드의 일부 기능을 우회해서 요청할 경우 답변을 제공하는 것으로 드러났다.
캐나다의 보안 소프트웨어 전문기업 블랙베리(Blackberry)가 IT 계열 의사결정권자 1,500명을 대상으로 ChatGPT에 대한 설문을 진행했다. 응답자의 74%가 사이버 보안에 잠재적인 위협이 있을 것이라 답했다.
보안 전문기업 카스퍼스키(Kaspersky)는 ChatGPT를 사이버 범죄자와 보안담당자 모두 사용할 수 있는 ‘창과 방패의 대결’에 비유했다. ChatGPT를 이용한 △멀웨어 생성·분석 △취약점검색 △보안 컨설팅 △피싱과 악성메일 활용방안에 우려를 표했다.
또한, 정보 유출에 대한 문제도 제기된다. ChatGPT에 입력한 정보는 제작사 OpenAI 서버에 저장된다. OpenAI 사에 보안사고가 발생하면 사용자가 입력한 정보가 유출될 수 있다. 심지어 우회 질문을 통해서도 정보가 유출될 수 있으므로 ChatGPT에는 민감한 정보를 입력하지 않도록 주의를 기울여야 한다.
이에 미국의 JP모건은행, 일본의 소프트뱅크 등 세계 여러 국가와 기업에서 ChatGPT 사용을 금지하는 추세다. 국내 KT, LG유플러스 등에서도 회사기밀이나 개인정보를 입력하지 말 것을 공지했다. 삼성전자 DX(Device eXperience) 측은 회사 내에서 ChatGPT 사용 금지 명령을 내렸다.
교육계에는 ChatGPT를 사용한 부정행위가 논란이 일었다. 논문·보고서를 작성할 때 ChatGPT를 사용해 문제가 된 것. 이를 우려해 미국 뉴욕시의 관할 학교에서 사용하는 단말기, 네트워크 장비 등에서 ChatGPT 접속 및 사용 금지 조처가 내려졌다. 영국·프랑스·호주·캐나다의 주요 대학에서도 ChatGPT 사용을 제한했다.
이렇듯 ChatGPT는 긍정적인 모습과 부정적인 모습을 동시에 가지고 있다. 초거대 인공지능 경쟁이 가속화되면서 인공지능의 패러다임이 바뀌고 있다. 한국인터넷진흥원(KISA)가 발간한 ‘KISA Insight, ChatGPT 보안 위협과 시사점’ 보고서에 따르면 발생하는 보안 위협에 선제 대응해야 한다는 주장이 제기된다.
우선, ChatGPT 안전 활용 지침을 마련하고 소통·협력을 강화해야 한다는 의견이다. 기업 내 ChatGPT를 안전하게 도입하고 부작용을 완화하기 위해 보안사고 정보 공유가 필요하다. 보안 사고가 발생하면 원활한 조사와 협조를 위해 OpenAI와 협력이 필요하다고 설명한다.
또한, ChatGPT의 잘못된 사용으로 사이버 위협과 개인정보가 유출될 수 있다는 사실을 사람들에게 알려야 한다. 교육을 통해 무분별한 사용을 방지하기 위한 노력이 필요하다. 이와 함께 기술적인 보안 대책 마련이 필요하다. ChatGPT와 같은 생성형 인공지능의 답변이 보안에 위협적인지 구별할 수 있는 기술 개발이 필요하다는 것. 기술 개발을 통해 사이버 공격에 효율적으로 대응해야 한다는 설명이다.
이를 위해서 인공지능 보안 분야의 R&D 투자 확대가 요구된다. 미국 등 인공지능 분야 선진 국과 공동으로 연구하고, 인공지능 보안전문 인력을 양성해야 한다. 이를 기반으로 국가 인공지능 기반을 강화하기 위해 노력해야 한다. OpenAI 최고 경영자 샘 올트먼(Sam Altman)은 5월 17일 미 상원 법사위원회 청문회에서 “정부 차원의 AI 규제가 필요하다”고 말했다.
인공지능 보안의 구체적인 방향성을 잡기 위한 보안정책도 갖춰져야 한다. 개발부터 안전한 활용단계까지 기준을 제시할 수 있는 ‘보안 프레임워크’를 마련하는 방법이 있다. 더불어 다양한 산업 분야에 안전한 인공지능 모델 및 서비스가 확산될 수 있도록 인증 제도를 도입하는 등 지속적인 지원이 필요하다.
[박은주 기자(boan5@boannews.com)]
ChatGPT를 시작으로 초거대 인공지능 경쟁 심화...인공지능 규제 논의 이뤄져야 할 때
[보안뉴스 박은주 기자] ‘ChatGPT’는 언어처리 인공지능 모델을 기반으로 하는 대화형 인공지능 서비스다. 챗봇 형태로 마치 사람과 대화하는 것처럼 대화의 맥락을 이해하고 일상적인 언어를 사용한다. 출시 5일 만에 사용자 수가 100만명을 넘으며 큰 주목을 받았다. ChatGPT의 등장으로 초거대 인공지능의 경쟁이 가속화됐다. 국내·외 기업에서 연달아 인공지능 모델을 개발하고 출시했다. 구글은 ChatGPT의 대항마로 Bard를, 네이버는 하이클로바를 출시했다.
[이미지=gettyimagesbank]
ChatGPT의 상위 버전 GPT-4는 미국의 변호사 시험에서 상위 10%의 점수를 받을 만큼 뛰어난 성능을 보였다. ChatGPT를 비롯한 초거대 인공지능 서비스는 글쓰기, 번역, 내용 요약, 소스코드 생성 및 수정 등의 기능을 제공한다. 이는 다양한 산업 분야의 업무를 처리하는 데 도움이 된다. 앞으로 의료, 금융, 미디어, 법률 분야에서 콘텐츠를 생성하고 서류작업을 지원하는 등 폭넓게 사용될 것으로 보인다.
▲훈민정음에 관해 묻자, 잘못된 정보를 제공하는 ChatGPT[이미지=보안뉴스]
‘완벽’은 이상적인 개념인 것처럼, ChatGPT에도 한계점이 있다. 2021년까지 학습한 데이터를 근거로 결과를 이끌어내기 때문에 최신 정보를 제공하지 못한다. 또한, 틀린 정보를 사실처럼 대답해 정확성이 떨어진다는 문제가 있다. 훈민정음에 관해 묻자, ‘고려시대에 세운 알파벳 체계’라는 잘못된 정보를 제공했다. 이처럼 틀린 정보를 사실인 것처럼 제시하는 할루시네이션(Hallucination) 현상으로 사용자들에게 불만을 자아냈다. 혹은 편향된 정보를 제공할 수도 있다. 일례로 과거 마이크로소프트에서 개발한 인공지능 ‘테이’가 특정 사이트에서 부적절한 발언 학습이 유도되는 트롤링(Trolling)을 당했다. 그 결과 테이는 공개 16시간 만에 서비스를 종료해야 했다.
그 뿐만 아니라 사이버 공격 및 범죄에 활용될 수 있다는 우려가 이어진다. 실제 해킹 커뮤니티에서 ChatGPT를 활용해 악성 도구를 개발하는 사례가 발견됐다. 사이버 범죄자는 AI 기반 도구를 활용해 빠르게 멀웨어나 랜섬웨어 등 공격용 도구를 발전시킬 수 있다. ChatGPT는 ‘멀웨어 제작해 줘’ 같은 요청은 거부하지만, 악성코드의 일부 기능을 우회해서 요청할 경우 답변을 제공하는 것으로 드러났다.
캐나다의 보안 소프트웨어 전문기업 블랙베리(Blackberry)가 IT 계열 의사결정권자 1,500명을 대상으로 ChatGPT에 대한 설문을 진행했다. 응답자의 74%가 사이버 보안에 잠재적인 위협이 있을 것이라 답했다.
보안 전문기업 카스퍼스키(Kaspersky)는 ChatGPT를 사이버 범죄자와 보안담당자 모두 사용할 수 있는 ‘창과 방패의 대결’에 비유했다. ChatGPT를 이용한 △멀웨어 생성·분석 △취약점검색 △보안 컨설팅 △피싱과 악성메일 활용방안에 우려를 표했다.
또한, 정보 유출에 대한 문제도 제기된다. ChatGPT에 입력한 정보는 제작사 OpenAI 서버에 저장된다. OpenAI 사에 보안사고가 발생하면 사용자가 입력한 정보가 유출될 수 있다. 심지어 우회 질문을 통해서도 정보가 유출될 수 있으므로 ChatGPT에는 민감한 정보를 입력하지 않도록 주의를 기울여야 한다.
이에 미국의 JP모건은행, 일본의 소프트뱅크 등 세계 여러 국가와 기업에서 ChatGPT 사용을 금지하는 추세다. 국내 KT, LG유플러스 등에서도 회사기밀이나 개인정보를 입력하지 말 것을 공지했다. 삼성전자 DX(Device eXperience) 측은 회사 내에서 ChatGPT 사용 금지 명령을 내렸다.
교육계에는 ChatGPT를 사용한 부정행위가 논란이 일었다. 논문·보고서를 작성할 때 ChatGPT를 사용해 문제가 된 것. 이를 우려해 미국 뉴욕시의 관할 학교에서 사용하는 단말기, 네트워크 장비 등에서 ChatGPT 접속 및 사용 금지 조처가 내려졌다. 영국·프랑스·호주·캐나다의 주요 대학에서도 ChatGPT 사용을 제한했다.
▲KISA Insigh ‘ChatGPT 보안 위협과 시사점’ 보고서 표지[표지=KISA]
우선, ChatGPT 안전 활용 지침을 마련하고 소통·협력을 강화해야 한다는 의견이다. 기업 내 ChatGPT를 안전하게 도입하고 부작용을 완화하기 위해 보안사고 정보 공유가 필요하다. 보안 사고가 발생하면 원활한 조사와 협조를 위해 OpenAI와 협력이 필요하다고 설명한다.
또한, ChatGPT의 잘못된 사용으로 사이버 위협과 개인정보가 유출될 수 있다는 사실을 사람들에게 알려야 한다. 교육을 통해 무분별한 사용을 방지하기 위한 노력이 필요하다. 이와 함께 기술적인 보안 대책 마련이 필요하다. ChatGPT와 같은 생성형 인공지능의 답변이 보안에 위협적인지 구별할 수 있는 기술 개발이 필요하다는 것. 기술 개발을 통해 사이버 공격에 효율적으로 대응해야 한다는 설명이다.
이를 위해서 인공지능 보안 분야의 R&D 투자 확대가 요구된다. 미국 등 인공지능 분야 선진 국과 공동으로 연구하고, 인공지능 보안전문 인력을 양성해야 한다. 이를 기반으로 국가 인공지능 기반을 강화하기 위해 노력해야 한다. OpenAI 최고 경영자 샘 올트먼(Sam Altman)은 5월 17일 미 상원 법사위원회 청문회에서 “정부 차원의 AI 규제가 필요하다”고 말했다.
인공지능 보안의 구체적인 방향성을 잡기 위한 보안정책도 갖춰져야 한다. 개발부터 안전한 활용단계까지 기준을 제시할 수 있는 ‘보안 프레임워크’를 마련하는 방법이 있다. 더불어 다양한 산업 분야에 안전한 인공지능 모델 및 서비스가 확산될 수 있도록 인증 제도를 도입하는 등 지속적인 지원이 필요하다.
[박은주 기자(boan5@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박은주기자 기사보기
[2024-11-22] .jpg)
.jpg)
.jpg)
.jpg)
.jpg)
