챗GPT를 통해 깜짝 놀랄 만한 답변을 듣기 위해 사람들은 더욱 과감한 자세로 각종 정보를 입력하고 있다. 그러면서 평소 같았으면 조심스럽게 데이터를 다뤘을 것이 분명한 이들조차 아무 데이터를 마구 타이핑한다.
[보안뉴스 문정후 기자] 직원들이 챗GPT를 업무에 활용한답시고 각종 민감 정보를 마구 입력하고 있다는 지적이 기업들 사이에서 나오고 있다. 그런 가운데 한 데이터 프라이버시 전문 기업이 이러한 위험으로부터 기업들을 어느 정도 자유롭게 해 주기 위한 도구를 개발해 발표했다. 챗GTP를 활용하다가 실수로 개인정보나 고객 정보가 노출되는 일이 발생하지 않도록 막아주는 역할을 할 수 있다고 한다.
이 도구의 이름은 프라이빗GPT(PrivateGPT)로, 오픈AI(OpenAI)의 챗GPT를 기반으로 하고 있으며, 50가지가 넘는 유형의 개인 식별 정보를 자동으로 찾아내 실시간으로 삭제한다고 한다. 여기서 ‘실시간’이란 사용자가 챗GPT에 요청문을 입력하는 타이밍을 얘기한다.
프라이빗GPT는 인간과 인공지능 간 대화 과정 중간에 자리를 잡고, 인간이 입력하는 대화 내용의 모든 부분을 지켜보고 있다가 의료, 신용카드, 연락처, 생년월일, 사회 보장 번호 등을 모조리 지워낸다. 챗GPT가 인간의 요청에 대한 답을 내놓을 때에 프라이빗GPT는 앞서 지워냈던 민감 정보들을 다시 집어넣어 사용자 입장에서는 아무런 위화감 없는 답변을 받을 수 있게 된다.
프라이빗GPT의 개발사인 프라이빗AI(Private AI)의 CEO 패트리샤 테인(Patricia Thaine)은 “생성형 인공지능은 매우 강력한 도구임이 분명하지만 안전하게 사용할 수 있을 만한 장치가 곁들여지지 않으면 소용이 없다”고 말한다. “사용자들은 생성형 인공지능 플랫폼에 여러 가지 정보를 계속해서 입력할 겁니다. 인공지능의 뛰어난 성능에 가려져서 그렇지 알고 보면 서드파티 플랫폼에 정보를 계속 제공하는 것과 다름이 없습니다. 이를 기업이 통제할 수 있어야 합니다.”
프라이버시 침해 가능성과 챗GPT
사용자가 데이터를 챗GPT 창에 입력할 때, 그 데이터는 챗GPT의 기반이 되는 대형 언어 모델(LLM)의 데이터셋에 포함된다. 이 데이터는 차세대 챗GPT 혹은 다른 인공지능 알고리즘을 훈련시키는 데 활용된다. 그러므로 사용자가 입력하는 데이터는 삭제되지 않으며, 이론적으로는 미래 어느 시점에 추출하는 것도 가능하다. 그러니 훈련용 데이터 혹은 사용자가 입력하는 데이터에 대한 안전 장치 마련이 시급하다고 볼 수 있다.
IT 업체 레조네이트(Rezonate)의 CEO 로이 애커만(Roy Akerman)은 “인공지능이 온갖 데이터를 소비함으로써 훈련된다는 부분이 인공지능을 블랙박스로 만드는 것”이라며 “그 데이터가 훈련 후에 정확히 어떤 절차로 처리가 되며, 종착지가 어디인지가 거의 모든 경우에 불확실한 상태로 남는다”고 지적한다. “그리고 이러한 데이터 처리 방식은 우리가 지난 수년 간 강조해 온 데이터 보안 방법을 정확히 거스르는 것이죠.”
과민 반응이 아니다. 인공지능을 안전하지 않게 사용함으로써 데이터가 노출될 수 있다는 것은 실재하는 가능성이다. 오픈AI는 지난 3월 사용자의 채팅 히스토리가 저장된 데이터를 유출시킬 수 있는 취약점이 플랫폼에서 발견됐음을 발표한 바 있다. 이 발표 이전에 이미 일부 사용자들이 레딧을 통하여 각종 대화 내용이 담긴 스크린샷을 공유하기도 했었다. 오픈AI는 이전부터 챗GPT에 데이터를 입력할 때 아무 정보나 넣지 않도록 유의하라고 경고해 왔다.
하지만 챗GPT를 사용할 때 기본 보안 수칙을 완전히 잊는 듯한 사용자들이 여전히 많은 상황이다. 보안 업체 사이버페이븐(Cyberhaven)은 민감한 데이터를 챗GPT에 입력하려는 사용자들이 4.2% 정도 된다는 내용의 보고서를 최근 발표했었다. 회사 기밀이나 고객 정보, 소스코드 등이 여기에 포함된다. 삼성의 엔지니어들이 반도체 DB 내 저장되어 있던 소스코드 일부와 내부 회의 일지를 챗GPT에 입력하기도 했었다.
애커만은 “인공지능 언어 모델들이 매우 빠른 속도로 도입되고 있다”며 “특히 코딩이나 개발 분야에서 꽤나 유용하게 활용되고 있다”고 경고한다. “다들 인공지능의 강력함에 매료되어 있으며, 그렇기 때문에 그 인공지능의 약점에 대해서는 잘 보려 하지 않습니다. 특히 최근 사이버 공격자들의 집중 표적이 되고 있는 개발자들 사이에서는 인공지능 활용부터 떠올리는 사람이 훨씬 많지요. 개발자들을 교육시켜 보안 인지 제고를 꾀하는 것도 좋지만, 기술적인 안전 장치를 마련하는 것도 필요합니다.”
글 : 타라 실즈(Tara Seals), IT 칼럼니스트
[국제부 문정후 기자(globoan@boannews.com)]
[보안뉴스 문정후 기자] 직원들이 챗GPT를 업무에 활용한답시고 각종 민감 정보를 마구 입력하고 있다는 지적이 기업들 사이에서 나오고 있다. 그런 가운데 한 데이터 프라이버시 전문 기업이 이러한 위험으로부터 기업들을 어느 정도 자유롭게 해 주기 위한 도구를 개발해 발표했다. 챗GTP를 활용하다가 실수로 개인정보나 고객 정보가 노출되는 일이 발생하지 않도록 막아주는 역할을 할 수 있다고 한다.
[이미지 = utoimage]
이 도구의 이름은 프라이빗GPT(PrivateGPT)로, 오픈AI(OpenAI)의 챗GPT를 기반으로 하고 있으며, 50가지가 넘는 유형의 개인 식별 정보를 자동으로 찾아내 실시간으로 삭제한다고 한다. 여기서 ‘실시간’이란 사용자가 챗GPT에 요청문을 입력하는 타이밍을 얘기한다.
프라이빗GPT는 인간과 인공지능 간 대화 과정 중간에 자리를 잡고, 인간이 입력하는 대화 내용의 모든 부분을 지켜보고 있다가 의료, 신용카드, 연락처, 생년월일, 사회 보장 번호 등을 모조리 지워낸다. 챗GPT가 인간의 요청에 대한 답을 내놓을 때에 프라이빗GPT는 앞서 지워냈던 민감 정보들을 다시 집어넣어 사용자 입장에서는 아무런 위화감 없는 답변을 받을 수 있게 된다.
프라이빗GPT의 개발사인 프라이빗AI(Private AI)의 CEO 패트리샤 테인(Patricia Thaine)은 “생성형 인공지능은 매우 강력한 도구임이 분명하지만 안전하게 사용할 수 있을 만한 장치가 곁들여지지 않으면 소용이 없다”고 말한다. “사용자들은 생성형 인공지능 플랫폼에 여러 가지 정보를 계속해서 입력할 겁니다. 인공지능의 뛰어난 성능에 가려져서 그렇지 알고 보면 서드파티 플랫폼에 정보를 계속 제공하는 것과 다름이 없습니다. 이를 기업이 통제할 수 있어야 합니다.”
프라이버시 침해 가능성과 챗GPT
사용자가 데이터를 챗GPT 창에 입력할 때, 그 데이터는 챗GPT의 기반이 되는 대형 언어 모델(LLM)의 데이터셋에 포함된다. 이 데이터는 차세대 챗GPT 혹은 다른 인공지능 알고리즘을 훈련시키는 데 활용된다. 그러므로 사용자가 입력하는 데이터는 삭제되지 않으며, 이론적으로는 미래 어느 시점에 추출하는 것도 가능하다. 그러니 훈련용 데이터 혹은 사용자가 입력하는 데이터에 대한 안전 장치 마련이 시급하다고 볼 수 있다.
IT 업체 레조네이트(Rezonate)의 CEO 로이 애커만(Roy Akerman)은 “인공지능이 온갖 데이터를 소비함으로써 훈련된다는 부분이 인공지능을 블랙박스로 만드는 것”이라며 “그 데이터가 훈련 후에 정확히 어떤 절차로 처리가 되며, 종착지가 어디인지가 거의 모든 경우에 불확실한 상태로 남는다”고 지적한다. “그리고 이러한 데이터 처리 방식은 우리가 지난 수년 간 강조해 온 데이터 보안 방법을 정확히 거스르는 것이죠.”
과민 반응이 아니다. 인공지능을 안전하지 않게 사용함으로써 데이터가 노출될 수 있다는 것은 실재하는 가능성이다. 오픈AI는 지난 3월 사용자의 채팅 히스토리가 저장된 데이터를 유출시킬 수 있는 취약점이 플랫폼에서 발견됐음을 발표한 바 있다. 이 발표 이전에 이미 일부 사용자들이 레딧을 통하여 각종 대화 내용이 담긴 스크린샷을 공유하기도 했었다. 오픈AI는 이전부터 챗GPT에 데이터를 입력할 때 아무 정보나 넣지 않도록 유의하라고 경고해 왔다.
하지만 챗GPT를 사용할 때 기본 보안 수칙을 완전히 잊는 듯한 사용자들이 여전히 많은 상황이다. 보안 업체 사이버페이븐(Cyberhaven)은 민감한 데이터를 챗GPT에 입력하려는 사용자들이 4.2% 정도 된다는 내용의 보고서를 최근 발표했었다. 회사 기밀이나 고객 정보, 소스코드 등이 여기에 포함된다. 삼성의 엔지니어들이 반도체 DB 내 저장되어 있던 소스코드 일부와 내부 회의 일지를 챗GPT에 입력하기도 했었다.
애커만은 “인공지능 언어 모델들이 매우 빠른 속도로 도입되고 있다”며 “특히 코딩이나 개발 분야에서 꽤나 유용하게 활용되고 있다”고 경고한다. “다들 인공지능의 강력함에 매료되어 있으며, 그렇기 때문에 그 인공지능의 약점에 대해서는 잘 보려 하지 않습니다. 특히 최근 사이버 공격자들의 집중 표적이 되고 있는 개발자들 사이에서는 인공지능 활용부터 떠올리는 사람이 훨씬 많지요. 개발자들을 교육시켜 보안 인지 제고를 꾀하는 것도 좋지만, 기술적인 안전 장치를 마련하는 것도 필요합니다.”
글 : 타라 실즈(Tara Seals), IT 칼럼니스트
[국제부 문정후 기자(globoan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
문가용기자 기사보기
[2024-11-05] 
