Synology, 안전한 AI 사용에 더 안전한 프라이빗 클라우드 대안 제시
제품 설계 과정에서 데이터 보안과 프라이버시 최우선 고려
[보안뉴스 엄호식 기자] 지난 11월 26일 국회는 인공지능(AI)의 개발과 규제를 이끌 포괄적 틀인 ‘AI 기본법’ 제정을 위한 중요한 진전을 이루었다. 국회 소위원회를 통과한 이 법안은 AI 시스템과 고위험 AI를 명확히 정의하고, AI 생성 콘텐츠에 워터마크를 의무화하며 AI 생태계 내 책임성과 투명성을 강화하기 위한 다양한 조치를 도입하고 있다.
이러한 변화는 국내 AI 분야가 혁신과 윤리적 실천, 그리고 강력한 규제 안전장치를 조화롭게 맞춰나가는 데 있어 중요한 전환점을 보여준다. 그뿐만 아니라 이 새로운 법안은 기술 대기업들이 데이터를 수집, 학습, 활용하는 방식에 영향을 미칠 것으로 예상된다. 그리고 ‘어떻게 하면 AI 기술의 혜택을 누리면서도 데이터 프라이버시를 지킬 수 있을까?’라는 중요한 질문을 제기한다.
프라이빗 클라우드 아키텍처: 데이터 소유권은 사용자에게로
Synology(시놀로지)는 프라이빗 클라우드 솔루션 제공업체로서 제품 설계 과정에서 데이터 보안과 프라이버시를 최우선으로 고려한다. 이는 Synology 시스템에 맡겨진 고객 데이터의 민감성을 깊이 이해한 데에서 비롯된다. Synology는 AI 기능을 생태계와 지원 시스템에 통합했지만, 기능적 효율성보다 프라이버시 권리가 설계 원칙에서 우선되도록 보장하고 있다.
예를 들어, Synology의 사진 관리 애플리케이션인 Photos는 사진 정리와 검색을 돕기 위해 얼굴 및 객체 인식 기능을 제공한다. 중요한 점은 Photos에서 사용되는 AI 모델이 공개 데이터셋으로 사전 학습됐으며, 사용자 데이터는 AI 학습에는 절대 사용되지 않는다는 것이다.
또한, Synology의 영상보안 감시 솔루션은 사람 및 차량 감지, 얼굴 인식, 객체 추적 등 고급 AI 기능을 활용해 보안을 강화하는 동시에 데이터를 안전하게 보호한다. 이 AI 모델은 사용자 네트워크 내에서만 작동하며 외부 클라우드 서비스에 의존하지 않는다. 데이터 암호화와 접근제어 설정은 사용자 프라이버시와 보안을 훼손하지 않고도 강력한 모니터링 기능을 제공한다.
관리자 콘솔로 섀도우 AI 및 데이터 유출 방지하기
오늘날 많은 조직이 생성형 AI를 활용하고 있지만, 섀도우 AI로 불리는 규제되지 않은 AI 도구의 사용은 데이터 보안과 프라이버시 측면에서 심각한 위험을 초래한다. Synology는 이를 해결하기 위해 전용 AI 관리 콘솔을 도입할 계획이다.
이 도구는 조직이 AI 모델의 배포와 권한을 세부적으로 제어할 수 있도록 설계됐다. 관리자들은 조직, 그룹, 개인 단위로 모델 권한을 정의할 수 있으며, 사회보장번호(SSN)와 같은 지역 특화 정보를 비식별화하는 매개변수를 설정할 수 있다. 이를 통해 민감한 데이터를 보호하면서도 안전하게 AI 도구를 활용할 수 있는 환경을 조성한다.
더불어 Synology는 AI 관리 콘솔에 독자적인 비식별화 메커니즘을 통합했다. 예를 들어, 사용자가 IP 주소나 이메일 주소와 같은 민감한 정보를 포함한 프롬프트를 작성할 경우, 시스템은 이를 ‘ip_address’나 ‘email’과 같은 일반적인 라벨로 대체해 데이터를 먼저 익명화한다. 생성형 AI가 익명화된 프롬프트를 처리해 응답을 생성한 후, 시스템은 원본 정보를 Synology 시스템 내에서 안전하게 다시 삽입한다. 이를 통해 민감한 정보가 사용자 네트워크를 벗어나지 않도록 보장한다.
GDPR 준수한 비식별화 프로세스 통해 강력한 AI 고객 지원
Synology는 고객 서비스 경험을 강화하기 위해 과거의 기술 지원 데이터를 비식별화한 데이터베이스를 활용해 AI 지원 시스템을 구축하고 있다.
해당 데이터베이스 구축을 위해 과거 지원 데이터는 정규식(Regex), 개체명 인식(NER), 체크섬 검증, 문맥 분석과 같은 다양한 방법론을 통해 민감한 정보를 비식별화한다. 새로운 지원 티켓이 접수될 때에도 동일한 비식별화 및 안전장치 프로세스를 거쳐 지원 데이터베이스에서 관련 정보를 검색한다. 무엇보다 데이터베이스 구축 및 새로운 티켓 처리 과정 모두 GDPR 규정을 준수하는 환경에서 진행된다.
이와 같은 발전 속에서도 Synology는 프라이버시를 최우선으로 하는 원칙을 지키고 있다. 이러한 설계 원칙과 데이터 안전 지침을 통해 사용자들은 데이터를 안전하게 보호받으면서 AI의 발전된 기술 혜택을 누릴 수 있다.
[엄호식 기자(eomhs@boannews.com)]
제품 설계 과정에서 데이터 보안과 프라이버시 최우선 고려
[보안뉴스 엄호식 기자] 지난 11월 26일 국회는 인공지능(AI)의 개발과 규제를 이끌 포괄적 틀인 ‘AI 기본법’ 제정을 위한 중요한 진전을 이루었다. 국회 소위원회를 통과한 이 법안은 AI 시스템과 고위험 AI를 명확히 정의하고, AI 생성 콘텐츠에 워터마크를 의무화하며 AI 생태계 내 책임성과 투명성을 강화하기 위한 다양한 조치를 도입하고 있다.
▲Synology가 더 안전한 AI 활용을 위한 제안을 제시했다[이미지=Synology]
이러한 변화는 국내 AI 분야가 혁신과 윤리적 실천, 그리고 강력한 규제 안전장치를 조화롭게 맞춰나가는 데 있어 중요한 전환점을 보여준다. 그뿐만 아니라 이 새로운 법안은 기술 대기업들이 데이터를 수집, 학습, 활용하는 방식에 영향을 미칠 것으로 예상된다. 그리고 ‘어떻게 하면 AI 기술의 혜택을 누리면서도 데이터 프라이버시를 지킬 수 있을까?’라는 중요한 질문을 제기한다.
프라이빗 클라우드 아키텍처: 데이터 소유권은 사용자에게로
Synology(시놀로지)는 프라이빗 클라우드 솔루션 제공업체로서 제품 설계 과정에서 데이터 보안과 프라이버시를 최우선으로 고려한다. 이는 Synology 시스템에 맡겨진 고객 데이터의 민감성을 깊이 이해한 데에서 비롯된다. Synology는 AI 기능을 생태계와 지원 시스템에 통합했지만, 기능적 효율성보다 프라이버시 권리가 설계 원칙에서 우선되도록 보장하고 있다.
예를 들어, Synology의 사진 관리 애플리케이션인 Photos는 사진 정리와 검색을 돕기 위해 얼굴 및 객체 인식 기능을 제공한다. 중요한 점은 Photos에서 사용되는 AI 모델이 공개 데이터셋으로 사전 학습됐으며, 사용자 데이터는 AI 학습에는 절대 사용되지 않는다는 것이다.
또한, Synology의 영상보안 감시 솔루션은 사람 및 차량 감지, 얼굴 인식, 객체 추적 등 고급 AI 기능을 활용해 보안을 강화하는 동시에 데이터를 안전하게 보호한다. 이 AI 모델은 사용자 네트워크 내에서만 작동하며 외부 클라우드 서비스에 의존하지 않는다. 데이터 암호화와 접근제어 설정은 사용자 프라이버시와 보안을 훼손하지 않고도 강력한 모니터링 기능을 제공한다.
관리자 콘솔로 섀도우 AI 및 데이터 유출 방지하기
오늘날 많은 조직이 생성형 AI를 활용하고 있지만, 섀도우 AI로 불리는 규제되지 않은 AI 도구의 사용은 데이터 보안과 프라이버시 측면에서 심각한 위험을 초래한다. Synology는 이를 해결하기 위해 전용 AI 관리 콘솔을 도입할 계획이다.
이 도구는 조직이 AI 모델의 배포와 권한을 세부적으로 제어할 수 있도록 설계됐다. 관리자들은 조직, 그룹, 개인 단위로 모델 권한을 정의할 수 있으며, 사회보장번호(SSN)와 같은 지역 특화 정보를 비식별화하는 매개변수를 설정할 수 있다. 이를 통해 민감한 데이터를 보호하면서도 안전하게 AI 도구를 활용할 수 있는 환경을 조성한다.
▲Synology AI 관리 콘솔의 비식별화 메커니즘 적용 예[이미지=Synology]
더불어 Synology는 AI 관리 콘솔에 독자적인 비식별화 메커니즘을 통합했다. 예를 들어, 사용자가 IP 주소나 이메일 주소와 같은 민감한 정보를 포함한 프롬프트를 작성할 경우, 시스템은 이를 ‘ip_address’나 ‘email’과 같은 일반적인 라벨로 대체해 데이터를 먼저 익명화한다. 생성형 AI가 익명화된 프롬프트를 처리해 응답을 생성한 후, 시스템은 원본 정보를 Synology 시스템 내에서 안전하게 다시 삽입한다. 이를 통해 민감한 정보가 사용자 네트워크를 벗어나지 않도록 보장한다.
GDPR 준수한 비식별화 프로세스 통해 강력한 AI 고객 지원
Synology는 고객 서비스 경험을 강화하기 위해 과거의 기술 지원 데이터를 비식별화한 데이터베이스를 활용해 AI 지원 시스템을 구축하고 있다.
해당 데이터베이스 구축을 위해 과거 지원 데이터는 정규식(Regex), 개체명 인식(NER), 체크섬 검증, 문맥 분석과 같은 다양한 방법론을 통해 민감한 정보를 비식별화한다. 새로운 지원 티켓이 접수될 때에도 동일한 비식별화 및 안전장치 프로세스를 거쳐 지원 데이터베이스에서 관련 정보를 검색한다. 무엇보다 데이터베이스 구축 및 새로운 티켓 처리 과정 모두 GDPR 규정을 준수하는 환경에서 진행된다.
이와 같은 발전 속에서도 Synology는 프라이버시를 최우선으로 하는 원칙을 지키고 있다. 이러한 설계 원칙과 데이터 안전 지침을 통해 사용자들은 데이터를 안전하게 보호받으면서 AI의 발전된 기술 혜택을 누릴 수 있다.
[엄호식 기자(eomhs@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
엄호식기자 기사보기
[2024-12-10] 
.jpg)
.jpg)
.jpg)
