ISEC 2024 첫째 날 ‘AI 보안 프로젝트 성공을 위한, 플랫폼의 필요성과 구축사례’ 주제로 발표
침해사고 관련 법 잦은 변경...최근 트렌드는 SOC 자동화, AI 접목한 보안 대응에 초점
‘AI 런타임 보안’...보호되지 않은 AI 앱의 위협 노출 분석·보고, 안전한 앱 생태계 구축
[보안뉴스 김영명 기자] 제18회 국제 시큐리티 콘퍼런스(ISEC 2024) 1일차에 팔로알토 네트웍스의 배준호 부사장은 키노트 스피치에서 ‘AI 보안 프로젝트 성공을 위한, 플랫폼의 필요성과 구축 사례’를 주제로 발표했다.
생성형 AI의 활성화와 함께 해당 기능이 적용된 애플리케이션은 생산성 및 작업 능률을 향상시키고, 개발자의 데브옵스(DevOps, 개발 방법론)를 증대시키며, 세일즈와 마케팅에서도 효율성을 증대시킬 수 있는 등 다양한 이점이 있다. 하지만 보이지 않는 보안 위협도 도사리고 있다.
팔로알토 네트웍스 배준호 부사장은 생성형AI가 적용된 애플리케이션 사용에 따른 새로운 보안 위험으로 △쉐도우 AI·IT의 가시성 확보 불가능 △데이터 유출 △응답 메시지에 내장된 악성 URL 등 세 가지를 들었다.
보안이 전제된 생성형 AI 앱 도입이 필요한 이유는 크게 4가지다. 첫째는 AI 앱 개발이 대중화되면서 안전하지 않은 앱이 급증하고 있다는 점이다. 둘째는 AI 앱은 데이터를 저장하고 학습하며 끊임 없이 반복한다는 점이다. 셋째는 AI 앱은 구조화되지 않은 입력을 수집하고 다양한 출력을 생성하게 된다는 점이다. 마지막으로는 빠르게 진화하는 강력한 앱은 마켓 플레이스를 통해 쉽게 접근할 수 있다는 점이다. 이러한 문제를 해결하기 위해서는 AI 앱에 대한 가시성, 분류 및 앱 액세스 제어, 보안 제어 등이 필요하다.
팔로알토 네트웍스가 제공하는 AI Access Security 서비스는 데이터의 추가 필터링을 거쳐 생성형 AI 앱 목록에서 승인된 데이터 업로드는 허용하고, 허가 받지 않은 데이터 업로드는 차단할 수 있다. AI Access Security는 정책을 동적으로 검색·분류·시행하는 기능을 제공해 조직이 안전한 방식으로 AI를 활용할 수 있도록 지원하고 있다.
기업용 AI 애플리케이션이 사용하는 확장된 기술 스택인 AI 인프라스트럭처, AI 모델링, 데이터셋, 플러그인&에이전트 등은 다양한 공급망 및 구성 위험을 내포하고 있다. ‘AI 인프라스트럭처’는 안전하지 않은 프롬프트 탬플릿, 손상된 AI/ML 라이브러리 등이, ‘AI 모델’에서는 모델 취약점, 독점 데이터로 훈련된 모델, 모델 구성 오류 등의 오류가, ‘데이터셋’에서는 공개적으로 쓰기 가능한 데이터 세트, 민감한 데이터 노출, 불분명한 데이터 계보 등이, ‘플러그인&에이전트’에서는 과도한 권한 등을 보안 포인트로 맞춰 대응해야 한다.
배준호 부사장은 “팔로알토 네트웍스가 서비스하는 ‘AI 런타임 보안’은 엔터프라이즈 AI 앱과 모델, 그리고 데이터를 자동으로 보호한다”며 “AI 런타임 보안은 보호되지 않은 AI 애플리케이션에 대한 지속적인 위협 노출을 분석해서 평가 및 실시간 보고하고, AI 앱과 데이터와 모델 등 AI 앱 생태계를 보호해 안전한 환경에서 AI 기반 앱을 구축하도록 지원한다”고 설명했다.
미국은 CIRCIA(중요 인프라에 대한 사이버 사고 보고법)에 따라 사이버 침해 피해 대상 주체가 사고 발생 시점부터 72시간, 랜섬웨어를 지불한 경우에는 24시간 이내에 CISA에 보고해야 한다. 우리나라도 올해 8월 정보통신서비스 제공자는 사이버 침해사고 인지 24시간 이내에 신고하도록 하는 등 관련 법이 개정되면서 SOC 자동화, AI를 접목해 해결하는 것이 최근의 트렌드가 되고 있다. 하지만 SOC 고객은 과도한 알람 정보, 사일로화된 정보, 판단에 도움 안 되는 정보 등으로 판단 및 조치 시간이 지연되는 문제를 안고 있다.
이와 관련 팔로알토 네트웍스 배준호 부사장은 “팔로알토 네트웍스 유닛42의 AI 시큐리티 현황 진단 컨설팅 서비스는 전반적인 AI 보안 위협을 우선순위 위험으로 변환해주며, 데이터 기반 분석으로 관련 위험수준을 이해하는데 도움이 될 뿐만 아니라 주요 취약성과 완화책에 대한 공유된 내용을 손쉽게 문서화할 수 있다”고 강조했다. 이어 “AI 기술로 안전하게 혁신할 수 있도록 돕는 우선순위 권장 사항이 포함된 실행 가능한 결과 및 수정 로드맵을 제시하고, 유닛42 전문가에게 액세스할 수 있도록 함으로써 전술적·전략적 개선 계획의 수정을 주도할 수 있다”는 말로 키노트 세션을 마쳤다.
한편, 국내 대표 사이버보안 콘퍼런스이자 아시아 최대 규모를 자랑하는 ‘ISEC 2024’는 한국인터넷진흥원과 한국CISO협의회, 더비엔이 공동주관하며 50여 유관부처와 보안 관련 단체가 후원으로 10월 16일과 17일 양일간 서울 강남구 코엑스 3층 오디토리움과 D홀에서 진행된다. 올해로 18회차를 맞이한 ISEC 2024는 198개 기관과 기업이 참여하고 총 18개 트랙·92개 세션으로 구성된 발표와 145개의 전시 부스가 마련됐다.
아울러 행사 기간 중 보안책임자와 보안담당자를 대상으로 선발한 강연평가단들의 현장 투표와 설문조사, 영상평가 등을 통해 선발한 명강연자들을 시상하는 ‘ISEC 2024 베스트 스피커 어워즈’도 예정되어 있는 등 콘텐츠 질적 향상 및 강연 수준 제고에 끊임없이 나서고 있다.
[김영명 기자(boan@boannews.com)]
침해사고 관련 법 잦은 변경...최근 트렌드는 SOC 자동화, AI 접목한 보안 대응에 초점
‘AI 런타임 보안’...보호되지 않은 AI 앱의 위협 노출 분석·보고, 안전한 앱 생태계 구축
[보안뉴스 김영명 기자] 제18회 국제 시큐리티 콘퍼런스(ISEC 2024) 1일차에 팔로알토 네트웍스의 배준호 부사장은 키노트 스피치에서 ‘AI 보안 프로젝트 성공을 위한, 플랫폼의 필요성과 구축 사례’를 주제로 발표했다.
▲ISEC 2024에서 팔로알토 네트웍스 배준호 부사장이 키노트 발표를 하고 있다[사진=보안뉴스]
생성형 AI의 활성화와 함께 해당 기능이 적용된 애플리케이션은 생산성 및 작업 능률을 향상시키고, 개발자의 데브옵스(DevOps, 개발 방법론)를 증대시키며, 세일즈와 마케팅에서도 효율성을 증대시킬 수 있는 등 다양한 이점이 있다. 하지만 보이지 않는 보안 위협도 도사리고 있다.
팔로알토 네트웍스 배준호 부사장은 생성형AI가 적용된 애플리케이션 사용에 따른 새로운 보안 위험으로 △쉐도우 AI·IT의 가시성 확보 불가능 △데이터 유출 △응답 메시지에 내장된 악성 URL 등 세 가지를 들었다.
보안이 전제된 생성형 AI 앱 도입이 필요한 이유는 크게 4가지다. 첫째는 AI 앱 개발이 대중화되면서 안전하지 않은 앱이 급증하고 있다는 점이다. 둘째는 AI 앱은 데이터를 저장하고 학습하며 끊임 없이 반복한다는 점이다. 셋째는 AI 앱은 구조화되지 않은 입력을 수집하고 다양한 출력을 생성하게 된다는 점이다. 마지막으로는 빠르게 진화하는 강력한 앱은 마켓 플레이스를 통해 쉽게 접근할 수 있다는 점이다. 이러한 문제를 해결하기 위해서는 AI 앱에 대한 가시성, 분류 및 앱 액세스 제어, 보안 제어 등이 필요하다.
팔로알토 네트웍스가 제공하는 AI Access Security 서비스는 데이터의 추가 필터링을 거쳐 생성형 AI 앱 목록에서 승인된 데이터 업로드는 허용하고, 허가 받지 않은 데이터 업로드는 차단할 수 있다. AI Access Security는 정책을 동적으로 검색·분류·시행하는 기능을 제공해 조직이 안전한 방식으로 AI를 활용할 수 있도록 지원하고 있다.
기업용 AI 애플리케이션이 사용하는 확장된 기술 스택인 AI 인프라스트럭처, AI 모델링, 데이터셋, 플러그인&에이전트 등은 다양한 공급망 및 구성 위험을 내포하고 있다. ‘AI 인프라스트럭처’는 안전하지 않은 프롬프트 탬플릿, 손상된 AI/ML 라이브러리 등이, ‘AI 모델’에서는 모델 취약점, 독점 데이터로 훈련된 모델, 모델 구성 오류 등의 오류가, ‘데이터셋’에서는 공개적으로 쓰기 가능한 데이터 세트, 민감한 데이터 노출, 불분명한 데이터 계보 등이, ‘플러그인&에이전트’에서는 과도한 권한 등을 보안 포인트로 맞춰 대응해야 한다.
▲배준호 부사장은 ‘AI 보안 프로젝트 성공을 위한, 플랫폼의 필요성과 구축사례’를 주제로 발표했다[사진=보안뉴스]
배준호 부사장은 “팔로알토 네트웍스가 서비스하는 ‘AI 런타임 보안’은 엔터프라이즈 AI 앱과 모델, 그리고 데이터를 자동으로 보호한다”며 “AI 런타임 보안은 보호되지 않은 AI 애플리케이션에 대한 지속적인 위협 노출을 분석해서 평가 및 실시간 보고하고, AI 앱과 데이터와 모델 등 AI 앱 생태계를 보호해 안전한 환경에서 AI 기반 앱을 구축하도록 지원한다”고 설명했다.
미국은 CIRCIA(중요 인프라에 대한 사이버 사고 보고법)에 따라 사이버 침해 피해 대상 주체가 사고 발생 시점부터 72시간, 랜섬웨어를 지불한 경우에는 24시간 이내에 CISA에 보고해야 한다. 우리나라도 올해 8월 정보통신서비스 제공자는 사이버 침해사고 인지 24시간 이내에 신고하도록 하는 등 관련 법이 개정되면서 SOC 자동화, AI를 접목해 해결하는 것이 최근의 트렌드가 되고 있다. 하지만 SOC 고객은 과도한 알람 정보, 사일로화된 정보, 판단에 도움 안 되는 정보 등으로 판단 및 조치 시간이 지연되는 문제를 안고 있다.
이와 관련 팔로알토 네트웍스 배준호 부사장은 “팔로알토 네트웍스 유닛42의 AI 시큐리티 현황 진단 컨설팅 서비스는 전반적인 AI 보안 위협을 우선순위 위험으로 변환해주며, 데이터 기반 분석으로 관련 위험수준을 이해하는데 도움이 될 뿐만 아니라 주요 취약성과 완화책에 대한 공유된 내용을 손쉽게 문서화할 수 있다”고 강조했다. 이어 “AI 기술로 안전하게 혁신할 수 있도록 돕는 우선순위 권장 사항이 포함된 실행 가능한 결과 및 수정 로드맵을 제시하고, 유닛42 전문가에게 액세스할 수 있도록 함으로써 전술적·전략적 개선 계획의 수정을 주도할 수 있다”는 말로 키노트 세션을 마쳤다.
한편, 국내 대표 사이버보안 콘퍼런스이자 아시아 최대 규모를 자랑하는 ‘ISEC 2024’는 한국인터넷진흥원과 한국CISO협의회, 더비엔이 공동주관하며 50여 유관부처와 보안 관련 단체가 후원으로 10월 16일과 17일 양일간 서울 강남구 코엑스 3층 오디토리움과 D홀에서 진행된다. 올해로 18회차를 맞이한 ISEC 2024는 198개 기관과 기업이 참여하고 총 18개 트랙·92개 세션으로 구성된 발표와 145개의 전시 부스가 마련됐다.
아울러 행사 기간 중 보안책임자와 보안담당자를 대상으로 선발한 강연평가단들의 현장 투표와 설문조사, 영상평가 등을 통해 선발한 명강연자들을 시상하는 ‘ISEC 2024 베스트 스피커 어워즈’도 예정되어 있는 등 콘텐츠 질적 향상 및 강연 수준 제고에 끊임없이 나서고 있다.
[김영명 기자(boan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김영명기자 기사보기
[2024-10-16] 
