삼성전자, IFA 2024에서 ‘모두를 위한 AI’ 비전 제시하며 보안 강조
‘제8회 삼성 보안 기술 포럼’에서도 AI 보안의 중요성 전파
[보안뉴스 김경애 기자] 삼성전자가 심혈을 기울이는 AI에 보안을 강조하고 나서 이목이 집중되고 있다. 이제는 모든 가전에 AI 기능이 추가되고, 인터넷 연결로 보안이 더욱 중요해졌기 때문이다.
삼성전자, IFA 2024에서 ‘모두를 위한 AI’ 비전 제시하며 보안 ‘부각’
삼성전자는 지난 5일(현지 시간) 독일에서 개최된 가전 전시회 ‘IFA 2024’에서 ‘모두를 위한 AI(AI for All)’ 비전을 제시한 바 있다.
삼성전자 구주 총괄 최고마케팅책임자(CMO) 벤자민 브라운(Benjamin Braun)은 “삼성은 AI기술이 사람들을 돕는 ‘보이지 않는 손’ 역할을 할 것으로 기대한다”며 “개방형 스마트싱스 생태계와 삼성 AI 기술로 세계를 선도하고, AI가 서로 연결되도록 도울 것”이라고 말했다.
그러면서 이날 선보인 2024년형 삼성 AI TV에 대해 삼성전자는 “최대 7년간 타이젠 OS 업그레이드를 지원하겠다”고 밝히며 “삼성 녹스(Knox)를 통해 승인되지 않은 악성 앱이나 외부의 해킹 등으로부터 사용자 정보를 지켜주는 안전한 플랫폼”이라고 소개했다.
삼성 보안 기술 포럼, ‘생성형 AI와 함께하는 보안’ 주제로 진행
10일 삼성전자 서울 R&D캠퍼스에서 개최한 ‘제8회 삼성 보안 기술 포럼(Samsung Security Tech Forum, SSTF)’에서는 ‘생성형 AI와 함께하는 보안: 생성형 지능과 함께 안전한 미래로 (Security with GenAI: Safeguarding the Future with Generative Intelligence)’라는 주제로 보안 기술 분야의 최신 기술과 동향을 공유하며 AI 보안의 중요성을 강조했다.
삼성전자 DX부문 최고기술책임자(CTO)겸 삼성리서치장 전경훈 사장은 환영사에서 “AI는 단순히 우리의 삶을 편리하게 만드는 것을 넘어, 보안 분야에서도 혁신적인 변화를 가져올 것”이라며 “AI 기술을 활용한 대규모 사이버 공격과 개인정보보호 이슈 등이 부각되고 있는 가운데, AI의 안전성을 확보하기 위한 노력을 하고 있다”고 말했다. 특히, 내년 8월 AI 챌린지 결선대회 참가할 예정인 삼성리서치팀의 성과를 예로 들며 AI와 보안 기술을 융합해 미래를 더 안전하게 만들고자 하는 ‘삼성전자의 비전과 도전’에 대해 소개했다.
또한 포럼을 통해 생성형 AI 보안과 관련된 세계적인 전문가들과 정보를 교류하며 생성형 AI가 가져다줄 혁신, 변화, 경험을 공유하고 앞으로의 방향을 논의하길 바란다고 덧붙였다.
AI 보안 시스템 개발 과정과 성과 발표
삼성전자 삼성리서치 시큐리티 & 프라이버시팀 김태수 상무는 기조강연에서 ‘생성형 AI 시대에 더 안전한 세상을 만들기 위한 도전과 기회’에 대한 견해를 공유했다. 또 최근 미국 정부에서 주최한 AI 보안기술 경진대회인 ‘AI 사이버 챌린지(AIxCC)’에서 선보인 AI 보안 시스템 개발과정과 그 성과에 대해 발표했다.
김태수 상무는 “현존하는 AI에는 문제가 많다”며 “인풋을 주는 데 있어 작은 인풋만 받아들이는 경향이 있고, 실제 동작 여부에 대해 예측이 어렵다”고 분석했다.
특히 대규모 언어 모델인 LLM의 근본적 문제점으로 △Limited Context Windows △Non-Deterministic Behaviors △Recalls △Hallucination △Memoryless 등을 꼽았다.
AIxCC 성과와 관련해서는 세미 파이널에서 팀애틀란타가 CC++과 자바 취약점을 가장 많이 발견했다고 밝혔다.
이어 미국 뉴욕대학교(NYU) 컴퓨터공학부 브렌든 돌란 가빗(Brendan Dolan-Gavitt) 교수는 “AI 활용이 취약점 탐지 등에 효과적이지만 새로운 위험요소가 존재한다”고 밝히며, AI 보안의 중요성을 강조했다.
한국과학기술원(KAIST) 전기및전자공학부 윤인수 교수는 사이버 공격을 불특정 다수를 노린 사이버 공격과 특정 목적의 타깃 공격으로 양분화해 설명했다. 윤 교수는 “다수를 노린 대중적인 공격으로 사람을 속이는 피싱, 알려진 취약점을 패치하지 않아 공격하는 N-DAY 어택, 칩 제로데이 어택”을 꼽으며, “LLM을 어떻게 잘 활용할지 등 소통할 수 있는 방법을 찾아야 한다”고 밝혔다.
포스텍(POSTECH) 컴퓨터공학과 박상돈 교수는 “LLM에도 바이러스가 있고, 생성한 내용을 보면 버퍼오버플로우를 생성한다”며 “Gen AI 에러가 다른 부분에도 영향을 미칠 수 있어 이러한 에러를 콘트롤 할 수 있어야 한다”고 말했다.
[김경애 기자(boan3@boannews.com)]
‘제8회 삼성 보안 기술 포럼’에서도 AI 보안의 중요성 전파
[보안뉴스 김경애 기자] 삼성전자가 심혈을 기울이는 AI에 보안을 강조하고 나서 이목이 집중되고 있다. 이제는 모든 가전에 AI 기능이 추가되고, 인터넷 연결로 보안이 더욱 중요해졌기 때문이다.
▲삼성전자 서울 R&D캠퍼스에서 개최된 ‘제8회 삼성 보안 기술 포럼’에서 삼성전자 DX부문 CTO겸 삼성리서치장 전경훈 사장이 환영사를 하고 있다[사진=삼성전자]
삼성전자, IFA 2024에서 ‘모두를 위한 AI’ 비전 제시하며 보안 ‘부각’
삼성전자는 지난 5일(현지 시간) 독일에서 개최된 가전 전시회 ‘IFA 2024’에서 ‘모두를 위한 AI(AI for All)’ 비전을 제시한 바 있다.
삼성전자 구주 총괄 최고마케팅책임자(CMO) 벤자민 브라운(Benjamin Braun)은 “삼성은 AI기술이 사람들을 돕는 ‘보이지 않는 손’ 역할을 할 것으로 기대한다”며 “개방형 스마트싱스 생태계와 삼성 AI 기술로 세계를 선도하고, AI가 서로 연결되도록 도울 것”이라고 말했다.
그러면서 이날 선보인 2024년형 삼성 AI TV에 대해 삼성전자는 “최대 7년간 타이젠 OS 업그레이드를 지원하겠다”고 밝히며 “삼성 녹스(Knox)를 통해 승인되지 않은 악성 앱이나 외부의 해킹 등으로부터 사용자 정보를 지켜주는 안전한 플랫폼”이라고 소개했다.
삼성 보안 기술 포럼, ‘생성형 AI와 함께하는 보안’ 주제로 진행
10일 삼성전자 서울 R&D캠퍼스에서 개최한 ‘제8회 삼성 보안 기술 포럼(Samsung Security Tech Forum, SSTF)’에서는 ‘생성형 AI와 함께하는 보안: 생성형 지능과 함께 안전한 미래로 (Security with GenAI: Safeguarding the Future with Generative Intelligence)’라는 주제로 보안 기술 분야의 최신 기술과 동향을 공유하며 AI 보안의 중요성을 강조했다.
삼성전자 DX부문 최고기술책임자(CTO)겸 삼성리서치장 전경훈 사장은 환영사에서 “AI는 단순히 우리의 삶을 편리하게 만드는 것을 넘어, 보안 분야에서도 혁신적인 변화를 가져올 것”이라며 “AI 기술을 활용한 대규모 사이버 공격과 개인정보보호 이슈 등이 부각되고 있는 가운데, AI의 안전성을 확보하기 위한 노력을 하고 있다”고 말했다. 특히, 내년 8월 AI 챌린지 결선대회 참가할 예정인 삼성리서치팀의 성과를 예로 들며 AI와 보안 기술을 융합해 미래를 더 안전하게 만들고자 하는 ‘삼성전자의 비전과 도전’에 대해 소개했다.
또한 포럼을 통해 생성형 AI 보안과 관련된 세계적인 전문가들과 정보를 교류하며 생성형 AI가 가져다줄 혁신, 변화, 경험을 공유하고 앞으로의 방향을 논의하길 바란다고 덧붙였다.
▲삼성전자 서울 R&D캠퍼스에서 개최된 ‘제8회 삼성 보안 기술 포럼’에서 삼성전자 삼성리서치 시큐리티 & 프라이버시팀 김태수 상무가 기조강연을 하고 있다[사진=삼성전자]
AI 보안 시스템 개발 과정과 성과 발표
삼성전자 삼성리서치 시큐리티 & 프라이버시팀 김태수 상무는 기조강연에서 ‘생성형 AI 시대에 더 안전한 세상을 만들기 위한 도전과 기회’에 대한 견해를 공유했다. 또 최근 미국 정부에서 주최한 AI 보안기술 경진대회인 ‘AI 사이버 챌린지(AIxCC)’에서 선보인 AI 보안 시스템 개발과정과 그 성과에 대해 발표했다.
김태수 상무는 “현존하는 AI에는 문제가 많다”며 “인풋을 주는 데 있어 작은 인풋만 받아들이는 경향이 있고, 실제 동작 여부에 대해 예측이 어렵다”고 분석했다.
특히 대규모 언어 모델인 LLM의 근본적 문제점으로 △Limited Context Windows △Non-Deterministic Behaviors △Recalls △Hallucination △Memoryless 등을 꼽았다.
AIxCC 성과와 관련해서는 세미 파이널에서 팀애틀란타가 CC++과 자바 취약점을 가장 많이 발견했다고 밝혔다.
이어 미국 뉴욕대학교(NYU) 컴퓨터공학부 브렌든 돌란 가빗(Brendan Dolan-Gavitt) 교수는 “AI 활용이 취약점 탐지 등에 효과적이지만 새로운 위험요소가 존재한다”고 밝히며, AI 보안의 중요성을 강조했다.
한국과학기술원(KAIST) 전기및전자공학부 윤인수 교수는 사이버 공격을 불특정 다수를 노린 사이버 공격과 특정 목적의 타깃 공격으로 양분화해 설명했다. 윤 교수는 “다수를 노린 대중적인 공격으로 사람을 속이는 피싱, 알려진 취약점을 패치하지 않아 공격하는 N-DAY 어택, 칩 제로데이 어택”을 꼽으며, “LLM을 어떻게 잘 활용할지 등 소통할 수 있는 방법을 찾아야 한다”고 밝혔다.
포스텍(POSTECH) 컴퓨터공학과 박상돈 교수는 “LLM에도 바이러스가 있고, 생성한 내용을 보면 버퍼오버플로우를 생성한다”며 “Gen AI 에러가 다른 부분에도 영향을 미칠 수 있어 이러한 에러를 콘트롤 할 수 있어야 한다”고 말했다.
[김경애 기자(boan3@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김경애기자 기사보기
[2024-12-19] 
