서버 증설 없이 AI 가속 솔루션 적용만으로도 서비스 용량 증대 가능
[보안뉴스 박미영 기자] SK텔레콤은 AI 서비스 처리 속도를 높이는 ‘AI 가속 솔루션(AIX, AI Inference Accelerator)’을 개발해, 자사 AI 서비스 ‘누구’에 적용했다고 밝혔다.
솔루션 적용으로 SK텔레콤 AI 서비스 ‘누구’는 기존 대비 서비스 용량이 약 5배 늘어날 것으로 기대된다. 국내에서 데이터센터 기반 AI 서비스에 해당 솔루션을 상용화한 기업은 SK텔레콤이 최초다.
SK텔레콤 AI 가속 솔루션은 손바닥 크기의 소형 카드 형태 가속기에 탑재된다. 데이터센터 내 기존 AI 서버에 장착하면 딥러닝 연산 속도가 20배 빨라진다.
AI 사용자 증가는 물론 금융·보안·쇼핑·인터넷 검색 등 생활 전 분야로 AI 서비스가 확대되고 있다. 이에 따라 기업들이 AI 서비스를 제공하기 위해 수집·처리해야 할 데이터도 폭증하고 있어, 추가 서버 증설이 필요하다.
SK텔레콤이 개발한 AI 가속 솔루션을 활용하면 별도 서버 증설 없이 AI 전체 서비스 용량을 기존 대비 약 5배 늘리는 효과를 기대할 수 있다. GPU 방식 가속 솔루션 대비 전력 효율성이 16배 뛰어나, 데이터센터 운용비 절감도 가능하다.
SK텔레콤이 AI 가속 솔루션을 개발한 이유는 자사 AI 서비스 ‘누구’의 월간 실사용자 수가 급증했기 때문이다. 지난해 8월 11만명이었던 ‘누구’ 월간 실사용자수(Monthly Active User)는 올해 1분기 기준 300만명을 돌파하는 등 빠른 속도로 증가했다. 이는 SK텔레콤이 자사 AI 서비스 ‘누구’를 스피커에 이어 내비게이션, 키즈폰, 셋톱박스 등으로 서비스 영역을 대폭 확대한 데 따른 것이다.
SK텔레콤은 약 2년간의 연구개발 끝에 AI 가속 솔루션을 개발하고 상용화하는 데 성공했다. SK텔레콤은 자체 기술만으로 △하드웨어 및 소프트웨어 설계 △솔루션 최적화 △상용 클라우드 서비스 적용 등을 완료했다.
미국 시장조사업체 트랙티카(Tractica)가 지난 3월 발표한 보고서에 따르면 가속 솔루션을 포함한 글로벌 AI 칩셋 시장 규모는 오는 2025년까지 660억달러에 이를 것으로 예상된다. 엔비디아, 구글, 마이크로소프트 등 글로벌 기업들도 AI 가속 솔루션 개발 및 상용화에 적극 나서고 있다.
AI 가속기가 활용될 수 있는 AI 분야는 다양하다. 예를 들어 AI 비서 서비스용 서버에 솔루션을 적용하면 응답시간이 빨라지며 보다 많은 고객들을 동시에 응대할 수 있다. CCTV 등 보안 서비스 영역에서도 더 많은 영상을 정확히 분석할 수 있어 위험상황 발생 시 적시에 대응할 수 있다.
SK텔레콤은 AI 연산 속도 및 전력 효율성을 보다 향상시킬 수 있는 ‘차세대 AI 가속 솔루션’도 개발할 예정이다.
SK텔레콤 박진효 ICT기술원장은 “서비스 성능을 높이고 운용비 절감도 가능한 AI 가속 솔루션을 성공적으로 개발하며 글로벌 톱 수준의 AI 기술 경쟁력을 확보했다”며, “AI 서비스 ‘누구’를 시작으로 향후 확장될 다양한 인공지능 응용 서비스에 솔루션을 적용해 고객들에게 고품질의 서비스를 제공할 것”이라고 밝혔다.
[박미영 기자(mypark@boannews.com)]
[보안뉴스 박미영 기자] SK텔레콤은 AI 서비스 처리 속도를 높이는 ‘AI 가속 솔루션(AIX, AI Inference Accelerator)’을 개발해, 자사 AI 서비스 ‘누구’에 적용했다고 밝혔다.
[사진=SK텔레콤]
솔루션 적용으로 SK텔레콤 AI 서비스 ‘누구’는 기존 대비 서비스 용량이 약 5배 늘어날 것으로 기대된다. 국내에서 데이터센터 기반 AI 서비스에 해당 솔루션을 상용화한 기업은 SK텔레콤이 최초다.
SK텔레콤 AI 가속 솔루션은 손바닥 크기의 소형 카드 형태 가속기에 탑재된다. 데이터센터 내 기존 AI 서버에 장착하면 딥러닝 연산 속도가 20배 빨라진다.
AI 사용자 증가는 물론 금융·보안·쇼핑·인터넷 검색 등 생활 전 분야로 AI 서비스가 확대되고 있다. 이에 따라 기업들이 AI 서비스를 제공하기 위해 수집·처리해야 할 데이터도 폭증하고 있어, 추가 서버 증설이 필요하다.
SK텔레콤이 개발한 AI 가속 솔루션을 활용하면 별도 서버 증설 없이 AI 전체 서비스 용량을 기존 대비 약 5배 늘리는 효과를 기대할 수 있다. GPU 방식 가속 솔루션 대비 전력 효율성이 16배 뛰어나, 데이터센터 운용비 절감도 가능하다.
SK텔레콤이 AI 가속 솔루션을 개발한 이유는 자사 AI 서비스 ‘누구’의 월간 실사용자 수가 급증했기 때문이다. 지난해 8월 11만명이었던 ‘누구’ 월간 실사용자수(Monthly Active User)는 올해 1분기 기준 300만명을 돌파하는 등 빠른 속도로 증가했다. 이는 SK텔레콤이 자사 AI 서비스 ‘누구’를 스피커에 이어 내비게이션, 키즈폰, 셋톱박스 등으로 서비스 영역을 대폭 확대한 데 따른 것이다.
SK텔레콤은 약 2년간의 연구개발 끝에 AI 가속 솔루션을 개발하고 상용화하는 데 성공했다. SK텔레콤은 자체 기술만으로 △하드웨어 및 소프트웨어 설계 △솔루션 최적화 △상용 클라우드 서비스 적용 등을 완료했다.
미국 시장조사업체 트랙티카(Tractica)가 지난 3월 발표한 보고서에 따르면 가속 솔루션을 포함한 글로벌 AI 칩셋 시장 규모는 오는 2025년까지 660억달러에 이를 것으로 예상된다. 엔비디아, 구글, 마이크로소프트 등 글로벌 기업들도 AI 가속 솔루션 개발 및 상용화에 적극 나서고 있다.
AI 가속기가 활용될 수 있는 AI 분야는 다양하다. 예를 들어 AI 비서 서비스용 서버에 솔루션을 적용하면 응답시간이 빨라지며 보다 많은 고객들을 동시에 응대할 수 있다. CCTV 등 보안 서비스 영역에서도 더 많은 영상을 정확히 분석할 수 있어 위험상황 발생 시 적시에 대응할 수 있다.
SK텔레콤은 AI 연산 속도 및 전력 효율성을 보다 향상시킬 수 있는 ‘차세대 AI 가속 솔루션’도 개발할 예정이다.
SK텔레콤 박진효 ICT기술원장은 “서비스 성능을 높이고 운용비 절감도 가능한 AI 가속 솔루션을 성공적으로 개발하며 글로벌 톱 수준의 AI 기술 경쟁력을 확보했다”며, “AI 서비스 ‘누구’를 시작으로 향후 확장될 다양한 인공지능 응용 서비스에 솔루션을 적용해 고객들에게 고품질의 서비스를 제공할 것”이라고 밝혔다.
[박미영 기자(mypark@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
박미영기자 기사보기
[2024-04-18] 
.jpg)
