데이터센터 전선 기반 연결 대체, AI 및 컴퓨팅 앱에서 속도·에너지 효율성 향상
[보안뉴스 김영명 기자] IBM은 데이터센터에서 생성형 AI 모델의 학습 및 실행 방식을 획기적으로 개선할 수 있는 차세대 광학기술을 발표했다. 이 기술은 기존의 전선 기반 단거리 통신을 보완하는 새로운 공동 패키지형 광학(co-packaged optics, 이하 CPO) 기술로, 데이터센터 내부 연결 속도를 빛의 속도로 대폭 향상시킬 수 있는 새로운 공정이다.
특히 IBM은 이 기술을 구동할 수 있는 폴리머 광학 도파관(Polymer Optical Waveguide, PWG)을 성공적으로 설계하고 조립해 최초로 공개했다. IBM 연구진은 CPO 기술이 칩, 회로 기판, 서버 간 고대역폭 데이터를 전송하는 컴퓨팅 방식에 가져올 변화를 시연했다.
광섬유 기술은 전기 대신 빛으로 장거리 데이터 전송을 빠르게 처리하기 때문에 현재 전 세계 상업 및 통신 트래픽 대부분에 사용되고 있다. 그러나 데이터센터의 경우, 외부 통신 네트워크에는 광섬유를 사용하는데 반해, 내부 통신 네트워크의 대부분에는 여전히 구리선을 사용하고 있다. 구리선은 대규모 분산 학습 과정에서 다른 장치의 데이터를 기다리기 위해 절반 이상의 시간을 유휴 상태로 보내는 GPU 가속기들을 연결하고 있어 상당한 비용과 에너지가 소모된다.
IBM 연구진은 광학 속도와 처리 능력을 데이터센터 내부로 도입할 방법을 제시했다. IBM은 새롭게 발표된 논문을 통해 고속 광학 연결을 가능하게 하는 새로운 CPO 모듈의 시제품을 소개했다. 이 기술은 데이터센터 통신의 대역폭을 크게 확장하고, GPU의 유휴 시간을 줄이며, AI 처리 속도를 획기적으로 향상시킬 수 있다.
IBM은 이번 연구 혁신을 통해 크게 세 가지 주요 성과를 기대하고 있다. 첫 번째는 중급 전기 배선(interconnect) 대비 전력 소비를 5배 이상 줄여 생성형AI 확장 비용을 낮추고, 데이터센터 간 케이블 연결 길이를 기존 1미터에서 수백 미터로 확장할 수 있다.
두 번째는 CPO 기술을 통해 기존 전기 배선을 사용할 때보다 거대언어모델(LLM)의 학습 속도를 최대 5배까지 높일 수 있다. 이를 통해 일반적인 LLM 학습 시간이 3개월에서 3주로 단축될 수 있으며, 더 큰 모델과 더 많은 GPU를 활용할 경우 성능 향상의 폭이 더욱 커진다. 세 번째는 AI 모델을 학습시킬 때, 모델 당 미국내 약 5,000가구의 연간 전력 소비량에 해당하는 에너지를 절감해 데이터센터 에너지 효율을 극대화할 수 있다.
IBM 리서치 연구개발 다리오 길(Dario Gil) 총책임자(수석부회장)는 “생성형 AI가 점점 더 많은 에너지와 처리 능력을 요구함에 따라 데이터센터는 진화해야 한다”며 “공동 패키지형 광학(CPO) 기술은 데이터센터를 미래에 대비하도록 만들 수 있다”고 말했다. 이어 “이 획기적인 기술을 통해 미래의 칩은 광섬유 케이블이 데이터센터 안팎으로 데이터를 전달하는 방식으로 통신하게 될 것”이라며 “미래의 AI 워크로드를 처리할 수 있는 더 빠르고 지속 가능한 새로운 통신 시대를 열 것”이라고 말했다.
CPO 기술은 모듈 외 통신을 전기에서 광학 연결로 대체할 수 있는 가능성을 제공해 AI의 증가하는 성능 요구를 충족하기 위한 새로운 경로를 제시한다. 이 기술은 최초의 2nm 노드 칩 기술, 7nm 및 5nm 공정 기술의 최초 구현, 나노시트 트랜지스터, 수직 트랜지스터(VTFET), 단일 셀 DRAM, 화학적 증폭 포토레지스트 등 IBM의 선도적 반도체 혁신 역사를 이어가고 있다.
최근 칩 기술의 발전으로 칩 하나에 집적되는 트랜지스터의 집적도가 비약적으로 증가했다. IBM의 2나노미터(nm) 노드 칩 기술은 500억개 이상의 트랜지스터를 포함할 수 있다. 이번 CPO 기술은 칩 제조사가 전자 모듈에서 칩을 연결하는 데 광학 경로를 추가할 수 있도록 해 가속기 간 배선(interconnection) 집적도를 향상시키는 것을 목표로 하고 있다. IBM의 연구에 따르면 새로운 고대역 집적 광학 구조는 광학 채널당 다중 파장을 전송하는 기술과 결합해 칩 간 대역폭을 기존 전기 연결 대비 최대 80배까지 증가시킬 수 있는 잠재력을 보유하고 있다.
한편 IMB은 보안뉴스·시큐리티월드가 선정한 2023 Global Security TOP100 기업이다. Global Security TOP 100은 물리보안 분야와 사이버보안 분야를 모두 포함해 2023년 한 해 동안 국내외에서 매출, 성장 속도, 기술력, 혁신성, 지속가능성 등에서 우수한 평가를 받아 선정됐다.
[김영명 기자(boan@boannews.com)]
[보안뉴스 김영명 기자] IBM은 데이터센터에서 생성형 AI 모델의 학습 및 실행 방식을 획기적으로 개선할 수 있는 차세대 광학기술을 발표했다. 이 기술은 기존의 전선 기반 단거리 통신을 보완하는 새로운 공동 패키지형 광학(co-packaged optics, 이하 CPO) 기술로, 데이터센터 내부 연결 속도를 빛의 속도로 대폭 향상시킬 수 있는 새로운 공정이다.
▲IBM은 데이터센터에서 생성형 AI 모델의 학습·실행 방식을 개선할 수 있는 CPO 기술을 발표했다[사진=IBM]
특히 IBM은 이 기술을 구동할 수 있는 폴리머 광학 도파관(Polymer Optical Waveguide, PWG)을 성공적으로 설계하고 조립해 최초로 공개했다. IBM 연구진은 CPO 기술이 칩, 회로 기판, 서버 간 고대역폭 데이터를 전송하는 컴퓨팅 방식에 가져올 변화를 시연했다.
광섬유 기술은 전기 대신 빛으로 장거리 데이터 전송을 빠르게 처리하기 때문에 현재 전 세계 상업 및 통신 트래픽 대부분에 사용되고 있다. 그러나 데이터센터의 경우, 외부 통신 네트워크에는 광섬유를 사용하는데 반해, 내부 통신 네트워크의 대부분에는 여전히 구리선을 사용하고 있다. 구리선은 대규모 분산 학습 과정에서 다른 장치의 데이터를 기다리기 위해 절반 이상의 시간을 유휴 상태로 보내는 GPU 가속기들을 연결하고 있어 상당한 비용과 에너지가 소모된다.
IBM 연구진은 광학 속도와 처리 능력을 데이터센터 내부로 도입할 방법을 제시했다. IBM은 새롭게 발표된 논문을 통해 고속 광학 연결을 가능하게 하는 새로운 CPO 모듈의 시제품을 소개했다. 이 기술은 데이터센터 통신의 대역폭을 크게 확장하고, GPU의 유휴 시간을 줄이며, AI 처리 속도를 획기적으로 향상시킬 수 있다.
IBM은 이번 연구 혁신을 통해 크게 세 가지 주요 성과를 기대하고 있다. 첫 번째는 중급 전기 배선(interconnect) 대비 전력 소비를 5배 이상 줄여 생성형AI 확장 비용을 낮추고, 데이터센터 간 케이블 연결 길이를 기존 1미터에서 수백 미터로 확장할 수 있다.
두 번째는 CPO 기술을 통해 기존 전기 배선을 사용할 때보다 거대언어모델(LLM)의 학습 속도를 최대 5배까지 높일 수 있다. 이를 통해 일반적인 LLM 학습 시간이 3개월에서 3주로 단축될 수 있으며, 더 큰 모델과 더 많은 GPU를 활용할 경우 성능 향상의 폭이 더욱 커진다. 세 번째는 AI 모델을 학습시킬 때, 모델 당 미국내 약 5,000가구의 연간 전력 소비량에 해당하는 에너지를 절감해 데이터센터 에너지 효율을 극대화할 수 있다.
IBM 리서치 연구개발 다리오 길(Dario Gil) 총책임자(수석부회장)는 “생성형 AI가 점점 더 많은 에너지와 처리 능력을 요구함에 따라 데이터센터는 진화해야 한다”며 “공동 패키지형 광학(CPO) 기술은 데이터센터를 미래에 대비하도록 만들 수 있다”고 말했다. 이어 “이 획기적인 기술을 통해 미래의 칩은 광섬유 케이블이 데이터센터 안팎으로 데이터를 전달하는 방식으로 통신하게 될 것”이라며 “미래의 AI 워크로드를 처리할 수 있는 더 빠르고 지속 가능한 새로운 통신 시대를 열 것”이라고 말했다.
CPO 기술은 모듈 외 통신을 전기에서 광학 연결로 대체할 수 있는 가능성을 제공해 AI의 증가하는 성능 요구를 충족하기 위한 새로운 경로를 제시한다. 이 기술은 최초의 2nm 노드 칩 기술, 7nm 및 5nm 공정 기술의 최초 구현, 나노시트 트랜지스터, 수직 트랜지스터(VTFET), 단일 셀 DRAM, 화학적 증폭 포토레지스트 등 IBM의 선도적 반도체 혁신 역사를 이어가고 있다.
최근 칩 기술의 발전으로 칩 하나에 집적되는 트랜지스터의 집적도가 비약적으로 증가했다. IBM의 2나노미터(nm) 노드 칩 기술은 500억개 이상의 트랜지스터를 포함할 수 있다. 이번 CPO 기술은 칩 제조사가 전자 모듈에서 칩을 연결하는 데 광학 경로를 추가할 수 있도록 해 가속기 간 배선(interconnection) 집적도를 향상시키는 것을 목표로 하고 있다. IBM의 연구에 따르면 새로운 고대역 집적 광학 구조는 광학 채널당 다중 파장을 전송하는 기술과 결합해 칩 간 대역폭을 기존 전기 연결 대비 최대 80배까지 증가시킬 수 있는 잠재력을 보유하고 있다.
한편 IMB은 보안뉴스·시큐리티월드가 선정한 2023 Global Security TOP100 기업이다. Global Security TOP 100은 물리보안 분야와 사이버보안 분야를 모두 포함해 2023년 한 해 동안 국내외에서 매출, 성장 속도, 기술력, 혁신성, 지속가능성 등에서 우수한 평가를 받아 선정됐다.
[김영명 기자(boan@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
김영명기자 기사보기
[2024-12-25] 
