삼성전자는 레드햇과 데이터센터 등 고성능 서버 시스템에서 CXL D램 동작 검증을 마쳤다. [사진: 삼성전자]
삼성전자는 레드햇과 데이터센터 등 고성능 서버 시스템에서 CXL D램 동작 검증을 마쳤다. [사진: 삼성전자]

[디지털투데이 석대건 기자] 삼성전자가 AI 메모리 반도체 시장 분위기 반전 카드로 '컴퓨트 익스프레스 링크(Compute eXpress Link, 이하 CXL)'를 전진배치하고 나섰다. 

삼성전자는 CXL을 앞세워 HBM(High Bandwidth Memory)이 주도하는 고성능 AI 메모리 시장에서 지분을 확대하려는 모습이다. 

D램 적층을 통해 성능을 높인 HBM는 AI 연산 과정에서 대규모 데이터를 빠르게 처리할 수 있기 때문에 수요가 커졌다. 오픈AI GPT-3 모델은 엔비디아 A100 가속기를 1500여개 활용해 학습 시간을 23일까지 단축했다. A100당 6개 HBM이 쓰인다.

HBM은 D램을 여러개 쌓으면서 성능을 끌어올리는게 핵심인데, 이 과정에서 자원 활용과 관련해 비효율도 있다는 지적이다.

CXL는 D램을 쌓지 않고 연결하는 방식으로 성능을 끌어올리면서 비효율은 개선하는데 초점이 맞춰져 있다.

CPU 중심 컴퓨팅 구조와 메모리 중심 컴퓨팅 구조 비교 [사진: HPE]
CPU 중심 컴퓨팅 구조와 메모리 중심 컴퓨팅 구조 비교 [사진: HPE]

CXL 기술은 메모리 중심 컴퓨팅이라 할 수 있다. 여러 대 서버가 대규모 메모리 풀을 공유하는 환경을 제공한다.

일종의 자원 분리 기술로 CXL 컴퓨팅 리소스를 구성하고 호스트 CPU와 통신을 통해 원격 자원을 자신의 로컬 자원 수준으로 빠르게 활용한다. 이를 통해 개별 장치가 필요 이상의 컴퓨팅 자원을 가져가 유휴 D램이 발생하는 문제와 전력 낭비로 인한 비용을 줄여 전체적인 컴퓨팅 효율성을 높일 수 있다.

이는 점점 더 커지는 AI 연산을 위한 서버 규모를 유지하는 데도 적합하다는 평가다. 앞서 A100 가속기로 23일 걸렸던 GPT-3 모델 다음 버전인 GPT-4 모델의 경우 A100를 2배 사용했지만 83일이 소요됐다. 

송명섭 하이투자증권 연구원은 "메모리 반도체 업체들은 CXL의 도입이 향후 DRAM 요구량을 줄일 수 있다는 리스크보다 현재 구조상 메모리 확장에 한계가 있어 고객들의 빠른 서버 증설이 제한될 수 있다는 점이 더욱 큰 리스크"라고 말했다.

마이크로소프트 애저는 연구를 통해 현재 시스템에서 CXL을 사용하면 전체 D램 요구량을 10% 줄일 수 있다고 밝혔다. 게다가 CXL 메모리 도입에 따라 전체 D램 필요 요구량도 빠르게 축소될 것이라 전망했다.

CXL 메모리 모듈 D램 (CMM-D) [사진: 삼성전자]
CXL 메모리 모듈 D램 (CMM-D) [사진: 삼성전자]

삼성전자는 반도체 업계에서 CXL 기술을 실현하는 메모리 개발에서 가장 앞섰다.

삼성전자는 업계 최초로 CXL 기반 DRAM 메모리 기술을 개발했다. 이후 CXL 메모리 오픈소스 소프트웨어 솔루션, 고용량 512GB CXL D램, CXL 전용 컨트롤러 등 관련 기술 생태계를 빠르게 확장하고 있다. 

특히 CXL 전용 컨트롤러를 장착하면 데이터 지연 시간을 기존의 1/5로 줄이는 동시에 데이터 처리 비용도 절감할 수 있다.

이미 지난해 CXL 2.0 D램 양산을 시작해 다양한 수요 기업들과 공급 협의를 진행 중이다. CXL 2.0 D램은 메모리 풀링(Pooling) 기술을 적용해 여러 개의 CXL 메모리를 묶을 수 있다. 이를 통해 메모리를 필요한 만큼 나누어 사용할 수 있어 CXL 메모리의 전 용량을 유휴 영역 없이 사용 가능하다.

인텔이 올해 2분기 CXL 2.0 규격에 맞는 첫 CPU인 5세대 제온 프로세서를 출시할 예정인 가운데 CXL 시장이 본격적으로 시작될 것으로 예상된다.

메모리 풀링(Pooling) 기술 [사진: 삼성전자]

또 지난 12월에는 엔터프라이즈 리눅스 1위 기업인 레드햇(Red Hat)과 CXL D램(CMM-D) 동작을 함께 검증을 완료했다. 이를 통해 데이터센터 사업자가 별도 소프트웨어 변경 없이 CXL 메모리를 사용할 수 있도록 길도 열었다.

최진혁 삼성전자 DS부문 미주 메모리연구소장(부사장)은 지난달 글로벌 반도체 학회 '멤콘(MemCon)'에 참석해 "CXL은 메모리의 효율적인 관리가 가능하고 시스템의 안전성을 높일 수 있어 삼성전자만의 다양한 CXL 기반 설루션을 통해 메모리 용량과 대역폭을 대거 향상시킬 수 있다"고 말했다.

즉 삼성전자는 CXL 기술로 엔비디아가 이끄는 HBM 등 제품을 중심으로 성능을 높이는 국면이 한계에 직면하게 될 HBM 다음을 기다리고 있는 셈이다.

송 연구원은  "CXL의 도입이 메모리 확장 제한 문제, 프로세서와의 성능 차이 문제 등을 해결 AI 발전 가속화 및 이에 따른 더 많은 시스템 생산, 더 많은 D램 수요의 창출을 이끌 것"이라고 분석했다.

키워드

#삼성전자 #CXL
저작권자 © 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지

관련기사