"HBM만 보면 무조건 늦습니다!" 삼성·SK가 목숨 거는 AI 시대 진짜 치트키 'CXL'이 핵심 기술인 이유
CXL(컴퓨트 익스프레스 링크), AI 시대 핵심 기술인 이유는?
“AI 반도체가 아무리 빨라도 필요한 데이터를 제때 받지 못한다면 어떻게 될까요?”
인공지능 산업의 경쟁은 흔히 GPU와 HBM 중심으로 설명됩니다. 하지만 AI 모델이 거대해지고 데이터센터에 수많은 CPU와 GPU, 가속기가 연결되면서 새로운 문제가 나타났습니다.
바로 메모리 용량과 데이터 이동의 병목현상입니다.
이 문제를 해결할 차세대 기술로 주목받는 것이 CXL(Compute Express Link·컴퓨트 익스프레스 링크)입니다. CXL은 단순히 메모리를 더 꽂는 기술이 아닙니다. 여러 프로세서와 가속기, 메모리를 하나의 유기적인 시스템처럼 연결해 데이터센터의 자원을 더 효율적으로 활용하게 만드는 고속 연결 표준입니다.
CXL이란 무엇인가?
CXL은 CPU와 GPU, AI 가속기, 메모리 확장장치 등을 고속·저지연으로 연결하는 개방형 인터커넥트 기술입니다.
기존 서버에서는 CPU가 자신에게 직접 연결된 메모리를 중심으로 작업했습니다. 다른 장치의 메모리를 사용하려면 데이터를 복사하거나 복잡한 소프트웨어 작업을 거쳐야 했습니다.
CXL은 CPU의 메모리 공간과 연결 장치의 메모리 사이에서 캐시 일관성을 유지하도록 설계됐습니다. CPU와 가속기가 같은 데이터를 바라보더라도 어느 데이터가 최신인지 자동으로 관리해 자원 공유를 쉽게 만드는 것입니다. CXL 컨소시엄은 CXL을 프로세서, 메모리 확장장치와 가속기를 연결하는 캐시 일관성 기반 인터커넥트로 정의하고 있습니다.
쉽게 비유하면 기존 서버가 각자 물탱크를 가진 여러 채의 집이었다면, CXL은 필요한 집이 공동 저수지의 물을 유연하게 가져다 쓸 수 있도록 연결한 배관망과 비슷합니다.
CXL을 구성하는 세 가지 핵심 프로토콜 나뉩니다.
1. CXL.io
장치 검색과 설정, 상태 관리 등 일반적인 입출력 통신을 담당합니다. 기존 PCIe 방식과 유사한 역할을 수행합니다.
2. CXL.cache
GPU나 가속기 같은 장치가 CPU에 연결된 메모리의 데이터를 자신의 캐시에 저장하고 활용할 수 있도록 지원합니다.
3. CXL.mem
CPU가 CXL 장치에 탑재된 메모리를 마치 시스템 메모리처럼 접근하도록 해줍니다.
세 기능이 결합되면 CPU와 가속기, 확장 메모리 사이의 데이터 이동이 단순해지고 불필요한 복사 작업도 줄어듭니다.
AI 시대에 CXL이 필요한 첫 번째 이유, 메모리가 부족하다
생성형 AI 모델은 엄청난 양의 데이터를 처리합니다.
모델의 매개변수와 학습 데이터, 중간 계산 결과를 저장하려면 막대한 메모리 용량이 필요합니다. AI 모델이 커질수록 GPU의 연산능력뿐 아니라 데이터를 담아둘 메모리 공간도 중요해집니다.
하지만 서버 메인보드에 장착할 수 있는 일반 D램의 용량에는 물리적인 한계가 있습니다. 메모리를 늘리기 위해 서버 전체를 새로 구매하는 방식은 비용과 전력 소비 측면에서도 비효율적입니다.
CXL 메모리 확장장치를 사용하면 기존 서버의 PCIe 기반 연결 구조를 활용해 추가 메모리를 연결할 수 있습니다. 삼성전자는 CXL 메모리가 AI·머신러닝, 고성능컴퓨팅과 인메모리 데이터베이스처럼 대용량 메모리와 높은 대역폭이 필요한 작업에 적합하다고 설명합니다.
 |
| 메모리와 컴퓨팅의 경계가 허물어지는 혁신적 인터커낵트 페러다임 |
두 번째 이유, 남는 메모리를 함께 쓸 수 있다
기존 데이터센터에서는 서버마다 메모리가 고정 배치됩니다.
A서버는 메모리가 부족한데 B서버는 상당한 메모리가 남아 있어도 서로 나눠 쓰기 어렵습니다. 이 때문에 데이터센터 운영자는 예상되는 최대 사용량에 맞춰 서버마다 많은 메모리를 미리 설치해야 했습니다.
CXL의 메모리 풀링 기능을 활용하면 여러 서버가 공동 메모리 자원을 필요에 따라 할당받을 수 있습니다.
예를 들어 평소에는 서버 여러 대가 하나의 메모리 풀을 나눠 사용하고, 특정 AI 작업이 시작되면 필요한 서버에 더 많은 메모리를 배정할 수 있습니다. 작업이 끝나면 해당 자원을 다시 회수해 다른 서버에 배분할 수 있습니다.
이러한 구조는 메모리 이용률을 높이고 불필요한 장비 구매를 줄여 데이터센터의 총소유비용을 낮추는 데 도움이 됩니다. CXL 2.0부터 스위칭과 메모리 풀링이 도입됐으며, 이후 규격에서는 다수 호스트의 메모리 공유와 패브릭 기능이 더욱 강화됐습니다.
세 번째 이유, CPU와 GPU 사이 데이터 이동을 줄인다
AI 시스템에서는 CPU가 데이터를 준비하고 GPU가 대규모 연산을 처리하는 경우가 많습니다.
이 과정에서 데이터가 CPU 메모리와 GPU 메모리 사이를 반복해서 이동하면 시간과 전력이 낭비됩니다. 연산장치가 아무리 빨라도 데이터가 늦게 도착하면 전체 시스템은 제 성능을 내지 못합니다.
CXL은 장치들이 메모리를 보다 일관된 방식으로 공유하도록 지원해 데이터 복사와 소프트웨어 관리 부담을 줄이는 방향으로 발전하고 있습니다.
특히 여러 CPU와 GPU, 가속기, 메모리를 하나의 패브릭으로 연결하면 워크로드에 맞춰 자원을 조합하는 컴포저블 인프라 구현이 가능해집니다. 서버 한 대를 고정된 제품으로 보는 것이 아니라 연산과 메모리, 저장장치를 필요에 따라 구성하는 시대가 열리는 것입니다.
CXL과 HBM은 경쟁 기술일까?
CXL과 HBM은 자주 함께 언급되지만 역할은 다릅니다.
| 구분 | HBM | CXL 메모리 |
|---|---|---|
| 핵심 목적 | 초고속 데이터 처리 | 메모리 용량 확장·공유 |
| 장점 | 매우 높은 대역폭 | 유연한 확장성과 자원 활용 |
| 위치 | GPU·가속기 가까이에 탑재 | CXL 인터페이스를 통해 연결 |
| 주요 역할 | 빠른 연산 지원 | 대규모 데이터 저장·공급 |
| 비용 구조 | 상대적으로 고가 | 용량당 비용 절감 가능 |
| 적합한 용도 | AI 학습·고속 연산 | AI 추론·데이터베이스·메모리 확장 |
HBM은 GPU 옆에서 가장 빠르게 데이터를 공급하는 ‘초고속 작업대’에 가깝습니다. CXL 메모리는 작업대에 모든 물건을 올려놓을 수 없을 때 필요한 자료를 보관하고 공급하는 ‘확장형 창고’에 가깝습니다.
따라서 CXL이 HBM을 대체한다기보다 HBM, 일반 D램과 함께 계층형 메모리 구조를 구성할 가능성이 큽니다.
자주 사용하고 즉시 처리해야 하는 데이터는 HBM에 두고, 상대적으로 접근 빈도가 낮거나 용량이 큰 데이터는 CXL 메모리에 배치하는 방식입니다.
AI 학습보다 추론 시장에서 더 주목받는 이유
AI 학습은 최고 수준의 연산속도와 대역폭이 중요합니다. 반면 추론은 완성된 AI 모델을 많은 사용자에게 서비스하는 과정이므로 비용 효율성과 메모리 용량이 더욱 중요해집니다.
거대한 언어모델을 서비스하려면 모델 데이터와 사용자 요청에 따른 캐시를 대규모로 저장해야 합니다. 모든 데이터를 비싼 HBM에 올리는 것은 비용 부담이 큽니다.
CXL 메모리를 활용하면 일부 데이터를 확장 메모리로 이동시켜 GPU 메모리 부족을 완화할 수 있습니다. 삼성전자가 최근 공개한 AI 추론 평가에서도 CXL 메모리 풀링이 메모리 확장성을 높이면서 일반 D램에 가까운 성능을 제공할 수 있다고 설명했습니다.
다만 실제 성능은 서버 구성, 소프트웨어 최적화, 워크로드와 CXL 메모리의 접근 지연시간에 따라 달라집니다. CXL 메모리가 모든 작업에서 기존 로컬 D램이나 HBM과 동일한 성능을 내는 것은 아닙니다.
CXL은 데이터센터 비용을 어떻게 줄일까?
AI 데이터센터에서 가장 큰 문제는 단순히 장비 가격만이 아닙니다.
전력, 냉각, 공간, 유지보수와 낮은 자원 이용률이 모두 비용으로 연결됩니다. 서버마다 필요 이상의 메모리를 설치해 두고 사용하지 않는다면 막대한 자원이 낭비됩니다.
CXL은 메모리를 확장하고 공유해 다음과 같은 효과를 기대할 수 있습니다.
서버별 과잉 메모리 탑재 감소
메모리 이용률 개선
서버 교체 없이 용량 확장
AI 워크로드별 자원 재배치
데이터센터 총소유비용 절감
CPU와 가속기 간 데이터 관리 단순화
인텔과 마이크론이 진행한 CXL 메모리 확장 테스트에서는 특정 HPC·AI 환경에서 읽기 대역폭과 혼합 읽기·쓰기 대역폭이 개선됐습니다. 다만 이는 특정 하드웨어와 소프트웨어 설정에서 나온 결과이므로 모든 시스템에 동일하게 적용된다고 해석해서는 안 됩니다.
CXL 4.0 시대, 무엇이 달라졌나?
CXL 기술은 계속 진화하고 있습니다.
CXL 컨소시엄이 공개한 CXL 4.0은 전송속도를 이전 세대의 64GT/s에서 128GT/s로 높였으며, 여러 포트를 묶어 사용할 수 있는 기능과 메모리의 안정성·가용성·서비스 편의성을 뜻하는 RAS 기능도 강화했습니다.
CXL 규격이 발전할수록 단순한 메모리 확장을 넘어 데이터센터 전체의 CPU, 가속기와 메모리를 하나의 거대한 자원 풀처럼 연결하는 구조가 현실에 가까워질 수 있습니다.
그러나 새로운 규격이 발표됐다고 곧바로 시장이 완전히 전환되는 것은 아닙니다. 지원 CPU와 스위치, 메모리 장치, 운영체제, 소프트웨어가 함께 준비돼야 하기 때문입니다.
국내 반도체 기업에는 어떤 기회가 될까?
CXL 시장이 성장하면 메모리 제조사만 수혜를 받는 것은 아닙니다.
CXL 생태계에는 다음과 같은 기술이 필요합니다.
CXL D램과 메모리 모듈
CXL 메모리 컨트롤러
CXL 스위치와 리타이머
서버용 기판과 커넥터
반도체 설계자산과 검증 기술
메모리 관리 소프트웨어
테스트·패키징 장비
한국은 삼성전자와 SK하이닉스를 중심으로 세계적인 D램 경쟁력을 갖추고 있습니다. 따라서 HBM에 이어 CXL 기반 메모리 확장 시장이 본격화되면 새로운 성장 기회를 확보할 가능성이 있습니다.
다만 ‘CXL 관련주’라는 이름만으로 기업가치를 판단해서는 안 됩니다. 실제 제품이 양산 단계에 진입했는지, 주요 CPU·서버 플랫폼과 호환되는지, 매출이 발생하고 있는지를 반드시 확인해야 합니다.
투자자가 확인해야 할 핵심 포인트
첫째, CXL 지원 서버용 CPU의 보급 속도를 확인해야 합니다.
둘째, 데이터센터 사업자가 실제로 CXL 메모리와 스위치를 도입하는지 살펴봐야 합니다.
셋째, 제품 발표가 아니라 고객 인증과 양산 여부를 확인해야 합니다.
넷째, CXL 하드웨어뿐 아니라 운영체제와 메모리 관리 소프트웨어의 완성도를 봐야 합니다.
다섯째, HBM과 CXL이 어떤 방식으로 결합해 계층형 메모리 시장을 만드는지 주목해야 합니다.
CXL 시장의 한계와 해결 과제
CXL이 유망하다고 해서 모든 문제가 해결된 것은 아닙니다.
CXL로 연결된 메모리는 CPU에 직접 장착된 로컬 D램보다 지연시간이 길 수 있습니다. 여러 장치가 하나의 메모리를 공유하면 트래픽 관리와 보안, 장애 격리도 중요해집니다.
서로 다른 제조사의 CPU와 스위치, 메모리 장치가 원활하게 작동하도록 호환성을 확보하는 작업도 필요합니다. 운영체제와 애플리케이션이 데이터의 중요도에 따라 HBM, 로컬 D램과 CXL 메모리를 적절히 배치하는 기술도 발전해야 합니다.
CXL의 성공은 반도체 하나가 아니라 하드웨어와 소프트웨어 생태계 전체의 완성도에 달려 있습니다.
 |
| AI시대의 게임 체인져 |
핵심 요약
CXL은 CPU와 GPU, 가속기, 확장 메모리를 고속으로 연결하는 개방형 인터커넥트 기술입니다.
캐시 일관성을 유지하면서 장치 간 메모리 공유와 확장을 쉽게 만드는 것이 핵심입니다.
AI 모델의 대형화로 발생하는 메모리 부족과 데이터 이동 병목을 완화할 수 있습니다.
CXL 메모리 풀링을 활용하면 여러 서버가 메모리 자원을 유연하게 공유해 데이터센터의 이용률과 비용 효율성을 높일 수 있습니다.
HBM은 초고속 연산을 지원하고, CXL은 대용량 메모리 확장과 공유를 담당하므로 두 기술은 상호 보완적입니다.
CXL 산업이 성장하면 메모리뿐 아니라 컨트롤러, 스위치, 서버 부품, 소프트웨어와 테스트 분야까지 새로운 시장이 열릴 가능성이 있습니다.
결론
AI 시대의 경쟁은 더 빠른 GPU를 만드는 데서 끝나지 않습니다.
연산장치가 필요한 데이터를 얼마나 빠르고 효율적으로 공급받는지, 한정된 메모리를 얼마나 유연하게 활용하는지가 데이터센터의 성능과 비용을 좌우합니다.
HBM이 AI 반도체의 속도를 높이는 핵심 기술이라면, CXL은 데이터센터의 메모리 구조를 더 크고 유연하게 바꾸는 연결 기술입니다.
아직 CXL 시장은 본격적인 확산 초기 단계에 가깝습니다. 그러나 AI 모델이 커지고 데이터센터의 메모리 수요가 폭발할수록 CXL의 필요성은 더욱 커질 가능성이 높습니다.
앞으로 반도체 산업을 볼 때는 GPU와 HBM만 바라볼 것이 아니라, 수많은 연산장치와 메모리를 하나로 묶는 CXL 생태계의 성장 속도도 함께 살펴봐야 합니다.
.jfif)
.jfif)
댓글