[AI교육/시사]인공지능 시대 이끌 CXL 메모리의 필요성과 특징, 인공지능에 미치는 영향

CXL(Compute Express Link)은 2019년 Intel, Google, Microsoft, Alibaba 등 주요 IT 기업들이 공동으로 개발한 기존의 PCIe인터페이스 한계극복과 다양한 컴퓨팅 구성요소 간의 고속 상호 연결한 차세대 개방형 표준 인터페이스입니다.

< 출처 : semiconductor.samsung>

 

인공지능이 활성화되며 PCIe는 메모리 확장이나 가속기 연결 등에 한계가 있습니다. 이러한 극복을 위하여 CXL은 CPU와 메모리, 가속기 등을 유연하게 연결할 수 있는 인터페이스 기술로 개발되었으며, 이에 CXL 메모리가 필요성과 주요 특징, 인공지능에 미치는 영향등을 보겠습니다.

 

1. CXL(Compute Express Link) 의 주목성 

• AI 기술은 자동차, 금융, 헬스케어, 교육 등 주요 산업과 접목해 자율주행차, 챗봇 등의 서비스 등 다양한 영역에서 AI 기술이 적용되고 있습니다. AI 데이터 처리량은 1년에 10배가량 증가하며 기존의 컴퓨팅 성능은 한계에 봉착하게 되었습니다. 특히, 현재 서버 시스템에서 CPU 당 꽂을 수 있는 D램 모듈은 16개, 최대 8TB 용량입니다. 이것은 급증하는 데이터를 처리하기엔 역부족입니다.
• 이에 따라 AI 시대에 맞는 고속 인터페이스를 사용하고 용량 확장이 가능한 메모리 개발이 화두가 되었습니다. 그중, 메모리에 AI 프로세서 기능을 탑재한 PIM(Processing-in-Memory), Computing Storage 등과 함께 CXL(Compute Express Link) 기반 D램 모듈이 차세대 메모리 솔루션으로 주목받고 있습니다.

2. CXL 메모리가 필요한 이유

• 기존 메모리 기술의 한계 극복
  • 기존 DDR 메모리는 메모리 대역폭 및 용량 확장에 한계가 있었습니다.
  • CXL 메모리는 PCIe 인터페이스를 활용하여 이러한 한계를 극복할 수 있습니다.
• AI 및 데이터 집약적 애플리케이션 지원
  • AI, 빅데이터 등 데이터 집약적 애플리케이션은 높은 메모리 대역폭이 필요합니다.
  • CXL 메모리는 이러한 요구사항을 충족시킬 수 있어 AI 시대에 적합한 기술로 주목받고 있습니다.
• 메모리 병목 현상 해결
  • 기존 메모리 기술의 한계로 인해 CPU와 메모리 간 병목 현상이 발생했습니다.
  • CXL 메모리는 CPU와 직접 통신하여 이러한 병목 현상을 해결할 수 있습니다.
• 데이터 센터 및 서버 단위 메모리 공유
  • CXL 메모리는 서버 내부뿐만 아니라 데이터 센터 단위로 메모리 풀을 공유할 수 있습니다.
  • 이를 통해 메모리 자원을 효율적으로 활용할 수 있습니다.

3. CXL 메모리의 주요 특징

• 메모리 확장 및 공유
  • CXL은 CPU와 메모리를 직접 연결할 수 있어 메모리 용량을 손쉽게 확장할 수 있습니다.
  • 또한 여러 CPU가 동일한 메모리를 공유할 수 있어 메모리 활용도를 높일 수 있습니다.
• 가속기 연결 및 공유
  • CXL을 통해 GPU, FPGA, AI 가속기 등 다양한 가속기를 CPU에 연결할 수 있습니다.
  • 이를 통해 가속기의 활용도를 높이고 시스템 성능을 향상할 수 있습니다.
• 저지연 및 고대역폭
  • CXL은 PCIe 대비 최대 4배 빠른 데이터 전송 속도와 낮은 지연 시간을 제공합니다.
  • 실시간 데이터 처리가 필요한 AI, 머신러닝 등의 분야에서 활용도가 높습니다.
• 유연성 및 확장성 
  • CXL은 CPU, 메모리, 가속기 등 다양한 구성 요소를 유연하게 연결할 수 있어 시스템 구성의 유연성이 높습니다.
  • CXL 규격이 지속해서 업데이트되면서 기술 발전에 따른 확장성도 확보하고 있습니다.

< 출처 : semiconductor.samsung>

4. CXL 메모리가 인공지능에 미치는 영향

• 메모리 대역폭 및 대용량 처리능력 확장
  • CXL 메모리는 PCIe 인터페이스를 활용하여 기존 DDR 메모리의 한계를 극복할 수 있습니다.
  • AI 및 데이터 집약적 애플리케이션에 필요한 높은 메모리 대역폭과 용량을 제공할 수 있습니다.
  • 대용량 데이터 처리가 필요한 AI 및 머신러닝 분야의 성능을 크게 향상할 수 있습니다.
• 메모리 병목 현상 해결
  • CXL 메모리는 CPU와 직접 통신하여 기존 메모리 기술의 병목 현상을 해결할 수 있습니다.
  • AI 애플리케이션의 데이터 처리 속도를 향상할 수 있습니다.
  • 이는 대규모 AI 모델 학습 및 추론에 필요한 메모리 요구사항을 충족시킬 수 있습니다.
• 데이터 센터 단위 메모리 공유
  • CXL 메모리는 서버 내부뿐만 아니라 데이터 센터 단위로 메모리 풀을 공유할 수 있습니다.
  •  AI 애플리케이션이 필요로 하는 대규모 메모리 자원을 효율적으로 활용할 수 있습니다.
  • 데이터 센터 단위의 메모리 공유를 가능하게 하여 메모리 자원 활용도를 높일 수 있습니다.
  •  CXL 메모리는 PCIe 5.0 인터페이스를 활용하여 최대 32GT/s의 전송 속도를 제공할 수 있습니다.
  • 메모리 대역폭을 초당 수 테라바이트 수준으로 크게 향상할 수 있습니다.
• AI 연산 가속화
  • CXL 메모리는 고용량 메모리 확장 기능과 더불어 빅데이터 분석, 머신러닝 등 AI 연산을 가속할 수 있습니다.
• 시스템 구성의 유연성 향상
  
  • AI 시스템의 구축 및 확장이 용이해져 개발 및 운영 효율성이 향상할 것으로 기대됩니다.
• 실시간 AI 서비스 지원
  • CXL의 저지연 특성은 실시간 AI 서비스 구현에 유리합니다.
  • 자율주행, 실시간 영상 분석, 산업 자동화 등 저지연이 중요한 AI 응용 분야에서 CXL 기술의 활용도가 높을 것으로 예상됩니다.

▶ 결론

CXL(Compute Express Link)은 차세대 메모리 및 가속기 연결 표준으로, 기존 PCIe 대비 높은 대역폭과 낮은 지연시간을 제공합니다. 또한 CXL 기술은 메모리, 가속기, 스토리지 등 다양한 분야에서 활용될 것으로 기대됩니다. 특히 AI, 데이터센터, 고성능 컴퓨팅 등 성능 향상이 중요한 분야에서 CXL의 역할이 더욱 커질 것으로 보입니다. 앞으로 CXL 기술이 지속해서 발전하고 생태계가 확장되면서, 관련 제품과 서비스의 혁신이 이어질 것으로 전망됩니다.

 

감사합니다.

출처 : semiconductor.samsung, news.skhynix