현대의 인공지능(AI) 및 고성능 컴퓨팅(HPC) 애플리케이션은 매우 높은 메모리 요구 사항을 가지고 있습니다.
기존의 그래픽카드는 제한된 양의 고대역폭 메모리(HBM)를 장착하고 있어, 메모리 용량이 성능의 한계점이 되곤 합니다. 하지만 이제는 새로운 기술을 통해 이러한 한계를 극복할 수 있습니다. 바로 PCIe 버스에 연결된 외부 메모리나 SSD를 활용하여 GPU의 VRAM 용량을 확장하는 방법입니다.
Panmnesia의 CXL IP
한국의 KAIST 연구 기관의 지원을 받는 Panmnesia는 저지연 CXL IP를 개발하여 그래픽카드 메모리 확장을 지원합니다.
이 기술을 통해 GPU는 장치에 내장된 메모리에 제한되지 않고, PCIe 버스를 통해 더 많은 메모리를 사용할 수 있으며 이를 통해 SSD를 포함한 다양한 메모리 확장 옵션이 가능해집니다.
CXL을 통한 메모리 확장
CXL(Compute Express Link)은 PCIe 링크 위에서 작동하는 프로토콜로, 더 많은 메모리를 시스템에 연결할 수 있게 합니다.
그러나 이 기술을 GPU에서 사용하기 위해서는 추가적인 하드웨어와 소프트웨어 통합이 필요합니다.
Panmnesia는 이 문제를 해결하기 위해 CXL 3.1 호환 루트 컴플렉스(RC)를 개발했습니다.
이 RC는 외부 메모리를 지원하는 여러 개의 루트 포트와 시스템 버스에 연결되는 호스트 관리 장치 메모리(HDM) 디코더를 갖추고 있어, DDR5 메모리나 SSD를 GPU의 메모리 풀로 사용할 수 있습니다.
그래픽카드 성능 테스트 및 결과
Panmnesia의 솔루션은 다양한 테스트를 통해 높은 성능을 입증했습니다.
특히, 최적화된 CXL 컨트롤러(CXL-Opt)는 두 자릿수 나노초 대기 시간을 달성하여, 기존의 통합 가상 메모리(UVM)보다 1.66배 빠른 실행 시간을 보여주었습니다. 이는 보다 높은 효율성과 빠른 데이터 접근을 가능하게 합니다.
실제 활용 사례
Panmnesia의 기술은 AI 훈련과 같은 고성능 요구 사항을 가진 데이터 세트에서 큰 장점을 발휘합니다.
CXL 기술을 통해 GPU는 더 많은 데이터 세트를 처리할 수 있으며, 이는 AI 모델의 학습과 추론 성능을 크게 향상시킵니다. 또한, 멀티미디어 애플리케이션에서도 고해상도 비디오와 복잡한 그래픽 처리를 원활하게 수행할 수 있습니다.
현재 AMD와 Nvidia와 같은 주요 GPU 제조업체가 CXL 지원을 추가할지는 아직 확실하지 않지만, 이러한 기술의 도입은 GPU 성능을 크게 향상시킬 잠재력을 가지고 있습니다.
향후 PCIe 연결 메모리를 활용한 GPU 메모리 확장이 보편화된다면, Panmnesia와 같은 회사의 IP 블록이 중요한 역할을 할 것입니다.
윈도우 GPU VRAM 최적화 방법
Windows 10 및 11 사용자들은 시스템의 VRAM 용량을 최적화하여 그래픽 성능을 최적의 상태로 유지할 수 있습니다.
윈도우에서 그래픽카드 메모리 부족 시 VRAM 할당을 최대화하고 시스템 성능을 향상시키기 위한 몇 가지 방법입니다.
VRAM 할당 확인
- 디스플레이 설정 확인
- 바탕화면을 마우스 오른쪽 버튼으로 클릭하고 “디스플레이 설정“을 선택합니다.
- “고급 디스플레이 설정”을 클릭한 후, “디스플레이 어댑터 속성”을 선택합니다.
- 어댑터 탭에서 사용 가능한 총 VRAM을 확인할 수 있습니다.
- 소프트웨어 사용
- GPU-Z 또는 Speccy와 같은 도구를 사용하면 VRAM 용량, 클럭 속도 및 기타 사양을 포함한 그래픽 카드에 대한 자세한 정보를 제공합니다.
참고 : 노트북 컴퓨터 시스템 리소스 메모리 부족 해결방법
VRAM 최적화
- 백그라운드 프로세스 관리
- 불필요한 백그라운드 프로세스 및 애플리케이션을 종료하여 VRAM을 확보합니다.
- 작업 관리자를 열고 불필요한 프로세스를 종료하여 시스템 리소스를 최적화합니다.
- 그래픽 설정 조정
- 게임과 애플리케이션의 그래픽 설정을 조정하여 VRAM 사용량을 줄입니다.
- 텍스처 품질, 앤티앨리어싱 또는 그림자 해상도와 같은 설정을 낮추면 VRAM 소비를 줄일 수 있습니다.
- 드라이버 업데이
- 그래픽 드라이버를 최신 상태로 유지하여 VRAM 사용을 최적화합니다. 제조업체의 웹사이트에서 최신 드라이버를 다운로드하여 설치합니다.
- BIOS/UEFI 설정 확인
- 일부 시스템에서는 BIOS/UEFI 설정을 통해 VRAM 할당을 조정할 수 있습니다. 주의해서 접근하고, 제조업체 설명서를 참고하여 설정을 변경합니다.
최신 GPU 메모리 확장 기술과 VRAM 최적화 방법을 통해, 사용자들은 그래픽 성능을 크게 향상시킬 수 있습니다.
Panmnesia의 CXL IP와 같은 혁신적인 솔루션은 고성능 컴퓨팅의 한계를 극복하고, 더 나은 AI 및 멀티미디어 성능을 제공합니다. Windows 사용자들은 VRAM 할당을 최적화하여 보다 원활한 컴퓨팅 환경을 구축할 수 있습니다.