HBM(고대역폭 메모리)은 미국 칩 제조업체 AMD와 한국의 메모리 칩 공급업체 SK하이닉스가 2013년 세계 최초로 개발·양산한 반도체 제품이다. HBM에 대하여 자세하게 알아보도록 하자.
◈ 고대역폭 메모리(HBM)이란?
고대역폭 메모리(HBM)는 3D 스탬 방식의 DRAM을 위한 고성능 RAM 인터페이스이다. HBM은 DDR4 또는 GDDR5보다 상당히 작은 폼 팩터를 갖추면서 전기를 덜 사용하는 고대역을 달성한다. 이는 최대 8개의 DRAM 다이를 적층함으로써 메모리 컨트롤러를 갖춘 선택적 베이스 다이를 포함하는데, 이는 실리콘관통전극(TSV)과 마이크로범프(microbump)에 의해 상호 연결된다. HBM은 패키지당 최대 4GB를 지원한다. D램을 여러 개 적층 하면 기반 면적당 훨씬 높은 용량을 확보할 수 있어 대용량의 데이터 처리가 가능하다.
▣ 실리콘관통전극(TSV)(Through Silicon Via)
여러 개의 D램을 블록처럼 수직으로 연결하는 수직관통전극
◈ 고대역폭 메모리(HBM)의 장단점
▣ 고대역폭 메모리(HBM)의 장점
㉮ 짧은 메모리 레이턴시와 높은 메모리 대역폭 : 메모리 적층을 통해 여러 메모리 채널을 갖추어 GDDR 계열 SGRAM에 비해 짧은 레이턴시와 높은 대역폭을 동시에 구현할 수 있다.
㉯ 작은 칩 면적과 작은 컨트롤러 면적 : 메모리 용량도 늘어나고 공간소비도 줄어드는 엄청난 장점을 갖는다. 인터포저로 HBM과 SOC와 원 패키지로 연결된다.
㉰ 낮은 전력 소모 : HBM은 DDR4 또는 GDDR5 보다 상당히 작은 폼 팩터를 갖추면서 전기를 덜 사용하는 고대역을 달성한다. 전력 공급의 한계에 걸린 하이엔드 VGA에선 HBM2를 써서 메모리에서 아낀 전력을 GPU에 줘서 더욱 성능을 이끌어 낼 수 있다.
▣ 고대역폭 메모리(HBM)의 단점
㉮ 비싼 가격 : HBM은 생산공정이 복잡하고 고난도의 작업이 필요해 평균판매단가(ASP)가 최고성능 D램의 최소 3배 이상이다. Silicon Interposer를 사용하기 때문에 비싸다는 것이 단점이다.
㉯ 호환성 문제 : HBM은 GPU와 인터포저라는 실리콘 칩을 사용하여 메모리와 연결한다. 이 인터포저는 메모리와 프로세서가 물리적으로 가깝게 위치시키는 것을 요구함으로써 메모리 경로를 감소시키는 장점이 있지만, 호환되는 GPU나 프로세서가 제한적이다.
◈ 고대역폭 메모리(HBM) 사용되는 분야
HBM은 저전압과 고대역폭의 성능으로 고성능 컴퓨팅에 특화되어 있어 AI(인공지능) 서버와 생성형 AI의 핵심 부품으로 꼽힌다. 또한, 고성능 그래픽스 가속기와 네트워크 장치와 결합하기 위해 사용된다.
㉮ 그래픽 카드 : HBM은 고성능 그래픽 처리를 위해 필요한 대역폭, 에너지 효율성, 밀폐성 등의 특징을 가지고 있다. AMD와 Nvidia 등의 그래픽카드 제조사들이 HBM을 적용한 제품을 출시하고 있다.
㉯ 고성능 컴퓨터(HPC) : HBM은 초고성능 연산에 필요한 대역폭, 에너지 효율성, 신뢰성, 밀폐성 등의 특징을 가지고 있다. 인공지능, 딥 러닝, 5G, 사물인터넷(loT)등의 분야에서 HPC가 필요한 경우 HBM을 사용하는 경우가 많다.
㉰ 인공지능(AI) : HBM은 반복적인 작업을 수행하는 AI 추론 시스템에서 데이터 대역폭과 계산 능력 부분 모두에서 중요한 역할을 한다. AI 반도체 설계에 필요한 IP솔루션을 공급하는 기업들도 HBM을 사용하고 있다.
◈ 고대역폭 메모리(HBM) 수요 예상
5월 31일 시장조사업체 트랜스포스는 AI연산에 필요한 고성능 GPU(그래픽저장장치) 수요가 급증하면서, 여기에 탑재되는 HBM의 수요가 이전보다 58% 급증할 것이라 관측하였다.
트랜스포스에 따르면 지난해 글로벌 HBM 시장에서 SK하이닉스가 시장 점유율 50%로 1위이며, 삼성전자와 마이크론이 각각 40%, 10%를 차지한 것으로 나타났다. 현재 HBM을 두고 SK하이닉스와 삼성전자가 어마어마한 경쟁을 하고 있는 상황이다.
글로벌 빅테크 기업들은 급격하게 늘어나는 데이터를 빠르게 처리하기 위해 기존 D램 대비 성능을 현격히 높인 HBM을 채택하는 추세다.