지난 글에서는 HBM 수율이 무엇인지 살펴봤습니다.
HBM은 여러 개의 얇은 DRAM을 쌓고 수많은 TSV로 연결해야 하므로, 성능이 높아질수록 제조 난이도도 함께 올라갑니다.
그런데 반도체 기업들은 어렵게 완성한 HBM3E에 머무르지 않고 벌써 다음 세대인 HBM4를 생산하고 있습니다.
여기서 한 가지 궁금증이 생깁니다.
HBM4는 HBM3E보다 속도만 조금 빨라진 제품일까요?
결론부터 말하면 그렇지 않습니다.
HBM4는 데이터가 이동하는 통로를 두 배로 넓히고, HBM의 아래에서 신호와 전력을 제어하는 베이스 다이의 역할까지 강화한 세대입니다.
이번 글에서는 HBM3E와 HBM4 사이에 어떤 변화가 생겼는지 하나씩 알아보겠습니다.
HBM3E의 ‘E’는 무엇을 의미할까요?
HBM3E의 E는 Enhanced, 즉 강화 또는 향상을 의미합니다.
HBM3의 기본 구조를 유지하면서 데이터 처리 속도와 용량, 전력 효율과 발열 특성을 개선한 제품이라고 볼 수 있습니다.
HBM3E는 일반적으로 8단 또는 12단으로 구성되며, 12단 제품은 최대 36GB 용량을 제공합니다.
삼성전자의 HBM3E는 핀당 최대 9.2Gbps, 스택 하나당 최대 1,180GB/s의 대역폭을 지원합니다. Micron의 HBM3E 역시 1.2TB/s가 넘는 대역폭을 제공하며 1,024개의 입출력 통로를 사용합니다. 제품별 세부 속도는 제조사와 사양에 따라 조금씩 다를 수 있습니다.
쉽게 말하면 HBM3E는 HBM3이라는 고속도로의 기본 구조를 유지하면서 자동차가 더 빠르게 달릴 수 있도록 개선한 세대입니다.
이 제품은 현재도 고성능 AI 가속기와 데이터센터에서 사용되는 중요한 메모리입니다. SK하이닉스는 12단 HBM3E가 최신 AI 데이터센터 GPU 모듈에 적용되고 있다고 설명했습니다.
HBM4는 통로 자체를 두 배로 넓혔습니다
HBM3E와 HBM4의 가장 큰 차이는 입출력 통로의 수입니다.
HBM3E는 1,024개의 입출력 통로를 사용합니다.
HBM4는 이를 2,048개로 늘렸습니다.
데이터가 이동하는 출입구가 두 배로 많아진 것입니다. 삼성전자와 SK하이닉스 모두 HBM4의 2,048개 I/O가 이전 세대보다 크게 높은 대역폭을 구현하는 핵심 변화라고 설명합니다.
도로에 비유하면 차이를 쉽게 이해할 수 있습니다.
- HBM3E: 1,024차선의 초고속도로
- HBM4: 2,048차선으로 확장된 초대형 고속도로
차량 한 대의 속도만 높인 것이 아니라, 한 번에 이동할 수 있는 차량 수를 두 배로 늘린 것입니다.
GPU 안에는 수많은 연산 장치가 있습니다.
이 연산 장치들이 동시에 데이터를 요청할 때 통로가 부족하면 일부는 데이터를 기다려야 합니다.
HBM4는 통로를 넓혀 더 많은 연산 장치에 데이터를 동시에 전달할 수 있도록 설계됐습니다.
대역폭은 두 배 이상 높아졌습니다
입출력 통로가 두 배로 늘어나면서 HBM4의 전체 메모리 대역폭도 크게 높아졌습니다.
HBM3E는 제조사와 제품에 따라 스택당 약 1.18~1.2TB/s 이상의 데이터를 처리합니다.
반면 현재 공개된 HBM4 제품은 스택당 약 2.8TB/s에서 최대 3.3TB/s 수준의 대역폭을 제공합니다.
Micron은 자사 HBM4가 2.8TB/s가 넘는 대역폭을 제공한다고 밝혔고, 삼성전자는 최대 3.3TB/s로 HBM3E보다 약 2.7배 높은 대역폭을 구현했다고 발표했습니다.
| 구분 | HBM3E | HBM4 |
|---|---|---|
| 입출력 통로 | 1,024개 | 2,048개 |
| 핀당 속도 | 약 9.2Gbps 이상 | 약 11Gbps 이상 |
| 스택당 대역폭 | 약 1.18~1.2TB/s 이상 | 약 2.8~3.3TB/s |
| 대표 적층 | 8단·12단 | 8단·12단, 향후 16단 확대 |
| 대표 용량 | 24GB·36GB | 24GB·36GB, 향후 최대 48GB |
| 주요 특징 | HBM3 구조의 성능 강화 | 인터페이스 확대와 베이스 다이 고도화 |
표의 수치는 특정 제조사의 공개 제품을 기준으로 한 대표 범위이며, 실제 성능은 제품과 고객사 요구 조건에 따라 달라질 수 있습니다.
핀 속도보다 통로의 수가 더 중요한 이유
HBM4의 핀당 전송 속도는 HBM3E보다 높아졌습니다.
하지만 스택 전체의 대역폭이 두 배 이상 증가한 가장 큰 이유는 핀 속도만이 아닙니다.
입출력 통로가 1,024개에서 2,048개로 증가했기 때문입니다.
예를 들어 고속도로에서 자동차의 최고 속도를 20% 높이는 것보다 차선을 두 배로 늘리는 편이 전체 교통량을 크게 증가시킬 수 있습니다.
HBM4도 같은 원리입니다.
개별 통로에서 데이터를 더 빠르게 전송하면서, 동시에 사용할 수 있는 통로의 수도 두 배로 늘렸습니다.
이 변화는 거대한 AI 모델을 학습하거나 수많은 사용자의 요청에 동시에 답해야 하는 AI 추론 환경에서 특히 중요합니다.
HBM4에서는 베이스 다이가 더 중요해졌습니다
HBM은 여러 개의 DRAM 다이와 가장 아래에 있는 베이스 다이로 구성됩니다.
베이스 다이는 적층된 DRAM과 GPU 사이에서 신호와 전력, 데이터의 흐름을 관리하는 기반 칩입니다.
HBM3E까지는 메모리 저장 기능과 대역폭 향상이 주로 강조됐다면, HBM4에서는 베이스 다이의 역할이 더욱 커지고 있습니다.
입출력 통로가 두 배로 늘어나면 더 많은 신호를 처리하고 전력을 안정적으로 공급해야 하기 때문입니다.
삼성전자는 상용 HBM4의 베이스 다이에 4나노 로직 공정을 적용하고, 전력 공급망과 저전력 회로를 최적화했다고 밝혔습니다.
쉽게 비유하면 베이스 다이는 HBM 아파트의 관리실과 같습니다.
아파트의 층수가 높아지고 거주자가 늘어날수록 엘리베이터와 전기, 출입을 관리하는 시스템도 더 정교해져야 합니다.
HBM4는 단순히 DRAM을 쌓는 메모리를 넘어, 베이스 다이를 이용해 고객사의 AI 가속기에 맞게 기능을 조정할 수 있는 방향으로 발전하고 있습니다.
용량은 비슷해 보여도 확장 가능성이 달라집니다
HBM3E 12단과 HBM4 12단은 모두 최대 36GB 수준의 제품이 존재합니다.
용량만 보면 큰 차이가 없어 보일 수 있습니다.
하지만 HBM4는 16단 적층을 이용해 최대 48GB까지 용량을 확장하는 계획도 공개되고 있습니다.
삼성전자는 HBM4를 8단 24GB와 12단 36GB로 제공하며, 향후 16단 적층을 적용해 최대 48GB로 확대할 계획이라고 밝혔습니다.
HBM의 용량이 커지면 GPU 가까이에 더 큰 AI 모델과 데이터를 보관할 수 있습니다.
필요한 데이터를 다른 메모리에서 자주 가져오는 횟수를 줄일 수 있기 때문에, 모델 규모가 커질수록 용량도 중요한 요소가 됩니다.
다만 적층 수가 늘어나면 이전 글에서 살펴본 것처럼 다이 두께와 휘어짐, 발열과 수율 관리가 더욱 어려워집니다.
통로가 늘어나면 전력과 열도 함께 증가합니다
입출력 통로를 두 배로 늘리면 대역폭은 높아지지만, 소비 전력과 발열도 증가할 가능성이 있습니다.
더 많은 회로가 더 빠르게 데이터를 주고받기 때문입니다.
따라서 HBM4는 단순히 성능을 높이는 것뿐 아니라 전력 효율과 열 관리도 함께 개선해야 합니다.
삼성전자는 저전압 TSV 회로와 전력 분배망 최적화를 통해 자사 HBM4의 전력 효율을 HBM3E보다 약 40% 개선했다고 밝혔습니다. SK하이닉스 역시 자사 HBM4가 이전 세대보다 40% 이상 높은 전력 효율을 제공한다고 설명했습니다.
Micron의 HBM4도 자사 HBM3E 대비 20% 이상 높은 전력 효율을 제공한다고 발표됐습니다. 제조사별 비교 기준이 다를 수 있으므로 숫자를 직접 비교하기보다는, HBM4 세대가 전력당 데이터 처리량을 높이는 방향으로 발전하고 있다는 점을 이해하는 것이 중요합니다.
AI 데이터센터에서는 성능이 높아져도 전력 소비와 냉각 비용이 지나치게 증가하면 운영 부담이 커집니다.
그래서 HBM4 경쟁에서는 절대적인 속도뿐 아니라 1W의 전력으로 얼마나 많은 데이터를 전달하는지가 중요해지고 있습니다.
HBM4가 등장하면 HBM3E는 사라질까요?
HBM4가 더 높은 성능을 제공한다고 해서 HBM3E가 바로 사라지는 것은 아닙니다.
HBM4는 차세대 최고급 AI 가속기와 초고성능 시스템을 중심으로 적용됩니다.
반면 HBM3E는 이미 생산과 공급망이 안정되어 있고, 현재의 여러 AI 가속기에서 충분히 높은 성능을 제공합니다.
모든 AI 서비스가 최고 수준의 대역폭을 필요로 하는 것도 아닙니다.
비용과 전력, 필요한 성능에 따라 HBM3E가 더 적합한 시스템도 존재할 수 있습니다.
2026년 현재 HBM4는 주요 제조사에서 상용 출하와 양산이 진행되고 있으며, HBM3E도 최신 AI 데이터센터 GPU 모듈에 계속 사용되고 있습니다. 두 세대가 일정 기간 함께 시장에서 사용되는 구조입니다.
HBM4가 AI에 미치는 변화
HBM4가 제공하는 넓은 대역폭은 단순히 데이터 전송 속도만 높이는 것이 아닙니다.
GPU가 데이터를 기다리는 시간을 줄이면 동일한 시간 동안 더 많은 계산을 수행할 수 있습니다.
그 결과 다음과 같은 변화가 가능해집니다.
- 더 큰 AI 모델을 빠르게 학습할 수 있습니다.
- 긴 문맥을 처리하는 AI의 응답 속도를 높일 수 있습니다.
- 이미지와 영상, 음성을 동시에 처리하는 멀티모달 AI 성능을 개선할 수 있습니다.
- 많은 사용자의 요청을 동시에 처리하는 추론 성능을 높일 수 있습니다.
- 동일한 작업을 처리할 때 필요한 서버와 전력 부담을 줄일 가능성이 있습니다.
Micron은 HBM4의 넓어진 2,048핀 인터페이스와 2.8TB/s 이상의 대역폭이 장문 문맥과 멀티모달 AI처럼 데이터 이동량이 큰 작업에 대응한다고 설명합니다.
결국 HBM4는 GPU의 계산 능력이 실제 성능으로 이어지도록 데이터 공급 능력을 한 단계 높인 메모리입니다.
HBM3E와 HBM4의 진짜 차이
두 세대의 차이를 단순하게 정리하면 다음과 같습니다.
HBM3E는 기존 HBM3 구조를 더욱 빠르고 효율적으로 발전시킨 제품입니다.
HBM4는 여기에 그치지 않고 입출력 통로를 두 배로 확대하고, 베이스 다이와 전력 관리 구조까지 고도화한 새로운 세대입니다.
HBM3E가 더 빠르게 달리는 고속도로라면, HBM4는 차선 수와 교통 관리 시스템까지 다시 설계한 고속도로입니다.
AI 모델이 계속 커지면서 GPU의 계산 성능도 높아지고 있습니다.
GPU가 발전할수록 그 옆에서 데이터를 공급하는 HBM도 함께 달라져야 합니다.
HBM4는 이러한 AI 반도체의 성능을 뒷받침하기 위해 대역폭과 전력 효율, 확장성을 동시에 높인 메모리라고 할 수 있습니다.
AIpedia 핵심 요약
- HBM3E는 HBM3의 성능과 용량, 전력 효율을 강화한 세대입니다.
- HBM3E는 1,024개, HBM4는 2,048개의 입출력 통로를 사용합니다.
- HBM4의 대역폭은 공개 제품 기준 약 2.8~3.3TB/s로 HBM3E보다 두 배 이상 높습니다.
- HBM4에서는 신호와 전력을 제어하는 베이스 다이의 역할이 더욱 중요해졌습니다.
- 현재 HBM4는 주로 12단 36GB 제품으로 공급되며 향후 16단 48GB까지 확대될 수 있습니다.
- 입출력 통로가 늘어난 만큼 전력 효율과 발열 관리 기술도 함께 중요해졌습니다.
- HBM4가 등장해도 HBM3E는 일정 기간 다양한 AI 가속기에서 함께 사용될 가능성이 큽니다.