PE Notes · CA/OS
HBM(High Bandwidth Memory)
HBM(High Bandwidth Memory): 여러 개의 DRAM 다이를 수직으로 적층하고 TSV(Through-Silicon Via, 실리콘 관통 전극)로 연결해, 매우 넓은 입출력 폭(1,024~2,048비트)으로 높은 대역폭을 제공하는 메모리
HBM(High Bandwidth Memory): 여러 개의 DRAM 다이를 수직으로 적층하고 (Through-Silicon Via, 실리콘 관통 전극)로 연결해, 매우 넓은 입출력 폭(1,024~2,048비트)으로 높은 대역폭을 제공하는 메모리 — JEDEC 표준(JESD235 → JESD238 HBM3 → JESD270-4 HBM4). 패키징: GPU·AI 가속기 옆에 위에 나란히 배치하는 2.5D 패키징(예: ).
구조와 칸
넓은 버스·낮은 클럭: 핀 수를 늘리고 핀당 속도는 상대적으로 낮게 → 높은 대역폭 + 낮은 전력. 3D 적층: 4·8·12·16단 적층으로 작은 면적에 대용량. 베이스(로직) 다이: 적층 맨 아래 다이가 인터페이스·테스트·(HBM4부터) 맞춤 로직 담당. 근접 배치: 프로세서와 같은 패키지 안 → 배선 길이 짧음.
| 구성 요소 | 역할 |
|---|---|
| 코어 DRAM 다이 | 데이터 저장, 여러 단 적층 |
| TSV | 다이를 수직으로 관통하는 전극 — 수천 개 신호 경로 |
| 마이크로 범프 / | 다이 간 접합 — 고단 적층을 위해 하이브리드 본딩(구리 직접 접합) 도입 논의 |
| 베이스 다이 | PHY·버퍼·테스트 로직, HBM4는 파운드리 공정 기반 맞춤형(Custom) 베이스 다이 가능 |
| 실리콘 인터포저 | GPU와 HBM을 미세 배선으로 연결(2.5D) |
| 채널·의사 채널 | 독립 접근 단위 — 병렬성 확보 |
대역폭(GB/s) = 인터페이스 폭(비트) × 핀당 속도(Gb/s) ÷ 8. HBM3: 1,024 × 6.4 ÷ 8 = 819.2GB/s. HBM4: 2,048 × 8 ÷ 8 = 2,048GB/s ≈ 2TB/s. GPU에 HBM4 8스택 × 8 = 약 16.4TB/s.
HBM vs GDDR vs DDR(LPDDR)
| 세대 | 인터페이스 폭 | 핀당 속도(대표) | 스택당 대역폭(대표) | 특징 |
|---|---|---|---|---|
| HBM | 1,024비트 | 1Gb/s | 128GB/s | 2013 표준 |
| HBM2 / 2E | 1,024비트 | 2~3.6Gb/s | 256~460GB/s | 용량·속도 확장 |
| HBM3 | 1,024비트 | 6.4Gb/s | 819GB/s | 16채널(32 의사 채널) |
| HBM3E | 1,024비트 | 9.2~9.6Gb/s 수준 | 약 1.2TB/s | 현 AI 가속기 주력(업계 확장 제품) |
| HBM4(JESD270-4, 2025.4) | 2,048비트 | 8Gb/s | 최대 2TB/s | 32채널(64 의사 채널), 4·8·12·16단, 24·32Gb 다이, 스택당 최대 64GB, HBM3 컨트롤러 호환 |
| 기준 | HBM | GDDR | DDR / LPDDR |
|---|---|---|---|
| 구조 | 3D 적층 + TSV | 단일 칩(평면) | 단일 칩·DIMM |
| 인터페이스 폭 | 1,024~2,048비트/스택 | 32비트/칩 | 64비트/채널(DDR) |
| 핀당 속도 | 낮음~중간 | 매우 높음 | 중간 |
| 대역폭 | 매우 높음 | 높음 | 중간 |
| 비트당 전력 | 낮음 | 높음 | 중간(LPDDR 낮음) |
| 용량당 가격 | 매우 높음 | 중간 | 낮음 |
| 패키징 | 2.5D 인터포저 | PCB 실장 | DIMM·PCB |
| 용도 | AI 가속기·HPC | 그래픽 카드·일부 AI | CPU 주 메모리·모바일 |
AI 가속기: 데이터센터 GPU·AI ASIC에 HBM3E·HBM4 다수 스택 탑재. HPC: 슈퍼컴퓨터 가속기. 네트워크·FPGA: 고대역 버퍼가 필요한 장비.
답안은 HBM(High Bandwidth Memory)의 정의, 칸, 비교 축을 한 장에 닫습니다.
기술사 답안 포인트
관련 용어
관련 토픽
서비스
에너지 효율적 컴퓨팅 기술
에너지 효율적 컴퓨팅(Energy-Efficient Computing): 같은 연산 성능을 더 적은 전력으로 제공하도록 반도체·서버·소프트웨어·데이터센터 설비·운영 전 계층에서 전력 소비를 줄이는 기술
CA/OS
캐시일관성(Cache Coherence, 디렉토리 vs 스누피 프로토콜)
캐시 일관성(Cache Coherence): 멀티코어·멀티프로세서 시스템에서 여러 캐시가 같은 메모리 주소의 사본을 가질 때, 모든 프로세서가 일관된(최신) 값을 보도록 보장하는 성질과 그 프로토콜
AI
오토인코더·VAE, NER, 임베딩, 트랜스포머
재구성과 생성으로 갈리는 오토인코더와 VAE, 개체명 인식, 정적·문맥 임베딩, Self-Attention 트랜스포머, 그리고 서빙 체감인 TTFT·TPOT을 한 장에서 잇습니다.