PE Notes · CA/OS
메모리 인터리빙(Memory Interleaving)
메모리 인터리빙(Memory Interleaving): 주기억장치를 여러 개의 독립된 모듈(뱅크·채널)로 나누고, 연속된 주소를 서로 다른 모듈에 번갈아 배치해 여러 모듈을 동시에(중첩) 접근함으로써 실질 대역폭을 높이는 기법
메모리 인터리빙(Memory Interleaving): 주기억장치를 여러 개의 독립된 모듈(뱅크·채널)로 나누고, 연속된 주소를 서로 다른 모듈에 번갈아 배치해 여러 모듈을 동시에(중첩) 접근함으로써 실질 대역폭을 높이는 기법. 해결 대상: DRAM은 한 번 접근 후 다음 접근까지 사이클 시간(회복 시간)이 필요 → 단일 모듈에서는 연속 접근이 대기.
구조와 칸
처리량(대역폭) 향상: 개별 접근 지연은 그대로, 단위 시간당 처리량 증가. 주소 사상(Address Mapping)이 핵심: 주소의 어느 비트로 모듈을 선택하는가. 충돌(Bank Conflict) 위험: 접근 간격()이 모듈 수의 배수면 같은 모듈에 몰림. 확장성 제약: 하위 인터리빙은 모듈 하나 장애 시 전체 주소 공간에 영향.
| 방식 | 모듈 선택 | 배치 | 특징 |
|---|---|---|---|
| 상위 인터리빙(High-order) | 주소 상위 비트로 모듈 선택 | 연속 주소가 같은 모듈 | 병렬성 낮음, 모듈 단위 확장·장애 격리 쉬움 — 사실상 인터리빙 아님(블록 배치) |
| 하위 인터리빙(Low-order) | 주소 하위 비트로 모듈 선택 | 연속 주소가 서로 다른 모듈 | 연속 접근 병렬화 — 일반적인 인터리빙 |
| 혼합(Hybrid) | 상·하위 비트 조합 | 그룹 내 하위 인터리빙 | 확장성과 병렬성 절충 |
| XOR(해시) 사상 | 여러 주소 비트 XOR로 모듈 선택 | 분산 | 특정 Stride 충돌 완화 — 현대 메모리 컨트롤러 |
예: 모듈 4개(m = 2비트), 주소 n비트. 하위 인터리빙: 모듈 번호 = 주소 mod 4 → 주소 0·4·8 → M0, 1·5·9 → M1, 2·6·10 → M2, 3·7·11 → M3. 상위 인터리빙: 모듈 번호 = 주소 ÷ (2ⁿ ÷ 4) ~(N/4−1)은 M0. 모듈 사이클 시간 T, 모듈 수 m, 버스 전송 시간 τ = T ÷ m이면 → 매 τ마다 1워드 공급.
상위 vs 하위 인터리빙
| 계층 | 내용 |
|---|---|
| 채널 인터리빙 | 메모리 컨트롤러가 캐시 라인 단위로 여러 채널(예: 8·12채널)에 분산 → 채널 수만큼 대역폭 |
| 랭크·뱅크 인터리빙 | DIMM 랭크, DRAM 내부 뱅크·(DDR4·DDR5)으로 병렬화 |
| 행 버퍼 지역성 고려 | 같은 행(Row) 접근은 빠름(Row Hit) → 사상 시 지역성과 병렬성 균형 |
| 인터리빙 | 페이지를 여러 소켓 메모리에 번갈아 배치(대역폭 ↑, 지역성 ↓) — numactl --interleave |
| 인터리빙 | 여러 CXL 메모리 장치에 주소를 분산(HDM 디코더) |
| 장점 | 단점 |
|---|---|
| 대역폭 향상(모듈 수 배수까지) | Stride 충돌 시 효과 감소 |
| 캐시 미스 처리 시간 단축 | 하위 인터리빙은 모듈 장애가 전체에 영향 |
| ·벡터 처리 성능 향상 | 모듈 수를 같은 용량·사양으로 맞춰야 함(채널 균형) |
| 소프트웨어 투명 | 주소 사상·컨트롤러 복잡도 증가 |
서버 CPU: 모든 에 같은 용량 DIMM을 장착해야 채널 인터리빙 최대 대역폭. GPU: ·GDDR 다채널 인터리빙으로 수 TB/s 대역폭. 벡터·과학 계산: 배열 접근 Stride를 모듈 수와 서로소로 설계.
답안은 메모리 인터리빙(Memory Interleaving)의 정의, 칸, 비교 축을 한 장에 닫습니다.
기술사 답안 포인트
관련 용어
관련 토픽
CA/OS
CXL(Compute Express Link)/메모리 풀링/3가지 프로토콜/디바이스 유형
CXL(Compute Express Link): PCIe 물리 계층 위에서 CPU와 가속기·메모리 확장 장치 사이에 캐시 일관성(Cache Coherence)을 유지하며 메모리를 공유하는 개방형 고속 인터커넥트 표준 — CXL 컨소시엄(2019 설립,
CA/OS
HBM(High Bandwidth Memory)
HBM(High Bandwidth Memory): 여러 개의 DRAM 다이를 수직으로 적층하고 TSV(Through-Silicon Via, 실리콘 관통 전극)로 연결해, 매우 넓은 입출력 폭(1,024~2,048비트)으로 높은 대역폭을 제공하는 메모리
CA/OS
캐시일관성(Cache Coherence, 디렉토리 vs 스누피 프로토콜)
캐시 일관성(Cache Coherence): 멀티코어·멀티프로세서 시스템에서 여러 캐시가 같은 메모리 주소의 사본을 가질 때, 모든 프로세서가 일관된(최신) 값을 보도록 보장하는 성질과 그 프로토콜