PE Notes · CA/OS
PNM(Processing Near Memory)와 칩렛(Chiplet)
PNM(Processing Near Memory, 근접 메모리 처리): 연산 로직을 메모리 칩 바깥이지만 메모리와 가까운 위치(메모리 모듈·버퍼 칩·CXL 장치·HBM 베이스 다이)에 두어, 데이터 이동을 줄이고 메모리 대역폭을 연산에 직접 활용하는
PNM(Processing Near Memory, 근접 메모리 처리): 연산 로직을 메모리 칩 바깥이지만 메모리와 가까운 위치(메모리 모듈·버퍼 칩· 장치· 베이스 다이)에 두어, 데이터 이동을 줄이고 메모리 대역폭을 연산에 직접 활용하는 구조. (Processing In Memory): 연산 로직을 메모리 다이(셀 어레이·뱅크) 내부에 넣는 방식 — PNM과 함께 (Memory-Centric Computing)의 두 축.
구조와 칸
데이터 이동 최소화: 메모리 내부·근처의 넓은 대역폭을 연산에 활용. 단순 연산 오프로드: 덧셈·곱셈 누적(MAC)·필터·축소(Reduction)·검색 등. 프로그래밍 모델 과제: 호스트와 작업 분할·데이터 배치를 소프트웨어가 지원해야 함. 수율 향상: 작은 다이는 결함 확률이 낮음.
| 구분 | 연산 위치 | 예 | 특징 |
|---|---|---|---|
| 기존(Von Neumann) | CPU·GPU | - | 모든 데이터가 메모리 버스 통과 |
| PNM | DIMM 버퍼 칩, CXL 메모리 장치, HBM 베이스 다이, SSD 컨트롤러(연산형 스토리지) | AXDIMM 류, CXL-PNM, 연산형 SSD | 기존 DRAM 다이 수정 최소, 구현 용이 |
| PIM | DRAM 뱅크 옆 연산 유닛 | HBM-PIM, GDDR6 기반 AiM 류 | 내부 대역폭 최대 활용, DRAM 공정 제약(로직 성능 낮음) |
| PUM(Processing Using Memory) | 메모리 셀의 물리 특성 자체로 연산 | DRAM 행 동시 활성화 비트 연산, 저항성 메모리 아날로그 MAC | 연구 단계 위주 |
1.0(2022): 업계 컨소시엄 표준 발표 — 물리 계층(표준 패키지·첨단 패키지), 다이 간 어댑터, PCIe·CXL 프로토콜 매핑 + 스트리밍 프로토콜. 이후 개정에서 3D 패키징·관리·보안 기능 확장 — 서로 다른 회사 칩렛을 섞어 쓰는 개방형 칩렛 생태계 목표. 수율(포아송 모델): Y = e^(−D × A), 결함 밀도 D = 0.1개/cm². 모놀리식 6cm²(600mm²) → Y = e^(−0.6) ≈ 54.9%.
PIM vs PNM vs 기존 구조
| 요소 | 내용 |
|---|---|
| 연산 칩렛(Compute Die) | CPU 코어·GPU·AI 가속기 — 최신 공정 |
| I/O 칩렛(IOD) | 메모리 컨트롤러·PCIe·CXL — 성숙 공정 |
| 메모리 | HBM 스택(2.5D) 또는 SRAM 캐시 다이 3D 적층 |
| 다이 간 인터커넥트(D2D) | UCIe, 업체 독자 링크 — 짧은 거리·고밀도 병렬 링크 |
| 패키징 | 2.5D(실리콘 인터포저·브리지 — CoWoS·EMIB 류), 3D(다이 적층· — 캐시 적층 등), 유기 기판 팬아웃 |
| 구분 | 과제 |
|---|---|
| PNM·PIM | 프로그래밍 모델·컴파일러, 데이터 배치, 메모리 공정의 로직 성능 한계, 발열, 표준화 |
| 칩렛 | 다이 간 지연·전력, 열 관리, (양품 다이) 테스트, 패키징 비용·용량, 이종 칩렛 상호운용·보안(신뢰 칩렛 검증) |
AI 가속기: 연산 칩렛 + HBM 다수 스택을 2.5D로 통합. 서버 CPU: 코어 칩렛(CCD) + I/O 다이 조합, 3D 캐시 적층 제품. 메모리 업체 PIM·PNM: HBM-PIM, GDDR6 기반 AI 가속 메모리, CXL 기반 PNM 시제품 — LLM 추론·추천 시스템 가속.
답안은 PNM(Processing Near Memory)와 칩렛(Chiplet)의 정의, 칸, 비교 축을 한 장에 닫습니다.
기술사 답안 포인트
관련 용어
관련 토픽
CA/OS
HBM(High Bandwidth Memory)
HBM(High Bandwidth Memory): 여러 개의 DRAM 다이를 수직으로 적층하고 TSV(Through-Silicon Via, 실리콘 관통 전극)로 연결해, 매우 넓은 입출력 폭(1,024~2,048비트)으로 높은 대역폭을 제공하는 메모리
CA/OS
CXL(Compute Express Link)/메모리 풀링/3가지 프로토콜/디바이스 유형
CXL(Compute Express Link): PCIe 물리 계층 위에서 CPU와 가속기·메모리 확장 장치 사이에 캐시 일관성(Cache Coherence)을 유지하며 메모리를 공유하는 개방형 고속 인터커넥트 표준 — CXL 컨소시엄(2019 설립,
서비스
에너지 효율적 컴퓨팅 기술
에너지 효율적 컴퓨팅(Energy-Efficient Computing): 같은 연산 성능을 더 적은 전력으로 제공하도록 반도체·서버·소프트웨어·데이터센터 설비·운영 전 계층에서 전력 소비를 줄이는 기술