PE Notes · CA/OS
AI 데이터센터
GPU·HBM·고속 패브릭과 액체 냉각으로 학습·추론을 받는 AI 데이터센터를 범용 센터와 가르고, PUE·전력·데이터 주권을 정리합니다.
범용 센터는 CPU 랙이 주를 이룹니다. 거대 모델을 학습하려면 그 그림이 바뀝니다. 는 GPU· 클러스터, , 초고속 인터커넥트, 병렬 스토리지, 고밀도 냉각을 한 목적으로 묶은 설비입니다. 한 세대가 수백만 GPU-시간을 태웁니다.
상자가 아니라 패브릭
컴퓨팅은 가속기와 온패키지 HBM입니다. 카드 안은 , 랙과 랙은 나 RoCE입니다. 스토리지는 병렬 파일시스템과 객체 저장이 체크포인트와 말뭉치를 받습니다. 소프트웨어는 나 SLURM이 빈 GPU를 줄입니다. 가속기 종류는 GPU·TPU 노트가, 메모리 대역은 HBM 노트가 이어서 풉니다.
| 층 | 하는 일 |
|---|---|
| 연산 | GPU/NPU, HBM, |
| 연결 | NVLink, InfiniBand, 이더넷 |
| 저장 | 병렬 FS, 객체 스토리지 |
| 냉각 | 공기, 직접 수랭, 액침 |
| 전력 | 이중 피드, UPS, 재생 전원 |
| 운영 | 스케줄러, MLOps |
스파인-리프가 위를 열고, 리프가 GPU 랙을 받습니다. 랙 아래가 병렬 스토리지입니다. 노트가 병렬 학습 소프트웨어를 자세히 풉니다.
와트가 입지를 고른다
는 시설 전체 전력을 IT 전력으로 나눈 값입니다. 1에 가까울수록 냉각·손실이 적습니다. 범용 센터가 1.5 근처일 때, AI 센터는 1.3 아래를 목표로 적습니다. 랙당 전력이 기존 수 킬로와트에서 수십~백 킬로와트로 뛰면, 변전소와 용수가 의 첫 줄이 됩니다.
공기 냉각은 밀도 천장이 낮습니다. 직접 액체냉각은 콜드플레이트가 칩을 닦습니다. 은 서버를 유체에 담가 초고밀도를 엽니다. 후면 도어 열교환기는 기존 랙을 고칩니다. 와 에너지 효율 컴퓨팅 노트가 전력 식을 이어서 봅니다. 약속은 재생 전원 계약과 같이 갑니다.
| 냉각 | 밀도 | 자리 |
|---|---|---|
| 공기 | 낮음 | 기존 랙 |
| 직접 수랭 | 높음 | 고밀도 GPU |
| 액침 | 최고 | 신축·개조 |
| 후면 도어 | 중간 | 점진 전환 |
주권과 의존
학습 데이터가 국경을 넘으면 이 열립니다. 해외 구름에만 올리면 모델과 원문이 같이 나갑니다. 국내 AI 센터는 지연과 규제, 산업 기반을 한 좌표에 둡니다. 답안은 범용과의 차이, 여섯 구성, PUE와 냉각, 주권 한 줄을 한 장에 닫습니다.
기술사 답안 포인트
기출 이력
제140회 정보관리기술사 4교시