PE Notes · 서비스
에너지 효율적 컴퓨팅 기술
같은 연산을 더 적은 전력으로 내는 설계를 PUE·FLOPS/W로 보고, DVFS·가속기·냉각·모델 경량화·그린 데이터센터를 한 표에 정리합니다.
같은 행렬을 돌리는데 전력이 두 배면, 그 차는 성능이 아니라 설계입니다. 에너지 효율 컴퓨팅은 동일 일을 더 적은 와트로 끝내거나, 같은 와트로 더 많은 연산을 내는 칩·냉각·소프트웨어·운영을 한 묶음으로 봅니다. 센터 쪽 잣대는 이고, 가속기 쪽 잣대는 와트당 부동소수점(FLOPS/W)입니다.
왜 지금 숫자가 되는가
학습 한 번의 전력이 가정 수천 세대 연간 소비에 닿고, 대형 센터 운영비의 상당 칸이 전기입니다. 탄소 규제와 RE100이 그 전기를 재생으로 바꾸라고 밀고, 공정 미세화만으로 클럭을 올리던 길은 이미 둔합니다. 공장의 와 스마트라인도 같은 전력 장부를 봅니다. 답은 한 칸이 아니라 다섯 손입니다.
| 손 | 하는 일 | 떨어지는 것 |
|---|---|---|
| 칩 설계 | 미세 공정, , 전력 게이팅 | 유휴·피크 와트 |
| 가속기 | ·TPU, | 범용 CPU 대비 와트당 연산 |
| 냉각 | 공랭·수랭·액침·외기 | PUE, 냉각 전력 |
| 모델 | , , , 배치 | 추론 전·후 전력 |
| 운영 | 센터, 재생 전력, 냉각 제어 | 탄소와 요금 |
전압을 낮추고, 열을 빼고, 모델을 얇게
전력은 대략 C × V² × f입니다. DVFS는 부하가 낮을 때 전압과 클럭을 같이 내립니다. 전압 10%는 제곱 항 때문에 전력 약 19%에 가깝습니다. 게이팅은 쓰지 않는 블록의 시계를 끕니다.
냉각은 PUE를 직접 밉니다. 공랭은 1.41.8, 수랭은 1.21.4, 외기 자연 냉각은 위도가 받쳐 줄 때 1.1대입니다. 은 서버를 절연유에 담가 1.03~1.1까지 내려갑니다. PUE 1.0은 이상, 1.2 안은 우수, 1.5는 보통, 2를 넘기면 시설이 IT보다 더 먹습니다. 물 효율(WUE)과 탄소 효율(CUE)이 옆 칸입니다.
| 냉각 | PUE 감각 | 자리 |
|---|---|---|
| 공랭 | 높음 | 기존 실, 값싼 구축 |
| 수랭 | 중간 | 서버 내 냉각 루프 |
| 액침 | 낮음 | 고밀도 AI 랙 |
| 외기 | 낮음~중간 | 한랭지·외기 활용 |
양자화는 FP32를 INT8·INT4로 내려 추론 전력을 수 배 줄입니다. 가지치기는 기여가 작은 가중치를 빼고, 지식 증류는 큰 선생을 작은 학생에 옮깁니다. 요청을 묶어 돌리면 가속기 유휴가 줄어 와트당 일이 오릅니다.
답안은 정의와 두 지표, 다섯 손, DVFS 식, 냉각 네 칸, 경량화 셋을 한 장에 닫습니다. GPU·TPU 비교와 AI 센터 전력은 이웃 노트로 이어집니다.