데이터센터(DC)와 AI 데이터센터(AIDC)를 같은 시설로 보시는 분들이 많은데, 구조를 들여다보면 사실 완전히 다른 건물입니다.
첫째, 전력 밀도가 차원이 다릅니다.
일반 DC는 Uptime Institute 2025년 조사 기준 서버 랙 하나당 평균 7.5kW에 머무는데, NVIDIA의 최신 AI 시스템 GB200 NVL72는 공식 사양만 한 랙당 120kW, 실배포 기준으로는 130kW를 넘깁니다.
같은 면적에 15배가 넘는 전기가 들어가는 셈이에요.
둘째, 이 정도 전력은 더 이상 공기로 못 식힙니다.
공기 냉각의 사실상 한계가 랙당 30~40kW 수준인데, 그 위로 가면 GPU 칩 위에 직접 냉각수를 흘리는 액냉(D2C) 방식이 표준이 됩니다.
전력 효율을 보여주는 PUE 지표도 공냉 DC가 1.4~1.8(1에 가까울수록 효율 좋음)인 반면, 액냉 AIDC는 1.05~1.15까지 떨어져요.
셋째, 네트워크 구조가 뒤집힙니다.
일반 DC는 외부 사용자와 오가는 트래픽이 중심이지만, AIDC는 GPU끼리 서로 주고받는 내부 트래픽이 압도적입니다.
GB200 NVL72의 경우 한 랙 안에 들어 있는 72개 GPU는 NVLink라는 전용 직결망으로 묶고, 랙과 랙 사이는 InfiniBand나 RoCE 같은 초저지연 전용망으로 잇습니다.
2만 4천 개 GPU가 학습 한 번을 돌릴 때 수 테라바이트가 1초도 안 되는 사이에 오갈 정도예요.
넷째, 부하 패턴이 전력망 운영자 입장에서는 가장 다루기 까다로운 변수입니다.
GPU는 계산 구간에서 정격 전력의 1.5배까지 밀리초(천분의 1초) 단위로 튀었다가, 데이터를 주고받는 동기화 구간에 곧장 급강하합니다.
대형 학습 클러스터에서는 이 변동이 수십~수백MW 규모로 송전망에 그대로 전달돼서, 계통 주파수까지 흔들 수 있어요.
NVIDIA가 GB200에 '전력 평탄화' 기능을 따로 넣은 것도 이런 이유 때문입니다.
다섯째, 입지 논리가 부동산에서 전력으로 옮겨왔습니다.
국내만 봐도 2024년 8월부터 11개월 동안 들어온 데이터센터 전력사용신청이 290건, 그중 수도권 신청 용량만 약 20GW에 달합니다.
원전 20기 규모인데, 송전·변전 인프라를 새로 까는 데는 5~10년이 걸리고 정작 데이터센터 건물 자체는 18~36개월이면 지어집니다.
짓는 속도가 전기를 끌어오는 속도를 한참 앞질러 버린 거죠.
여섯째, 의외의 변수는 물입니다.
액냉이 전력 효율을 끌어올려준 대신, AIDC는 일반 DC보다 냉각수를 10~50배 더 씁니다.
'물 사용 효율'을 뜻하는 WUE라는 새 지표가 따라붙었고, 물 부족 지역은 아무리 전력이 여유 있어도 AIDC 부지 후보에서 빠지게 됐어요.
결국 AIDC는 부동산 사업에서, 전력, 열, 물, 네트워크가 한 덩어리로 묶인 시스템 엔지니어링 영역으로 성격이 완전히 넘어와 버렸습니다.
앞으로 누가 AIDC를 잘 짓느냐는 부지 잡기 싸움이 아니라, 발전, 송전, 냉각, 네트워크, 운영까지 통째로 설계하고 돌릴 수 있는 기술 역량의 싸움이 될 거라고 봅니다.