AI 시대의 숨은 공로자: 데이터센터는 어떻게 열을 식힐까?
전 세계 데이터센터가 소비하는 전력의 약 40%는 컴퓨팅이 아니라 냉각에 쓰인다. 서버가 연산을 할수록 열이 발생하고, 그 열을 제때 빼내지 못하면 하드웨어는 몇 초 만에 망가진다. AI 모델 학습에 쓰이는 GPU 클러스터는 일반 서버보다 훨씬 더 많은 열을 뿜어내기 때문에, 냉각 기술은 이제 AI 산업의 병목이 되고 있다.
데이터센터 냉각이란 무엇인가 — 기본 원리부터
왜 서버는 이렇게 뜨거워지는가
CPU와 GPU는 전기 저항이 있는 반도체 소자다. 전류가 흐를 때마다 저항에 의해 에너지 일부가 열로 변환된다. 고성능 AI 학습용 GPU 하나가 소비하는 전력은 700W를 넘기도 하는데, 이 전력의 상당 부분이 결국 열로 방출된다. 랙 하나에 수십 개의 GPU가 꽂히면 작은 방 하나를 난방하는 수준의 열이 나온다.
문제는 반도체가 열에 극도로 민감하다는 점이다. 온도가 일정 임계점을 넘으면 트랜지스터의 누설 전류가 급격히 늘어나고, 연산 오류가 발생하거나 칩이 영구적으로 손상된다. 냉각은 선택이 아니라 물리 법칙이 강제하는 필수 조건이다.
냉각 효율을 측정하는 지표 — PUE
데이터센터 업계는 PUE(Power Usage Effectiveness)라는 지표로 냉각 효율을 측정한다. 계산식은 단순하다: 시설 전체 소비 전력을 IT 장비 소비 전력으로 나눈 값이다. PUE가 1.0이면 냉각에 전력을 전혀 쓰지 않는 이상적인 상태고, 2.0이면 IT 장비만큼의 전력을 냉각에 추가로 쓴다는 뜻이다. 업계 평균은 대략 1.5 안팎이지만, 최신 하이퍼스케일 데이터센터는 1.1대까지 낮추기도 한다.
공기 냉각은 어떻게 작동하는가 — 가장 오래된 방법의 한계
핫 아일/콜드 아일 구조
가장 널리 쓰이는 방식은 공기 냉각이다. 서버 랙을 배치할 때 차가운 공기가 들어오는 면(콜드 아일)과 뜨거운 공기가 나오는 면(핫 아일)을 교대로 배열한다. 에어컨 시스템이 바닥 아래 또는 천장에서 냉기를 공급하면, 서버 팬이 그 냉기를 빨아들여 칩을 식히고 뜨거운 공기를 반대편으로 내보낸다. 1990년대부터 쓰인 이 구조는 지금도 전 세계 대부분의 데이터센터에서 기본 골격으로 작동한다.
그런데 공기는 열을 옮기는 능력이 물에 비해 훨씬 낮다. 같은 부피의 물은 공기보다 약 3,500배 더 많은 열을 흡수할 수 있다. AI GPU처럼 단위 면적당 발열이 극단적으로 높아지면, 공기만으로는 물리적으로 열을 빼내는 속도가 따라가지 못한다.
공기 냉각의 한계는 기술 문제가 아니라 물리 문제다 — 공기가 열을 옮기는 속도 자체가 AI 시대의 발열량을 따라가지 못한다.
자유 냉각(Free Cooling)의 영리한 활용
북유럽 국가들은 오래전부터 외부 차가운 공기를 직접 끌어들이는 '자유 냉각' 방식을 활용해 왔다. 핀란드 헬싱키 외곽에는 해수를 냉각수로 쓰는 데이터센터가 실제로 운영 중이다. 바닷물로 서버를 식힌 뒤 따뜻해진 물을 인근 지역 난방망에 공급하는 구조인데, 냉각 비용을 줄이면서 폐열을 재활용하는 드문 사례다. 기후가 온난한 지역에서는 이 방식을 연중 사용하기 어렵지만, 계절에 따라 혼합 운용하는 것만으로도 PUE를 크게 낮출 수 있다.
액체 냉각은 어떻게 다른가 — AI 시대의 주류가 된 기술
직접 액체 냉각(DLC)과 냉각판 방식
액체 냉각의 가장 일반적인 형태는 냉각판(cold plate) 방식이다. CPU나 GPU 칩 위에 금속 냉각판을 직접 부착하고, 그 안으로 냉각수를 흘려보낸다. 냉각수는 칩의 열을 흡수해 외부 열교환기로 이동하고, 거기서 열을 방출한 뒤 다시 순환한다. 공기를 거치지 않고 열원에서 직접 열을 빼내기 때문에 효율이 훨씬 높다.
엔비디아의 최신 AI 가속기 플랫폼은 냉각판 방식을 기본 지원하도록 설계되어 있다. 데이터센터 운영자 입장에서는 기존 공기 냉각 인프라에 배관 시스템을 추가해야 하는 초기 비용이 부담이지만, 장기적으로 전력 비용 절감 효과가 크다.
침수 냉각 — 서버를 통째로 담근다
더 극단적인 방법은 침수 냉각(immersion cooling)이다. 서버 보드 전체를 전기가 통하지 않는 특수 액체에 담가버린다. 이 액체는 광물유 기반이거나 불소계 화합물인 경우가 많다. 열이 발생하면 액체가 직접 흡수하고, 일부 방식에서는 액체가 끓어오르면서 기화열로 냉각하는 2상(two-phase) 침수 냉각도 사용된다.
침수 냉각의 놀라운 점은 서버 팬이 필요 없다는 것이다. 팬 소음도 없고, 팬 전력 소비도 없다. 실제로 침수 냉각을 도입한 일부 시설에서는 냉각 관련 전력 소비가 기존 대비 절반 이하로 줄었다는 보고가 있다. 다만 서버를 액체에서 꺼내 유지보수하는 작업 절차가 완전히 달라지기 때문에, 운영 인력 재교육이 필수다.
침수 냉각은 서버를 '고장 나지 않게' 하는 게 아니라, 열이라는 물리적 제약 자체를 다른 차원으로 옮겨버리는 접근이다.
AI 워크로드가 냉각 설계를 어떻게 바꾸고 있는가
발열 밀도의 급격한 상승
10년 전 일반 서버 랙의 전력 밀도는 랙당 5~10kW 수준이었다. 지금 AI 학습용 GPU 클러스터 랙은 랙당 100kW를 넘기는 경우도 있다. 같은 공간에서 10배 이상의 열이 나오는 셈이다. 기존 공기 냉각 인프라로는 이 밀도를 감당하는 것이 물리적으로 불가능하다.
이 변화는 데이터센터 건물 설계 자체를 바꾸고 있다. 바닥 하중, 배관 경로, 전력 공급 용량, 심지어 건물 층고까지 AI 워크로드를 염두에 두고 다시 설계되고 있다. 기존 건물을 AI 데이터센터로 전환하려다 구조적 한계에 부딪히는 사례도 드물지 않다.
냉각수 사용량 문제 — 물 부족과의 충돌
액체 냉각이 확산되면서 데이터센터의 물 소비량도 주목받고 있다. 증발식 냉각탑을 쓰는 대형 데이터센터는 하루에 수백만 리터의 물을 소비할 수 있다. 물 부족이 심각한 지역에 데이터센터가 들어서면 지역 사회와 갈등이 생기기도 한다. 이 때문에 일부 업체는 냉각수를 재순환하거나 외기를 최대한 활용해 물 소비를 줄이는 방향으로 설계를 전환하고 있다.
(Opinion: 냉각 기술의 발전 속도가 AI 칩의 발열 증가 속도를 따라가고 있는지는 솔직히 불확실하다. 침수 냉각이나 액체 냉각이 빠르게 보급되고 있지만, 데이터센터 인프라는 한번 지으면 수십 년을 쓰는 구조다. 지금 짓는 시설이 5년 후 AI 칩의 발열을 감당할 수 있을지, 업계 전체가 조용히 도박을 하고 있는 것처럼 보인다.)
자주 묻는 질문
데이터센터 냉각에 드는 비용은 얼마나 되나요?
시설 규모와 냉각 방식에 따라 크게 다르지만, 일반적으로 데이터센터 운영 비용의 30~40%가 냉각 관련 전력 비용으로 추정된다. 대형 하이퍼스케일 시설의 경우 연간 냉각 전력 비용만 수백억 원에 달하는 경우도 있다. 이 때문에 PUE를 0.1만 낮춰도 수십억 원의 절감 효과가 생긴다.
침수 냉각을 쓰면 서버가 고장 나지 않나요?
침수 냉각에 쓰이는 유전체 액체는 전기가 통하지 않도록 설계된 특수 물질이라 서버 부품에 직접적인 손상을 주지 않는다. 오히려 온도 변동이 줄어들어 부품 수명이 늘어난다는 보고도 있다. 다만 일반 냉각수(물)를 직접 쓰면 당연히 합선이 발생하므로, 반드시 전용 유전체 액체를 사용해야 한다.
데이터센터 냉각 기술이 기후 변화에 미치는 영향은 무엇인가요?
냉각에 쓰이는 전력 자체가 탄소 배출과 직결되고, 일부 냉매 물질은 온실 효과가 강한 화합물이기도 하다. 업계는 재생에너지 전력 사용 확대와 냉매 전환을 동시에 추진하고 있지만, AI 수요 증가로 인한 절대적인 에너지 소비량 증가를 상쇄하기에는 아직 역부족이라는 시각이 많다.
AI 모델 하나를 학습시키는 데 드는 전력이 수백 가구의 연간 전력 소비량과 맞먹는다는 추정이 나오는 시대다. 그 전력의 상당 부분은 연산이 아니라 열을 없애는 데 쓰인다. 냉각 기술이 발전할수록 더 강력한 AI를 돌릴 수 있고, 더 강력한 AI는 더 많은 열을 만든다. 이 순환이 어디서 멈출지, 아직 아무도 명확한 답을 갖고 있지 않다.
댓글
댓글 쓰기