[기고] 첨단 데이터센터 냉각의 과제와 해결 방안

첨단 데이터센터는 전원 공급, 열 관리, 실시간 모니터링이 유기적으로 연동되는 통합적인 생태계 접근 방식을 필요로 한다.
액체 냉각은 AI 규모의 데이터센터에 필수적이며, 하이퍼스케일 데이터센터 사업자들은 공랭식으로는 효율적으로 처리할 수 없는 높은 연산 밀도를 지원하기 위해 액체 냉각 방식 데이터센터를 구축하고 있다.
800V DC 전원 분배와 스마트 모니터링, AI 기반 유지관리 기술을 결합하면 데이터센터는 높은 연산 밀도를 지원하면서도 에너지 낭비를 크게 줄일 수 있다.

글_ 도널 맥카시(Donal McCarthy) 데이터센터 전원부문 시장 세그먼트 디렉터, 아나로그디바이스(ADI)

데이터센터는 데이터, AI, 그리고 복잡한 연산 워크로드에 대한 수요가 급증함에 따라 빠르게 변화하고 확장되고 있다. 현재 데이터센터는 두 가지 중요한 과제에 직면해 있다. 하나는 서버 랙 내부에 지속적으로 증가하는 하드웨어 집적도를 효율적으로 구동할 수 있는 전력을 공급하는 것이고, 다른 하나는 그 과정에서 발생하는 열을 효과적으로 냉각하는 것이다.

최신 데이터센터, 특히 AI 및 머신러닝을 위해 구축된 데이터센터는 더 작은 공간에 막대한 연산 능력을 집적하고 있다. 더 많은 트랜지스터, 고밀도의 GPU 클러스터, 그리고 고성능 가속기의 사용은 전력 소비 증가와 함께 제한된 공간 내에 많은 열을 발생시킨다.

데이터센터의 제약 요인은 이제 마루 면적이나 전원 공급 능력에서 열 방출 능력으로 이동하고 있다. 전통적인 데이터센터 사업자에서부터 하이퍼스케일 사업자에 이르기까지 업계 전반에서 이러한 열 관리 전환점(thermal inflection point)은 시스템의 설계, 운영, 최적화 방식을 근본적으로 재검토하도록 만들고 있다.

열 한계

급격히 높아지는 전력 밀도

기존 데이터센터 랙은 수십 kW 수준에서 운영된다. 그러나 챗GPT와 같은 대규모 언어 모델(LLM)을 처리하는 AI 워크로드는 GPU 랙당 40kW ~ 60kW의 전력을 필요로 한다. AI 학습과 추론을 위해 특별히 구축된 차세대 하이퍼스케일 ‘AI 팩토리’는 이미 랙당 전력밀도가 100kW를 넘어섰으며, 향후 설계에서는 랙당 500kW ~ 1MW를 목표로 하고 있다.

확장성이 떨어지는 공랭 방식

공기는 열 전달 매체로서 효율이 낮다. 연산 집적도가 높아질수록 공기는 열을 충분히 빠르게 제거하지 못하며, 그 결과 공기 흐름 증가, 팬 전력 소비 증가, 랙 수준의 복잡성 증가가 불가피해진다. 기존의 CRAC(computer room air conditioner)/CRAH(computer room air handler) 시스템은 랙당 약 50kW ~ 100kW를 초과하는 환경에서는 실용성이 떨어지고 비용 부담도 커진다.

증가하는 열 관련 위험

냉각성능이 충분하지 않으면 시스템 성능 저하, 장비 고장, 부품 수명 단축, 운영 비용 증가를 초래할 수 있다. 이제 데이터센터에서 성능, 가동 시간, 그리고 수용 용량을 제한하는 주요 요소는 공간이나 전력이 아니라 열 관리가 되고 있다.

열을 제거하는데 사용되는 모든 전력은 컴퓨팅에 사용되지 못하는 전력이다.

전력과 냉각에 대한 재고 필요

프로세서 전력이 증가하고 칩 집적도가 높아짐에 따라 이제 발열은 기존 공랭식 시스템이 효율적으로 또는 경제적으로 처리할 수 있는 수준을 넘어가고 있다. 이러한 한계는 액체 냉각(liquid cooling)의 도입을 촉진하고 있다. 이는 공기보다 훨씬 효과적으로 열을 제거할 수 있는 열 관리 방식으로의 근본적인 전환을 의미한다. 이제 냉각 기술은 전원 공급, 랙 배치, 공기 흐름과 함께 진화하고 있으며, 이러한 통합적 접근 방식은 하이퍼스케일 AI 데이터센터가 기존의 집적도 한계를 뛰어넘을 수 있게 해준다.

액체 냉각 솔루션

액체는 우수한 열전도 특성을 바탕으로 열 발생원에서 직접 열을 제거한다. 추가적인 복잡성과 비용이 수반되지만, 액체 냉각으로의 전환은 이미 진행 중이다. 하이퍼스케일 사업자들은 100% 액체 냉각 시설을 구축하고 있다. 기존 데이터센터의 경우, 고집적 랙에는 액체 냉각을 적용하고 나머지 영역에는 공기 냉각을 사용하는 하이브리드 방식을 채택하고 있다. 액체 냉각은 오늘날의 열 부하를 처리하기 위해서뿐만 아니라, 모든 규모의 데이터센터에서 증가하는 AI 기반 워크로드를 지속적으로 지원하기 위해서도 필수적이다.

열 발생 방지

데이터센터 사업자는 열을 제거하는 것과 열 발생 자체를 줄이는 것 사이에서 균형을 맞춰야 하며, 이 같은 노력은 단순한 열 관리를 넘어 전체 전원 공급 체인으로 확대되어야 한다. 더 중요한 것은 열원 자체에서부터 발생하는 발열을 최소화하는 것이다. 이를 위해 전력 변환 효율을 높이고, 저항 손실을 줄이며, 전압 조정을 최적화함으로써 열로 낭비되는 에너지를 줄여야 한다. 이렇게 하면 냉각이 문제가 되기 전에 냉각 수요 자체를 줄일 수 있다.

미래 지향적인 전원 공급: 800V DC 전원 분배

AI 규모의 랙은 기존 전력 시스템에는 커다란 과제를 안겨주고 있다. 12V, 48V, 그리고 415VAC 시스템은 많은 양의 구리 배선, 부피가 큰 전원공급장치(PSU), 그리고 비효율적인 전력 변환 단계를 필요로 하며, 이는 열 발생을 증가시킨다. 이에 따라 업계는 도체 사용량을 줄이고, 저항 손실을 감소시키며, 전원 공급 구조를 단순화할 수 있는 800V DC 전원 분배 방식으로 전환하고 있다.

아나로그디바이스(ADI)는 안정적이고 효율적인 전원 공급을 위해 핫스왑 컨트롤러, 고효율 DC-DC 전력 변환, 전력 모니터링, 그리고 첨단 보호 기능을 통해 800V DC 아키텍처를 지원하고 있다.

랙 수준에서의 인텔리전스

첨단 모니터링 시스템은 전압, 전류, 온도를 실시간으로 추적하여 자원을 정밀하게 할당할 수 있도록 한다. 필요하지 않은 상황에서 냉각 펌프를 최대 출력으로 구동하는 것은 에너지 낭비일 뿐이다. 정밀한 계측과 저잡음 증폭기(LNA)와 같은 정밀 부품을 사용한 전류 감지 션트 신호 측정은 효율적인 전원 공급과 열 관리에 필수적이다.

데이터센터 사업자들은 안정성을 유지하기 위해 시스템을 100% 용량이 아닌 약 99.95% 수준의 전력으로 운용한다. ADI의 모니터링 솔루션은 이러한 전력 수준을 실시간으로 추적하여 사업자가 시스템의 성능과 수명 간의 균형을 맞출 수 있도록 부하 구성을 동적으로 조정하게 해준다.

AI가 발전함에 따라, 더 많은 전력과 더 강력한 데이터센터에 대한 수요가 증가하고 있으며, 이를 효율적으로 관리하기 위한 인텔리전스도 함께 발전하고 있다. AI는 스마트 어시스턴트 역할을 수행하며 센서 데이터를 처리해 패턴을 식별하고, 장애를 예측하며, 조정을 자동화함으로써 운영 효율성을 향상시킨다. 이를 통해 사업자는 장애로 인한 다운타임이 발생하기 전에 이상 징후를 감지할 수 있으며, 실시간 워크로드에 따라 냉각 시스템을 동적으로 조정할 수 있다. 그 결과, 데이터센터 유지관리 방식은 사후 대응형에서 사전 예방형으로 전환되고 있다.

랙 수준에서, 다음과 같은 특수한 부품들이 이러한 발전을 가능하게 한다.

• 핫스왑 컨트롤러와 보호 IC는 전원이 인가된 상태에서의 장비 연결 및 제거를 관리하며, 돌입 전류(inrush current)를 제한하고, 전압 스파이크를 방지하며, 이상 상태를 감지하고, 안전한 운용을 보장한다. 이는 800V 전원 공급과 메가와트급 부하 환경에서 특히 중요하다.

• 전압 조정 및 DC-DC 전원 변환은 고효율 전압 레귤레이터와 다상 컨트롤러를 사용하여 800V DC를 GPU, CPU, 메모리 및 기타 부품이 요구하는 전압으로 변환한다. ADI의 솔루션은 전력 변환 효율을 최적화하여 손실과 열 발생을 최소화한다.

• 디지털 텔레메트리와 열 모니터링은 고밀도 환경에서 실시간 가시성과 제어 기능을 제공하여 사업자가 문제를 감지하고 열 관리 한계를 효과적으로 관리할 수 있도록 해준다.

• 배터리 백업 및 커패시터 기반 백업 시스템은 IT 랙에 전원을 공급하는 백플레인의 전압을 모니터링한다. 전원 공급이 변동되거나 중단될 경우, 이러한 시스템은 필요에 따라 전원을 공급하거나 전하를 흡수한다. 자동차 분야를 위해 처음 개발된 ADI의 배터리 관리 솔루션(BMS)은 전환 과정에서도 중단 없는 운영을 보장한다.

이러한 부품들은 안정적인 고전압 전력 분배와 정밀한 전력·열 관리 제어를 가능하게 하며, 고밀도 액체 냉각 랙을 실용적이고 안전하며 효율적으로 운영할 수 있도록 해준다.

지능형 데이터센터 인프라를 위한 비즈니스 사례

• 액체 냉각은 효율 향상을 통해 전체 에너지 수요를 15 ~ 20% 절감한다.¹ • 더 높은 효율은 전력 비용 절감으로 이어진다. • 탄소 배출을 15 ~ 21% 줄일 수 있으며, 용수 사용량과 보조 전력 소비도 감소시킬 수 있다.¹

새로운 아키텍처와 첨단 기술은 데이터센터의 성능을 측정 가능한 수준으로 향상시킨다.

• 정밀 센싱 기술과 AI 기반 유지관리는 다운타임을 줄이고 장비 수명을 연장하는 데 도움을 준다.

• 지능형 제어 시스템은 자원 공급을 실제 수요에 맞춰 조정함으로써 에너지 효율 향상에 기여한다.

• 액체 냉각은 기존 공간 내에서 전례 없는 수준의 연산 성능을 구현할 수 있게 한다.

액체 냉각 방식을 도입한 기업은 일반적으로 운영 비용 절감, 장애 발생 감소, 그리고 지속가능성 목표 달성 측면에서 효과를 누릴 수 있으며, 이러한 이점은 데이터센터 운영 전반에 걸쳐 나타난다.

미래를 향한 길을 열다

미래의 데이터센터는 전력 관리, 센싱, 광학 연결, 배터리 관리에 이르기까지 다양한 첨단 부품들이 유기적으로 협력하는 정교한 생태계가 될 것이다. 이러한 통합적 접근 방식은 오늘날의 과제를 해결하는 동시에 미래의 컴퓨팅 수요까지 지원할 수 있게 해준다. 기존 데이터센터를 개조하든, 신규 데이터센터를 구축하든, 액체 냉각은 모든 규모의 데이터센터가 디지털 혁신의 핵심 거점 역할을 지속할 수 있도록 지원할 것이다.

데이터센터의 혁신은 단순히 열 관리와 전력 효율 향상에만 국한되지 않는다. 이는 새로운 가능성의 시대를 열어가는 과정이다.

참고 문헌

¹ Zachary Skidmore. “Microsoft Study Finds Liquid Cooling Can Cut Data Center Emissions by up to 21%”. Data Centre Dynamics, May 2025.

---

저자 소개

도널 맥카시(Donal McCarthy)는 아일랜드 코크대학교에서 전기전자공학 학사(B.E.E.) 학위를, 미국 보스턴칼리지에서 경영학 석사(M.B.A.) 학위를, 더블린의 아일랜드 경영연구원에서 마케팅 디플로마를 받았다. 그는 M/A-COM에서 설계 엔지니어로 경력을 시작했으며, 이후 힛타이트(Hittite)에서 필드 세일즈 엔지니어와 마케팅 업무를 담당했다. 또한 아나로그디바이스(Analog Devices)에서 마케팅 매니저와 디렉터 등 다양한 관리직을 역임하며 반도체 및 전자산업 분야에서 폭넓은 경험을 쌓아왔다.